اشتباه نرم‌افزار تشخیص چهره:‌ تطبیق چهره سیاستمداران با مجرمان سابقه‌دار

برنامه تشخیص چهره آمازون از یک نرم‌افزار هوش مصنوعی استفاده می‌کند

این اولین بار نیست که صحت نتایج این نرم‌افزار زیر سوال می‌رود- (Comparitech)

آزمایش‌های جدید نشان می‌دهد که فناوری جنجالی تشخیص چهره آمازون به اشتباه بیش از صد عکس از سیاستمداران بریتانیایی و ایالات متحده را با عکس‌های مجرمان سابقه‌دار در پرونده‌های پلیس مطابقت داده است.

برنامه تشخیص چهره آمازون از یک نرم‌افزار هوش مصنوعی استفاده می‌کند که هویت افراد را از روی ساختار چهره آنها شناسایی می‌کند. مشتریان استفاده از این نرم‌افزار از جمله عبارتند از مجریان قانون و موسسات دولتی ایالات متحده مانند اداره مهاجرت و گمرک (ICE).

این اولین بار نیست که صحت نتایج این نرم‌افزار زیر سوال می‌رود. در سال ۲۰۱۸، اتحادیه آزادی‌های مدنی آمریکا، ۲۸ مورد خطای تطبیق بین تصاویر اعضای کنگره و عکس‌های مجرمان دستگیر شده را پیدا کرد.

شرکت تحقیق و فناوری مقایسه کامپریتک (Comparitech) که بر پایه مطالعات ای‌سی‌ال‌یو (ACLU) شکل گرفته است، با افزودن تصاویر سیاستمداران بریتانیا، ۱۰۶ مورد اشتباه از میان ۱۹۵۹ مورد آزمایش شده را آشکار کرد.

Read More

This section contains relevant reference points, placed in (Inner related node field)

از بین قانونگذاران آمریکایی تطبیق داده شده، به طورمتوسط ۳۲ سیاستمدار به غلط با عکس‌های مجرمان مطابقت پیدا کرده است، و داده‌های پیش‌فرض استفاده شده و مشابه در مطالعات ای‌سی‌ال‌یو سطح اطمینان ۸۰ درصدی را نشان می‌دهد.

کامپریتک با بیان جزئیات این یافته‌ها در یک وبلاگ گفت: «بر اساس این استانداردها، تشخیص چهره آمازون نه تنها بهتر نشده، بلکه بسیار بدتر از آن چیزی است که ای‌سی‌ال‌یو دو سال قبل نشان داده بود.»

«چه شما با استفاده از تشخیص چهره پلیس موافق باشید یا نه، کاملا مشخص است که این طرح هنوز آماده استفاده برای تشخیص هویت بدون نظارت انسانی نیست.»

آمازون به تقاضای ایندیپندنت برای توضیح دادن پاسخ سریع نداد.

پس از پژوهش سال ۲۰۱۸، آمازون گفت که برای اهداف اجرای قانون، سطح اطمینان این نرم‌افزار باید تا ۹۵ درصد باشد، نه حتی ۸۰ درصد که توسط ای سی ال یو استفاده می‌شود.

مت وود، مدیر ارشد هوش مصنوعی در خدمات وب آمازون، با انتشار پستی در وبلاگ خود نوشت: «میزان اطمینان۸۰ درصدی که توسط ای سی ال یو استفاده شده است، برای شناسایی دقیق افراد بسیار پایین است و انتظار می‌رود در این حد از درستی، موارد کاذب مشاهده شود.»

«ما حد ۹۹ درصد را که میزان مهمی در درستی تطبیق افراد است، پیشنهاد می‌کنیم. هنوز بر این نکته تأکید داریم که برای اطمینان از اجرای قوانین نباید از درجه صحت زیر ۹۹ درصد برای شناسایی افراد استفاده شود، و تنها در این صورت است که این تطبیق‌ها به عنوان یک راه درست برای هر موسسه‌ای معنا می‌یابد.» 

© The Independent

بیشتر از جهان