أنظمة التعرف على الوجه رقميا متهمة بـ"العنصرية"
أشارت الدراسة إلى ارتفاع نسبة الإجابة الخطأ عندما تتم مطابقة صورة وجه من ذوي الأصول الأفريقية
اتهمت دراسة للمعهد الوطني للمعايير والتكنولوجيا الأمريكي الكثير من أنظمة التعرف على ملامح الوجه رقميا بالعنصرية، وقالت إنها تجد صعوبة في تحديد هوية الأمريكيين من أصول أفريقية أو آسيوية أو السكان الأصليين، مقارنة بتحديد هوية الأمريكيين من أصول أوروبية.
أشارت الدراسة إلى ارتفاع نسبة الإجابة الخطأ عندما تتم مطابقة صورة وجه من ذوي الأصول الأفريقية أو الآسيوية أو من السكان الأصليين بصورة للشخص نفسه على قاعدة بيانات، وتستخدم هذه التقنية المعروفة باسم مطابقة واحد بواحد في بعض الأعمال، مثل فتح شاشة هاتف ذكي أو فحص كلمة مرور.
شملت الدراسة 189 لوغاريتما (برنامج تحليل بيانات) للتعرف على ملامح الوجه من 99 شركة تكنولوجيا كبرى مثل مايكروسوفت وإنتل وباناسونيك، وذكر المعهد أن شركة أمازون للتجارة الإلكترونية لم تقدم لوغاريتما لاختباره، في حين يواجه اللوغاريتم الخاص بها واسمه ريكوجنيشن للتعرف على ملامح الوجه انتقادات بسبب تحيزاته المرتبطة بالعرق ونوع الجنس.
وأشار موقع "سي نت دوت كوم" المتخصص في موضوعات التكنولوجيا إلى أن الردود الإيجابية الخطأ تزداد في حال مطابقة صور سيدة مقارنة بصورة الرجل، حيث اكتشف المعهد هذه المشكلة تتكرر باستمرار في كل البرامج والأنظمة التي فحصتها، كما أن الردود الإيجابية الخطأ تزداد في حالة كبار السن والأطفال.
وقال باتريك جوتر، خبير الكمبيوتر في المعهد وأحد معدي الدراسة، في بيان "في حين أنه من الخطأ عادة الإدلاء ببيانات عن اللوغاريتمات، إلا أننا وجدنا بالفعل تحيزات ديموغرافية في أغلب هذه اللوغاريتمات".
أضاف "في حين أننا لا نبحث عن السبب المحتمل وراء هذا التباين، فإن نتائج الدراسة يمكن أن تكون مفيدة لصناعة السياسة والمطورين والمستخدمين للتفكير في المحددات والاستخدام المناسب لهذه اللوغاريتمات".
وأشار المعهد إلى أنه عند دراسة البرمجيات التي تستخدم في مطابقة صورة واحدة بعدة صور اكتشف أن احتمالات النتيجة الإيجابية الخطأ تزداد في حال السيدة الأمريكية من أصل أفريقي، وهذه النتيجة مهمة للغاية، لأن الخطأ في مطابقة صورة مع صورة أخرى يمكن أن يؤدي إلى اتهام شخص ما بريء بارتكاب جريمة على سبيل المثال.
