تواجه تقنية التعرف على الوجه من أمازون المسماة Amazon Rekognition انتقادات جديدة، إذ وجدت دراسة جديدة من مختبر الإعلام في معهد ماساتشوستس للتكنولوجيا MIT Media Lab أن Rekognition قد تكون متحيزة عنصريًا.
وكان أداء التقنية سيء بشكل خاص عند تحديد النساء والنساء ذوات البشرة الداكنة، إذ حددت التقنية بشكل غير صحيح 19 في المئة من الوجوه الأنثوية المعروضة عليه على أنهم رجال.
كما أن النتيجة كانت أسوأ بكثير بالنسبة للنساء ذوات البشرة الداكنة، إذ حددت تقنية Rekognition بشكل غير صحيح ما يصل إلى 31 في المئة منهن على أنهم رجال.
بينما، على سبيل المقارنة، لم ترتكب التقنية أية أخطاء في محاولاتها لتحديد الرجال ذوي البشرة الفاتحة.
ووجد معهد ماساتشوستس للتكنولوجيا أن تقنيات مماثلة طورتها آي بي إم IBM ومايكروسوفت كان أداؤها أفضل من تقنية أمازون Rekognition، إذ حددت تقنية مايكروسوفت بشكل غير صحيح 1.5 في المئة من النساء ذوات البشرة الداكنة على أنهن رجال.
وكانت الباحثة في معهد ماساتشوستس للتكنولوجيا، جوي بولامويني Joy Buolamwini، قد أجرت دراسة مماثلة في شهر فبراير/شباط الماضي، ووجدت أن تقنية التعرف على الوجه من IBM ومايكروسوفت تعاني من التحيز العنصري.
وولدت تلك الدراسة ردة فعل كبيرة للشركات، حيث تعهدت كل من مايكروسوفت و IBM بإعادة تجهيز التقنية لتكون أكثر دقة وتقليل معدلات الخطأ، بينما لم تقم شركة أمازون بإجراء أي تغييرات بعد الدراسة.
موضوعات ذات صلة بما تقرأ الآن:
وكتب أحد الباحثين في الدراسة: “في ضوء هذا البحث، فمن غير المسؤول أن تستمر الشركة في بيع هذه التقنية لأجهزة تطبيق القانون أو الوكالات الحكومية”، فيما رفضت شركة أمازون نتائج الدراسة قائلة إن الباحثين لم يستخدموا أحدث إصدار من Rekognition.
وأوضح مات وود Matt Wood، المدير العام للتعلم العميق والذكاء الاصطناعي في أمازون لخدمات الإنترنت: “ليس من الممكن استخلاص استنتاج بشأن دقه التعرف علي الوجه لأي حاله استخدام، بما في ذلك وكالات تطبيق القانون، استنادًا إلى النتائج التي تم الحصول عليها باستخدام تحليل الوجه”.
ويحاول نظام الحاسب تحديد سمات عامة للصورة، مثل ما إذا كان الشخص الظاهر يرتدي نظارات، أو لديه شارب عبر تقنية تحليل الوجه، بينما تركز تقنية التعرف على الوجه على محاولة العثور على صور مطابقة لوجه معين.
ويحذر الخبراء، وكذلك مؤلفو التقرير، من أنه في حالة استمرار تقنيات التعرف على الوجوه من المعاناة بشأن التحيز العنصري، فإن ذلك يمكن أن يؤدي إلى تنميط المجتمع عرقيًا وغيره من المظالم.
وتدعو بولامويني شركة أمازون إلى معالجة التحيز في تقنيتها، وقالت إن هناك حاجة للقيام بأكثر من مجرد إصلاح للتحيز في التقنية لضمان استخدامها بشكل عادل.
وكتب الباحثون “لا يمكن تجاهل إمكانية إساءة استخدام تقنيات تحليل الوجه، ولا تتقلص التهديدات للخصوصية أو انتهاكات الحريات المدنية حتى مع انخفاض الفوارق الدقيقة”.
وأضافوا “هناك حاجة إلى مزيد من الاستكشافات بشأن الممارسات التجارية والمبادئ الأخلاقية لضمان حماية الفئات الضعيفة والمهمشة من السكان وعدم إلحاق الضرر بها مع تطور هذه التكنولوجيا”.
وكانت أمازون قد واجهت دعوات متكررة لوقف بيع تقنية Rekognition للشرطة، ويعتقد أن مكتب التحقيقات الفيدرالي FBI يختبر التقنية المثيرة للجدل، في حين أكدت بيانات بيع أمازون للتقنية إلى وكالات تطبيق القانون في مدينة أورلاندو بولاية فلوريدا ومقاطعة واشنطن بولاية أوريغون.
