اختبارات التحيز

وقال القائمون على تويتر إن الخوارزمية خضعت أثناء تطويرها لاختبارات تتعلق بالتحيز على أساس الجنس والعرق، لكن "من الواضح أن علينا إجراء المزيد من التحليل".

وفي تغريدة، قال باراغ أغراوال المسؤول الأول عن قطاع التكنولوجيا في تويتر: "أجرينا تحليلاً على نموذجنا حين طرحناه، لكنه بحاجة لتحسين مستمر".

وأضاف أغراوال "أحب هذا الاختبار العام والمفتوح والصارم، وأتوق للتعلم منه".

 

شعر الوجه

وقد بدأ الجدل الأخير حين كان مسؤول في جامعة فانكوفر الكندية، يُدعى كولن مادلاند، يتحرى سبب اختفاء رأس أحد الزملاء أثناء استخدام تطبيق "زوم" للاتصال المرئي. وكانت البرمجية على ما يبدو تعتقد أن رأس الرجل الأسود ضمن الخلفية وتقوم بإزالته.

لكن حين تحدث مادلاند عن الموضوع عبر موقع تويتر، اكتشف أن وجهه - وليس وجه زميله - هو الذي اختير على نحو تكرر بانتظام ليظهر في العرض على تطبيقات الهواتف المحمولة، حتى لو عكس ترتيب الصور.

وقد أدى اكتشافه هذا إلى قيام مستخدمين بسلسلة من التجارب، شهدت على سبيل المثال:

* تفضيل صورة زعيم الأغلبية في مجلس الشيوخ الأميركي أبيض البشرة، ميتش ماكونيل، على صورة الرئيس السابق باراك 

أوباما.

* تفضيل صورة لرجل أبيض يرتدي بدلة على صورة مشابهة لرجل أسود.

واكتشف مدير التصميم في تويتر، دانتلي ديفيز، وهو أسود البشرة، أن التلاعب بصورة مادلاند بإزالة شعر الوجه والنظارة حل المشكلة "بسبب التباين مع بشرته".

وقال في تغريدة ردا على الانتقادات: "أعرف أنكم تعتقدون أنَّ من المرح إغراقي (بالاتهامات)، لكني مستاء من هذا الأمر مثل أي شخص آخر. إلا أني في موقع يساعدني على إصلاحه. وسأفعل".

وأضاف "الخطأ خطأنا بشكل كامل، لا يجب إنكار ذلك".

 

العديد من الأسئلة

وقال زيهان وانغ، وهو أحد مؤسسي شركة "ماجيك بوني" للشبكات العصبية التي استحوذ عليها تويتر: إنَّ الفحوص التي أخضعت لها الخوارزمية في العام 2017 باستخدام مجموعات ثنائية من الوجوه تنتمي لأعراق مختلفة لم تكتشف أي تحيز بناء على العرق أو الجنس.

وأضاف "هناك العديد من الأسئلة التي تتطلب وقتا لفحصها. سنكشف عن المزيد من التفاصيل بعد أن تنتهي الفرق المختصة من فحص الموضوع".

وتوصلت دراسة صادرة عن الحكومة الأميركية العام الماضي إلى أنَّ خوارزميات التعرف على الوجوه تكون على درجة أقل من الدقة في التعرف على وجوه ذوي البشرة السوداء وذوي الأصول 

الآسيوية.