كشف تحقيق جديد في الانحيازات التي تنطوي عليها خوارزميات موقع "تويتر"، أن خوارزمية قص الصور تنحاز إلى أصحاب الوجوه الشابة النحيفة ذات البشرة الفاتحة، وقد أجرى هذا التحقيق بوجدان كولينيتش، وهو طالب دراسات عليا في جامعة "لوزان الاتحادية للفنون التطبيقية" (EFPL) السويسرية، كما أنه نال مكافأة مالية مقابل ذلك.

حسب تقرير لصحيفة The Guardian البريطانية، فإنه على الرغم من أن النتيجة جاءت محرجة للشركة، التي سبق أن اعتذرت للمستخدمين بعد تقارير عن انحياز خوارزمياتها، فإنها تشكِّل أول "مكافأة لكشف علَّة خوارزمية" على الإطلاق في موقع تويتر.

دفعت الشركة مبلغ 3500 دولار أمريكي إلى كولينيتش، الذي كشفَ الانحياز في خوارزمية تويتر، وأنها تعمد إلى تركيز معاينات الصور على الأجزاء (أو الوجوه) التي تعتبرها أكثر إثارة للاهتمام في الصور، وذلك ضمن مؤتمر "ديف كون" Def Con السنوي المخصص لشؤون الأمن السيبراني وسبل مواجهة القرصنة الحاسوبية، ويقام في مدينة لاس فيغاس الأمريكية.

أثبت كولينيتش انحيازَ الخوارزمية من خلال برمجة وجوه ذات ملامح مختلفة، ثم عرضها على خوارزمية قص الصور في موقع تويتر لمعرفة التفاصيل التي ينحاز إليها.

لمَّا كانت الوجوه مبرمجة عن طريق الذكاء الاصطناعي، تمكن كولينيتش من برمجة وجوه متطابقة تقريباً، لكن مع اختلافات دقيقة في نقاط مختلفة تركِّز على أطياف لون البشرة أو عرض الوجه أو نوع الجنس أو العمر، وهكذا أظهر عن طريق النتائج أن الخوارزمية انحازت إلى الوجوه الأصغر سناً والأنحف والأكثر بياضاً على حساب الوجوه الأكبر سناً والأعرض والأغمق لوناً.

رومان شودري، رئيس فريق أخلاقيات الذكاء الاصطناعي في شركة تويتر، قال أمام المؤتمر: "إن تفكيرنا في تحيزات نماذجنا الخوارزمية لا يتعلق فقط بالدراسة الأكاديمية أو التجريبية لهذه الانحيازات… لكن يتعلق أيضاً بالطريقة التي نفكر بها في المجتمع".

كما أضاف: "عادةً ما أستعمل للتعبير عن ذلك عبارة: (الحياة تحاكي الفن أكثر مما يحاكي الفن الحياة)، فنحن عندما ننشئ هذه التحسينات (الفلاتر) على الصور، نُنشئها على هذا النحو، لأننا نعتقد أن هذا هو (الجَمال)، وهذا يؤول بنا إلى برمجة أنظمتنا على ذلك، ثم الدفع بهذه المفاهيم غير الواقعية لتصبح العنوانَ لما تعنيه الجاذبية" وغيرها من تصورات الجمال والفن.

أما الطالب كولينيتش الذي فاز بالجائزة، فقال إن لديه مشاعر مختلطة بشأن المسابقة، وإن "الثغرات الخوارزمية ليست مجرد (أخطاء). ولكي أكون حاسماً، فإن كثيراً من وجوه التكنولوجيا المؤذية ليست مؤذية بفعل الصدفة أو لأخطاءٍ غير مقصودة، بل لأسباب كامنة في تصميمها نفسه".

فقد كان الموقع قد تعرَّض لحملة انتقادات شديدة في عام 2020، بسبب خوارزمية قص الصور، بعد أن لاحظ المستخدمون أنه ينحاز بانتظام إلى الوجه البيضاء على حساب الوجوه السمراء، وحتى إلى الكلاب البيضاء على حساب الوجوه السوداء.

بينما اعتذرت الشركة في البداية قائلة: "لقد أجرى فريقنا اختبارات التحيز قبل إرسال النموذج ولم نجد دليلاً على أي تحيز عنصري أو جنساني في اختباراتنا. لكن الملاحظات الواردة إلينا توضح أن علينا القيام بمزيد من الاختبارات. سنستمر في إطلاعكم على ما نكتشفه، وأي إجراءات نتخذها، وسنجعل مصادر الاختبارات البرمجية مفتوحة؛ حتى يتمكن آخرون من المراجعة وتكرار والاختبار". 

لكن وعلى الرغم من ذلك، وجد محققو تويتر بعد ذلك تحيزاً بسيطاً لصالح الوجوه البيضاء ووجوه الإناث.

دفعت حالة الجدل التي نشأت عن ذلك الشركةَ إلى إطلاق مكافأة لـ"كشف العلل" وأخطاء الانحياز في خوارزمياتها، ووعدت الشركة بتقديم جوائز تقدَّر بآلاف الدولارات للباحثين الذين يُمكنهم إثبات الانحيازات في خوارزمية قص الصور الخاصة بها.