التحيّز في الذكاء الاصطناعي

كيف يبدأ التحيّز؟

تبدو البيانات في البداية محايدة، كأنها أرقام وجداول بلا رأي، لكنها في مشروعات الذكاء الاصطناعي قد تحمل تحيّزًا خفيًّا. وغالبًا يبدأ من جمع البيانات:

• مستشفى يجمع بيانات مرضى من منطقة واحدة لسنوات: يتعلم النموذج نمط المرض في تلك المنطقة فقط، فيخطئ كثيرًا عند استخدامه في مدينة أخرى.
• شركة تجمع بيانات عملائها من تطبيق الهاتف فقط: الفئات التي لا تستخدم التطبيق تصبح ممثَّلة تمثيلًا ضعيفًا رغم أنها قد تكون جزءًا كبيرًا من السوق.

الفكرة العامة: الاعتماد على مصدر واحد أو قناة واحدة يعطي صورة ناقصة عن الواقع.

ثلاث مشكلات يسببها التحيّز غير المرئي

1. دقة تحليل غير حقيقية: النموذج يرى جزءًا من الصورة ويظنه الكل، كنظام يتنبأ بتسرب الطلبة تدرّب على مدرسة خاصة واحدة فيظن أن أسباب التسرب هي ما يراه هناك فقط.
2. انخفاض الدقة على بيانات جديدة: عند تجربته في بيئة أو منطقة مختلفة يعطي قرارات متقلبة لا يُعتمد عليها.
3. ظلم بعض الفئات: كرفض طلبات قروض لفئة اجتماعية بشكل متكرر، أو تقليل فرص متقدمين من مناطق محددة، أو تجاهل مؤشرات مرض عند مجموعة من المرضى. والنتيجة الأخطر ضعف ثقة الناس في أنظمة الذكاء الاصطناعي.

أنواع التحيّز

تنبّه الدوسية إلى أن ليس كل تحيّز سيئًا: المشكلة الحقيقية ليست في وجوده بحد ذاته، بل في وجود تحيّز غير مرئي وغير معترف به، خاصة في بيانات التدريب وفي المراحل الأولى من تصميم المشروع، لأن النموذج المبني عليه قد يتخذ قرارات تمس حياة الناس: قبول الطلاب، وتوزيع الموارد، ومنح القروض، والقرارات الطبية.

خطوات للحد من التحيّز

1. تنويع مصادر البيانات والعينات لتمثيل كل الفئات والظروف، وتجنب الاعتماد على منطقة واحدة أو قناة واحدة.
2. تحليل البيانات قبل التدريب: فحص التوزيع والنسب والعلاقات بين المتغيرات لاكتشاف التمثيل الناقص.
3. قياس العدالة عبر المجموعات الفرعية وعدم الاكتفاء بـ«دقة عامة».
4. مراجعة القرارات من فريق متعدد التخصصات، وإشراك مختصين في المجال المستهدف كالطب أو التعليم أو القانون.
5. توثيق التحيّزات المعروفة والاعتراف بها، لتتحول من تحيّز غير مرئي إلى تحيّز معروف يمكن التحكم به.

التحيّز يرتبط بنوع البيانات وتمثيلها (أنواع البيانات)، ويكمله جانب آخر من المسؤولية هو الخصوصية.