الذكاء الاصطناعي القابل للتفسير (XAI) وانحراف البيانات: لماذا نراقب النموذج بعد النشر؟
XAI and Data Drift
الجواب المختصر
XAI (Explainable AI) يعني جعل قرارات النموذج مفهومة للإنسان. نحتاجه للتأكد أن النموذج لا يتعلم تحيزًا غير مرغوب، ولنثق به ونشرح القرار للمستخدم أو الإدارة، ولكشف الأخطاء كأن يعتمد النموذج على إشارة خاطئة داخل البيانات. وانحراف البيانات (Data Drift): قد يضعف نموذج ممتاز مع الزمن لأن سلوك الناس أو السوق أو الأجهزة يتغير فتنخفض الدقة. ولذلك تُستخدم أدوات مراقبة كـ Evidently AI تقارن بيانات التدريب (المرجع) بالبيانات الحالية وتُنبه إن حدث تغير واضح.
لماذا XAI؟
- للتأكد من عدم تعلّم تحيز غير مرغوب (التحيّز).
- لنثق بالنموذج ونشرح القرار.
- لكشف الأخطاء: قد يعتمد النموذج على إشارة خاطئة.
ماذا نراقب؟
| السؤال | ما يكشفه |
|---|---|
| هل تغير توزيع البيانات؟ | انحراف البيانات |
| هل انخفضت الدقة؟ | تدهور الأداء |
| هل أصبحت التنبؤات منحازة؟ | انحياز جديد |
الفكرة العملية: نعتبر بيانات التدريب مرجعًا وبيانات جديدة حالية، ثم نطلب تقريرًا يقارن بينهما ويحذّر عند تغير واضح. وتكتمل الدورة بإعادة التدريب على بيانات أحدث مع سجلات واضحة. انظر تقسيم البيانات والشبكات العصبية.
مثال على الانحراف
نموذج يتنبأ بطلب رحلات تدرّب على سلوك المسافرين قبل تغيّر قوانين السفر. بعد التغيير تتبدل الأنماط، فتنخفض دقته تدريجيًا حتى لو كان ممتازًا يوم تسليمه. المراقبة تكشف الانحراف مبكرًا فيُعاد التدريب على بيانات أحدث.
- قارن بيانات اليوم ببيانات التدريب دوريًا.
- راقب الدقة والانحياز لا الدقة العامة فقط.
وسجّل تاريخ آخر تدريب ونسخة البيانات المستخدمة، فيسهل تحديد متى يلزم تجديد النموذج.
المصطلحات: عربي ↔ English
- ذكاء اصطناعي قابل للتفسير
- Explainable AI (XAI)
- انحراف البيانات
- Data Drift
- مراقبة النموذج
- Model Monitoring
لماذا يهمّ هذا في BTEC؟
تسليم نموذج لا يعني انتهاء المشروع: المراقبة وإعادة التدريب جزء منه.
أسئلة تجيب عنها هذه الصفحة
- ما هو XAI؟
- ما هو Data Drift؟
مفاهيم مرتبطة
- التحيّز في الذكاء الاصطناعيالتحيّز في الذكاء الاصطناعي هو ظهور فئة في البيانات أكثر من غيرها أو معاملتها بشكل مختلف، فيتعلم النموذج صورة منحرفة عن الواقع ويظلم بعض الفئات.
- مجموعات التدريب والتحقق والاختبار: كيف نقسّم البيانات ولماذا؟نقسّم البيانات إلى تدريب (يتعلم منها النموذج)، وتحقق (لضبط الإعدادات واختيار البنية)، واختبار (تُحفظ بعيدًا لقياس الأداء الحقيقي بعد التدريب). ويجب أن تحافظ المجموعات على نسب الفئات نفسها، وأن يُعزل الاختبار فلا تتلوث بيانات الاختبار.
- الشبكات العصبية: أين نستخدمها وما فوائدها وعيوبها؟الشبكات العصبية مناسبة للبيانات المعقدة (صور، نصوص، صوت) حيث يصعب كتابة قواعد يدويًا. تتعلم العلاقات المعقدة وقد تحقق دقة عالية، لكنها تحتاج بيانات كثيرة وقدرة حسابية، وصعبة التفسير (صندوق أسود)، وقد تقع في فرط التعلم.
- دورة تطوير مشروع ذكاء اصطناعي: من تحديد المشكلة إلى النشر والمراقبةمشروع الذكاء الاصطناعي ليس كودًا فقط، بل دورة تتكرر: تحديد المشكلة، جمع البيانات، تحضيرها وتنظيفها، اختيار النموذج وتجربة أكثر من حل، تقييم النتائج وتحسينها، ثم نشر النموذج ومراقبته والعودة للتحسين.
- الطرق البايزية: كيف نحدّث اعتقادنا عند وصول دليل جديد؟الطرق البايزية تبدأ باعتقاد مبدئي (Prior) ثم تحدّثه بدليل جديد بحسب مدى توافقه (Likelihood) لتصل إلى اعتقاد محدّث (Posterior). القرار = دمج «ما قبل الدليل» مع «قوة الدليل».
عن كاتب الصفحة
مدرّس BTEC IT · الأردن
- نوع المحتوى
- شرح مبني على مادة أحمد دومي — وليس نصًّا رسميًّا من Pearson
- آخر مراجعة
- ملاحظة على المصدر
- تعتمد هذه الصفحة على ملاحظات قصيرة لأحمد دومي عن الموضوع، وأُضيف إليها شرح توضيحي عام ليكتمل الجواب.
- المصدر
- ملاحظات تعلّم الآلة وأدوات الذكاء الاصطناعي (أحمد دومي) — تفسير قرارات الذكاء الاصطناعي ومراقبة النماذج