يا جماعة الخير، السلام عليكم ورحمة الله وبركاته. معكم أخوكم أبو عمر.
قبل فترة، كنا شغالين على مشروع كبير وحساس: نظام ذكاء اصطناعي للموافقة على طلبات القروض في إحدى المؤسسات المالية. الفريق كله كان متحمس، قضينا شهوراً نجمع البيانات، ننظفها، وندرب نموذج تعلم آلة “عصري” من نوع Gradient Boosting. النتائج الأولية على بيانات الاختبار كانت ممتازة، دقة فوق الـ 95%، والكل كان يهلل. أطلقنا النموذج في بيئة تجريبية… وهنا بدأت القصة اللي ما بنساها.
بعد أسبوع، اجتمع معنا مدير قسم الائتمان، وجهه لا يبشر بالخير أبداً. قال لنا بالحرف: “يا جماعة، النظام تبعكم هاد غريب الأطوار! قاعد برفض طلبات لناس سجلهم الائتماني ممتاز، وبالمقابل بوافق لناس المفروض ما ياخدوا موافقة. شو القصة؟”.
شعرنا كأن أحدهم سكب علينا دلواً من الماء البارد. كيف يمكن لنموذج بهذه الدقة أن يتصرف بهذه الطريقة العشوائية؟ المشكلة الأكبر أننا لم نكن نملك إجابة. عندما يسألنا المدير “لماذا تم رفض هذا الطلب؟”، كانت إجابتنا الوحيدة: “لأن النموذج قرر ذلك”. كان نموذجنا قاضياً صامتاً، يصدر أحكامه من داخل صندوق أسود غامض، ونحن نقف أمامه عاجزين. في تلك اللحظة، أدركت أن الدقة وحدها لا تكفي، وأننا نواجه جحيماً حقيقياً اسمه “القرارات الغامضة”.
ما هو “الصندوق الأسود” الذي أخافنا؟
في عالم تعلم الآلة، مصطلح “الصندوق الأسود” (Black Box) يطلق على النماذج التي تكون معقدة لدرجة أنه من شبه المستحيل على البشر فهم آلية عملها الداخلية بشكل كامل. هي تستقبل المدخلات (بيانات العميل)، وتُخرج قراراً (موافقة/رفض)، لكن ما يحدث في الوسط يبقى لغزاً.
نماذج مثل الشبكات العصبونية العميقة (Deep Neural Networks) أو نماذج التعزيز المتدرج (Gradient Boosting) التي استخدمناها، هي أمثلة كلاسيكية على الصناديق السوداء. تتكون من ملايين، بل مليارات، من المعاملات (Parameters) التي تتفاعل مع بعضها بطرق غير خطية شديدة التعقيد. محاولة تتبع قرار واحد عبر هذه المتاهة الرياضية يشبه محاولة تتبع قطرة ماء في محيط هائج.
وهنا يكمن الخطر الحقيقي: اتخاذ قرارات مصيرية (مثل منح قرض، تشخيص مرض، أو حتى في أنظمة العدالة) بناءً على منطق لا نفهمه. هذا لا يفقِدنا الثقة في النظام فحسب، بل يفتح الباب على مصراعيه للتحيزات الخفية والأخطاء الكارثية.
رحلة الإنقاذ: مقدمة إلى الذكاء الاصطناعي القابل للتفسير (XAI)
بعد اجتماعنا المحبط مع مدير الائتمان، عقدنا اجتماعاً طارئاً للفريق التقني. كان واضحاً أننا بحاجة ماسة لفهم “لماذا” يتخذ نموذجنا قراراته. هنا، طرحتُ على الطاولة مفهوماً كنت أقرأ عنه وأجربه في مشاريعي الجانبية: الذكاء الاصطناعي القابل للتفسير (Explainable AI أو XAI).
ببساطة، XAI هو مجموعة من الأدوات والتقنيات التي تهدف إلى جعل مخرجات نماذج تعلم الآلة مفهومة وقابلة للتفسير من قبل البشر. الهدف ليس تبسيط النموذج نفسه (لأننا أحياناً نحتاج لتعقيده لتحقيق دقة عالية)، بل بناء “مترجم” أو “مفسّر” يقف بيننا وبين النموذج ليشرح لنا منطقه.
لماذا نحتاج إلى XAI بشدة؟
- الثقة والمصداقية: لن يثق أي مدير أو عميل بنظام لا يمكنه شرح قراراته.
- التصحيح والتطوير: إذا فهمنا لماذا يخطئ النموذج، يمكننا تصحيح أخطائه بفعالية (هل المشكلة في البيانات؟ أم في سمة معينة؟).
- العدالة والإنصاف: يسمح لنا XAI بكشف ومعالجة التحيزات (Bias) في نماذجنا. هل يرفض النموذج طلبات فئة معينة من المجتمع بشكل غير عادل؟ XAI يساعدنا على الإجابة.
- الامتثال للتشريعات: العديد من القوانين حول العالم (مثل GDPR في أوروبا) بدأت تمنح المستخدمين “الحق في التفسير” (Right to Explanation) للقرارات التي تتخذها الأنظمة الآلية بحقهم.
أسلحتنا في المعركة: تقنيات XAI العملية
هناك مقاربتان رئيسيتان لتحقيق قابلية التفسير. دعونا نستعرضهما مع بعض النصائح العملية من خبرتي.
1. نماذج قابلة للتفسير بطبيعتها (Intrinsically Interpretable Models)
هذه هي النماذج البسيطة التي يمكن فهم منطقها بسهولة بمجرد النظر إليها. من أشهرها:
- الانحدار الخطي واللوجستي (Linear & Logistic Regression): يمكن تفسير تأثير كل سمة (feature) على القرار النهائي من خلال معاملاتها (coefficients). معامل موجب كبير يعني أن زيادة هذه السمة تزيد من احتمالية نتيجة معينة، والعكس صحيح.
- أشجار القرار (Decision Trees): هي عبارة عن مخطط انسيابي من الأسئلة (نعم/لا). يمكنك تتبع أي قرار من الجذر إلى الأوراق وفهم مجموعة القواعد التي أدت إليه.
نصيحة أبو عمر: يا جماعة، مرات البساطة هي الحل. مش دايماً لازمنا أكبر وأعقد موديل. قبل ما تقفز للشبكات العصبونية العميقة، جرب نموذج انحدار لوجستي أو شجرة قرار. إذا كانت الدقة مقبولة، بتكون كسبت الدقة وقابلية التفسير بضربة واحدة. ابدأ بالبسيط، وإذا ما زبط، ساعتها بنروح للأعقد.
2. تقنيات ما بعد التدريب (Post-Hoc Techniques)
هذه هي التقنيات التي نستخدمها لتفسير “الصناديق السوداء” بعد أن يتم تدريبها. هي لا تغير النموذج، بل تحلل سلوكه. أشهر تقنيتين في هذا المجال هما LIME و SHAP.
أولاً: LIME (Local Interpretable Model-agnostic Explanations)
فكرة LIME عبقرية في بساطتها. لتفسير قرار معقد واحد (مثلاً، لماذا تم رفض طلب العميل “س”؟)، يقوم LIME بالآتي:
- يأخذ بيانات العميل “س”.
- ينشئ الكثير من العينات الجديدة المشابهة جداً لبيانات العميل “س” مع تغييرات طفيفة (مثلاً، زيادة الدخل قليلاً، تقليل الدين قليلاً).
- يُمرر كل هذه العينات الجديدة عبر “الصندوق الأسود” ليرى كيف تتغير قراراته.
- أخيراً، يقوم ببناء نموذج “بسيط” (مثل الانحدار الخطي) يعمل فقط في هذه المنطقة المحلية الصغيرة حول العميل “س”، ويشرح لنا القرار الأصلي.
باختصار، LIME يقول: “أنا لا أفهم كل شيء عن هذا النموذج المعقد، لكن في هذه المنطقة الصغيرة المحيطة بهذا القرار تحديداً، يبدو أن النموذج يتصرف كنموذج خطي بسيط، وهذه هي السمات التي أثرت على قراره”.
مثال كود بسيط باستخدام مكتبة lime في بايثون:
import lime
import lime.lime_tabular
import sklearn
import numpy as np
# لنفترض أن لدينا نموذج مدرب اسمه 'trained_model'
# وبيانات تدريب اسمها 'training_data' وأسماء السمات 'feature_names'
# 1. إنشاء المفسّر
explainer = lime.lime_tabular.LimeTabularExplainer(
training_data=training_data,
feature_names=feature_names,
class_names=['Rejected', 'Approved'],
mode='classification'
)
# 2. اختيار العميل الذي نريد تفسير قراره (مثلاً، العميل رقم 50)
instance_to_explain = test_data[50]
# 3. توليد التفسير
explanation = explainer.explain_instance(
instance_to_explain,
trained_model.predict_proba,
num_features=5
)
# 4. عرض التفسير (سيُظهر السمات الخمس الأكثر تأثيراً على القرار)
explanation.show_in_notebook(show_table=True)
ثانياً: SHAP (SHapley Additive exPlanations)
SHAP تقنية أحدث وأكثر قوة، وتعتبر المعيار الذهبي حالياً في تفسير النماذج. هي مبنية على مفهوم “قيمة شابلي” من نظرية الألعاب، وهي طريقة عادلة لتوزيع “المكافأة” (القرار النهائي) بين “اللاعبين” (السمات).
لكل قرار، يقوم SHAP بحساب قيمة لكل سمة تمثل “مساهمتها” في دفع القرار بعيداً عن المتوسط. قيم SHAP الموجبة تدفع القرار نحو الموافقة (مثلاً)، والقيم السالبة تدفعه نحو الرفض.
الجميل في SHAP أنه يقدم:
- تفسيرات محلية (Local): مثل LIME، يشرح قراراً واحداً.
- تفسيرات عامة (Global): يمكن تجميع قيم SHAP لكل البيانات للحصول على فهم عام لسلوك النموذج، مثل معرفة أهم السمات بشكل عام.
مثال كود بسيط باستخدام مكتبة shap:
import shap
import xgboost
# لنفترض أن لدينا نموذج XGBoost مدرب اسمه 'model'
# وبيانات اختبار اسمها 'X_test'
# 1. تحميل JavaScript الخاص بـ SHAP للعرض في المتصفح
shap.initjs()
# 2. إنشاء المفسّر
explainer = shap.TreeExplainer(model)
# 3. حساب قيم SHAP لكل بيانات الاختبار
shap_values = explainer.shap_values(X_test)
# 4. تفسير قرار واحد (العميل الأول في بيانات الاختبار)
# الرسم البياني سيظهر كيف دفعت كل سمة (بالأحمر) أو سحبت (بالأزرق) القرار
shap.force_plot(explainer.expected_value, shap_values[0,:], X_test.iloc[0,:])
# 5. تفسير عام لأهمية السمات
# الرسم البياني سيظهر أهم 20 سمة وتأثيرها العام على القرارات
shap.summary_plot(shap_values, X_test)
نصيحة أبو عمر العملية: في عملي اليومي، أستخدم LIME للفحص السريع على قرار معين يبدو غريباً، لأنه أسرع. لكن عندما أريد أن أفهم النموذج بشكل عميق، أو عندما أحتاج لتقديم تقرير للإدارة أو للعميل، فإن SHAP هو “صاحبي” المفضل. الرسوم البيانية التي ينتجها SHAP (مثل force plot و summary plot) قوية جداً في إيصال الفكرة لجمهور تقني وغير تقني.
كيف طبقنا XAI وأنقذنا الموقف
بالعودة إلى قصة نموذج القروض، هذا ما فعلناه بالضبط. طبقنا SHAP على نموذجنا الغامض.
جلسنا كلنا، الفريق التقني ومدير الائتمان، ونظرنا إلى `summary_plot` الذي أنتجه SHAP. كانت لحظة “وجدتها!” التي لن أنساها. اكتشفنا أن السمة التي كان لها التأثير الأكبر على قرارات الرفض لم تكن “الدخل” أو “سجل الديون” كما توقعنا، بل كانت سمة غريبة: “عدد مرات تغيير العميل لمكان سكنه في آخر 5 سنوات”.
كان النموذج قد “تعلّم” بشكل خاطئ أن الأشخاص الذين ينتقلون كثيراً هم أشخاص غير مستقرين مالياً وبالتالي خطر ائتماني عالٍ. هذا القرار كان يعاقب فئات كثيرة من الناس الجيدين، مثل الشباب في بداية حياتهم المهنية الذين ينتقلون بحثاً عن فرص عمل أفضل، أو حتى العائلات التي تنتقل إلى منزل أكبر. كان النموذج متحيزاً ضد “الحركة”!
هذا التفسير كان بمثابة ضوء كشف لنا كل شيء:
- فهمنا التحيز: أدركنا أن النموذج تعلم قاعدة غير عادلة.
- أصلحنا المشكلة: قمنا بإعادة تدريب النموذج بعد إزالة هذه السمة، وتحسنت جودة قراراته بشكل جذري.
- استعدنا الثقة: مدير الائتمان تفهم المشكلة تماماً لأول مرة. لم يعد يرى النظام كصندوق أسود، بل كأداة منطقية يمكن فهمها وتصحيحها.
بفضل XAI، تحول القاضي الصامت إلى شريك شفاف يمكننا التحاور معه.
خلاصة أبو عمر: الذكاء الاصطناعي ليس سحراً، بل علم له تفسير
يا إخواني وأخواتي المطورين والمهتمين بالتقنية، الذكاء الاصطناعي القابل للتفسير (XAI) لم يعد ترفاً أو إضافة جميلة، بل أصبح جزءاً لا يتجزأ من عملية بناء نماذج تعلم الآلة المسؤولة والجديرة بالثقة.
الدقة العالية رائعة، لكنها بلا قيمة إذا لم نستطع الوثوق بالقرارات الناتجة عنها أو شرحها. سواء كنت تبني نظاماً للتوصية بالأفلام أو نظاماً لتشخيص الأمراض، فأنت بحاجة ماسة لفهم “لماذا”.
نصيحتي الأخيرة لكم: لا تبنوا قضاة صامتين. ابنوا شركاء أذكياء يمكنكم التحاور معهم وفهم قراراتهم. المستقبل ليس فقط للذكاء، بل للذكاء الذي نثق به ونفهمه. 💡
ودمتم سالمين.
