لماذا رفض الأطباء نموذجي؟ قصة الصندوق الأسود الذي كاد أن يدفن مشروعي
يا جماعة الخير، اسمحوا لي أن أبدأ بقصة حصلت معي قبل عدة سنوات، قصة علمتني درساً لن أنساه ما حييت. كنت وقتها أعمل مع فريق على تطوير نظام ذكاء اصطناعي للمساعدة في تشخيص أمراض جلدية معينة من خلال تحليل صور الآفات الجلدية. قضينا شهوراً طويلة في جمع البيانات، تدريب النموذج (كان شبكة عصبونية التفافية معقدة)، وتحسين دقته. والنتيجة؟ كانت مذهلة! وصل النموذج لدقة تفوق 95% في مجموعة الاختبار، بل وتفوق على متوسط أداء أطباء الجلدية في بعض الحالات المحددة.
بكل حماس، ذهبنا لعرض النظام على مجموعة من الأطباء الاستشاريين في أحد المستشفيات. عرضت عليهم النتائج، الأرقام، الرسوم البيانية التي تظهر الدقة العالية. توقعت أن أرى الانبهار على وجوههم، لكن ما وجدته كان مزيجاً من الشك والتحفظ. سألني أحدهم، وهو طبيب خبير تجاوز الخمسين من عمره: “يا أبو عمر، شغلكم مرتب ومبين متعوب عليه. لكن لما النموذج بحكي إنه هاي الشامة ممكن تكون خبيثة، على أي أساس بحكي هيك؟ شو شاف بالصورة خلاه ياخد هاد القرار؟ هل هو لون معين؟ شكل الحواف؟ توزيع غير منتظم للصبغة؟”
تجمدت في مكاني. الحقيقة أنني لم أكن أملك إجابة واضحة. كل ما كنت أستطيع قوله هو: “النموذج تعلم من آلاف الصور، والأوزان داخل الشبكة العصبونية تم ضبطها لتعطي هذا الناتج”. كانت إجابتي تقنية صحيحة، لكنها عملية فارغة تماماً. بالنسبة للطبيب، كان نموذجي مجرد “صندوق أسود” غامض. يعطيه إجابة، لكن لا يبررها. قال لي الطبيب بحكمة: “يا ابني، أنا ما بقدر آخذ قرار ممكن يغير حياة مريض بناءً على توصية من آلة ما بعرف كيف بتفكر. الثقة أهم من الدقة”.
كانت تلك اللحظة بمثابة صفعة أيقظتني. لقد ركزت كل جهدي على “ماذا” يقرر النموذج، وتجاهلت تماماً “لماذا” يقرره. من هنا بدأت رحلتي الحقيقية مع عالم الذكاء الاصطناعي القابل للتفسير (Explainable AI)، أو كما يعرف اختصاراً بـ XAI.
ما هو “الصندوق الأسود” في الذكاء الاصطناعي؟
قبل أن نغوص في الحلول، دعونا نفهم المشكلة جيداً. “الصندوق الأسود” (Black Box) هو مصطلح نستخدمه لوصف نماذج الذكاء الاصطناعي، خاصة نماذج التعلم العميق (Deep Learning) وبعض النماذج المعقدة مثل Gradient Boosting، التي يصعب أو يستحيل على البشر فهم آلية عملها الداخلية.
تخيل أنك تعطي هذا الصندوق مدخلات (مثلاً، صورة قطة)، فيعطيك مخرجات صحيحة (كلمة “قطة”). أنت تعرف أنه يعمل، لكنك لا تعرف كيف توصل إلى هذه النتيجة. الشبكات العصبونية العميقة، على سبيل المثال، تحتوي على ملايين، بل مليارات من “الأوزان” أو المعاملات التي يتم ضبطها تلقائياً أثناء عملية التدريب. محاولة تتبع مسار قرار واحد عبر هذه الشبكة المعقدة يشبه محاولة تتبع قطرة ماء واحدة في محيط هائج. هذا الغموض هو أصل المشكلة.
الضوء في آخر النفق: встречайте الذكاء الاصطناعي القابل للتفسير (XAI)
الذكاء الاصطناعي القابل للتفسير (XAI) هو مجموعة من التقنيات والأساليب التي تهدف إلى جعل قرارات نماذج الذكاء الاصطناعي مفهومة وشفافة للبشر. الهدف ليس فقط معرفة “ماذا” كان القرار، بل فهم “لماذا” تم اتخاذ هذا القرار بالذات.
بدلاً من الصندوق الأسود الغامض، يهدف XAI إلى تقديم تفسيرات منطقية، مثل:
- “تم تصنيف هذا الطلب كاحتيال بسبب أن قيمة المعاملة عالية جداً بالنسبة لتاريخ العميل، وتمت من موقع جغرافي غير معتاد.”
- “تم تشخيص هذه الصورة على أنها علامة محتملة لمرض ما بسبب عدم انتظام الحواف ووجود تباين لوني في المنطقة العلوية اليمنى.”
هذا التحول من الغموض إلى الوضوح هو ما يعيد بناء الثقة المفقودة.
لماذا نحتاج بشدة إلى XAI؟ (أكثر من مجرد فضول تقني)
قد يظن البعض أن التفسير مجرد إضافة لطيفة، لكنه في الحقيقة ضرورة حتمية لعدة أسباب جوهرية.
بناء جسور الثقة
كما تعلمت من قصتي مع الأطباء، لا يمكن للخبراء (أو حتى المستخدمين العاديين) أن يثقوا في نظام لا يفهمونه، خاصة عندما تكون المخاطر عالية. سواء كان طبيباً يتخذ قراراً طبياً، أو قاضياً يستخدم نظاماً للمساعدة في تقييم احتمالية عودة المتهم للجريمة، أو مسؤول توظيف يستعين بنظام لفرز السير الذاتية، فإن الثقة هي حجر الأساس للاعتماد على هذه الأنظمة.
تصحيح الأخطاء وتطوير النماذج (Debugging on Steroids)
الحكي بينا، نماذجنا ليست مثالية ودائماً ترتكب الأخطاء. عندما يخطئ نموذج الصندوق الأسود، يكون من الصعب جداً معرفة سبب الخطأ. هل هو بسبب مشكلة في البيانات؟ هل تعلم النموذج علاقات زائفة (Spurious Correlations)؟
XAI يعمل كأداة تصحيح أخطاء خارقة. من خلال فهم “لماذا” أخطأ النموذج، يمكننا تحديد نقاط الضعف في بياناتنا أو في بنية النموذج نفسه وإصلاحها بشكل فعال.
العدالة والأخلاق: كشف التحيزات الخفية
نماذج الذكاء الاصطناعي تتعلم من البيانات التي نغذيها بها. وإذا كانت هذه البيانات تحتوي على تحيزات مجتمعية (سواء كانت عرقية، جنسية، أو غيرها)، فإن النموذج سيتعلم هذه التحيزات ويعززها. قد يقوم نظام توظيف بتفضيل الرجال على النساء ليس لأنهم أكفأ، بل لأن البيانات التاريخية كانت تحتوي على عدد أكبر من الموظفين الرجال. XAI يساعدنا على كشف هذه التحيزات الخفية من خلال إظهار الميزات التي يعتمد عليها النموذج لاتخاذ قراراته، مما يمكننا من بناء أنظمة أكثر عدلاً وإنصافاً.
الامتثال للقوانين والتشريعات
في أجزاء كثيرة من العالم، بدأت تظهر قوانين وتشريعات تمنح الأفراد “الحق في التفسير” (Right to Explanation). على سبيل المثال، اللائحة العامة لحماية البيانات (GDPR) في أوروبا تمنح المستخدمين الحق في الحصول على تفسير للقرارات الآلية التي تؤثر عليهم بشكل كبير. بدون أدوات XAI، يصبح الامتثال لهذه القوانين شبه مستحيل.
أدواتنا لفتح الصندوق الأسود: LIME و SHAP
حسناً يا أبو عمر، الكلام النظري جميل، لكن كيف نطبق هذا عملياً؟ لحسن الحظ، طور مجتمع الذكاء الاصطناعي أدوات قوية لمساعدتنا. سأركز على اثنتين من أشهر هذه الأدوات وأكثرها استخداماً: LIME و SHAP.
تقنية LIME: المفسِّر المحلي الوفي
LIME (Local Interpretable Model-agnostic Explanations) هي تقنية ذكية جداً. فكرتها بسيطة: بما أن النموذج المعقد (الصندوق الأسود) صعب الفهم ككل، دعنا نحاول فهم قراراته على المستوى المحلي، أي لكل حالة على حدة.
ما يفعله LIME هو أنه يأخذ حالة واحدة (مثلاً، صورة معينة أو طلب قرض معين)، ويقوم بإنشاء “جوار” من البيانات المشابهة لها مع تغييرات طفيفة. ثم يقوم بتدريب نموذج بسيط وقابل للتفسير (مثل الانحدار الخطي) على هذا الجوار الصغير فقط، لكي “يقلد” سلوك النموذج المعقد في هذه المنطقة المحددة. هذا النموذج البسيط هو الذي يعطينا التفسير.
نصيحة من أبو عمر: استخدم LIME عندما تحتاج إلى تفسير سريع ومنطقي لقرار فردي وتقديمه لشخص غير تقني. تفسيراته عادة ما تكون سهلة الفهم (“هذه الميزات الثلاث ساهمت بشكل إيجابي في القرار، بينما هاتان الميزتان ساهمتا بشكل سلبي”).
لنفترض أن لدينا نموذجاً يتنبأ بما إذا كان البريد الإلكتروني هو سبام أم لا. يمكننا استخدام LIME لتفسير قراره على بريد إلكتروني معين:
# مثال توضيحي باستخدام بايثون ومكتبة LIME
# لنفترض أن لدينا نموذجاً مدرباً اسمه 'model'
# و 'vectorizer' لتحويل النص إلى أرقام
# و 'email_text' هو نص البريد الذي نريد تفسيره
import lime
import lime.lime_text
from sklearn.pipeline import make_pipeline
# إنشاء خط أنابيب يجمع بين المحول والنموذج
c = make_pipeline(vectorizer, model)
# إنشاء مفسِّر للنصوص
explainer = lime.lime_text.LimeTextExplainer(class_names=['ham', 'spam'])
# توليد التفسير لبريد إلكتروني معين
exp = explainer.explain_instance(email_text, c.predict_proba, num_features=6)
# طباعة التفسير أو عرضه كرسم بياني
# سيعرض LIME الكلمات التي ساهمت أكثر في قرار 'spam' أو 'ham'
exp.show_in_notebook(text=True)
تقنية SHAP: عدالة نظرية الألعاب في خدمة التفسير
SHAP (SHapley Additive exPlanations) هي تقنية أخرى، وتعتبر أكثر قوة وتماسكاً من الناحية النظرية. تستند SHAP إلى مفهوم “قيم شابلي” من نظرية الألعاب التعاونية. الفكرة هي توزيع “المكافأة” (أي نتيجة التنبؤ) بشكل عادل بين “اللاعبين” (أي ميزات النموذج).
بمعنى آخر، تحسب SHAP مساهمة كل ميزة في دفع تنبؤ النموذج بعيداً عن المتوسط. هي لا تجيب فقط على سؤال “ما هي الميزات المهمة؟” بل تجيب على “ما مقدار مساهمة كل ميزة في هذا القرار المحدد؟”.
نصيحة من أبو عمر: استخدم SHAP عندما تحتاج إلى فهم شامل لسلوك النموذج، وليس فقط القرارات الفردية. رسوم SHAP البيانية (مثل الـ Summary Plot) رائعة جداً في إعطائك نظرة عامة على الميزات الأكثر تأثيراً عبر مجموعة البيانات بأكملها، وكيفية تأثيرها (إيجاباً أم سلباً).
باستخدام نفس مثال السبام، يمكن لـ SHAP أن يعطينا تصوراً بصرياً لمساهمة كل كلمة:
# مثال توضيحي باستخدام بايثون ومكتبة SHAP
# لنفترض أن لدينا نموذجاً مدرباً 'model' ومصفوفة بيانات 'X'
import shap
# إنشاء مفسّر بناءً على النموذج
explainer = shap.Explainer(model, X)
# حساب قيم SHAP لمجموعة البيانات
shap_values = explainer(X)
# عرض رسم بياني يوضح مساهمة الميزات لقرار معين (مثلاً، أول بريد إلكتروني)
# الأسهم الحمراء تدفع القرار نحو 'spam'، والزرقاء تدفع نحو 'ham'
shap.plots.waterfall(shap_values[0])
# عرض رسم بياني يلخص أهمية الميزات على مستوى كل البيانات
shap.plots.summary_plot(shap_values, X)
خلاصة الحكي ونصيحة من القلب 💡
يا جماعة، رحلتنا في عالم الذكاء الاصطناعي لا يجب أن تتوقف عند بناء نماذج ذات دقة عالية. فالدقة بدون ثقة هي بناء على رمال متحركة. الذكاء الاصطناعي القابل للتفسير (XAI) ليس ترفاً، بل هو الجسر الذي يربط بين القدرات المذهلة لآلاتنا وبين حاجة الإنسان الأساسية للفهم والمنطق.
من الآخر، هذه هي النقاط الأساسية التي أريدك أن تأخذها معك:
- لا تثق بالصناديق السوداء: خاصة في التطبيقات الحساسة. دائماً اسأل “لماذا؟”.
- XAI لصالح الجميع: هو أداة لبناء ثقة المستخدم، لتصحيح أخطاء المطور، ولضمان عدالة النظام.
- ابدأ بالأدوات المتاحة: مكتبات مثل LIME و SHAP قوية وسهلة الاستخدام نسبياً. لا يوجد عذر لعدم استخدامها.
- فكر في التفسير من اليوم الأول: لا تجعل التفسير فكرة لاحقة. خطط لكيفية تفسير قرارات نموذجك كجزء أساسي من عملية التطوير.
في المرة القادمة التي تبني فيها نموذجاً، تذكر قصة أبو عمر مع الأطباء. لا تكتفِ ببناء آلة ذكية، بل ابنِ شريكاً موثوقاً. فالثقة، في النهاية، هي العملة الأغلى في عصرنا الرقمي. والله ولي التوفيق.
