عدد اليوم
طور باحثون أداةً لكشف التحيز الخفي في مجموعات البيانات الضخمة المستخدمة لتدريب الذكاء الاصطناعي الطبي. تبحث الأداة في بيانات التدريب عن أنماط دقيقة قد تقود نماذج الذكاء الاصطناعي إلى استنتاجات خاطئة، مما قد يعرض رعاية المرضى للخطر.
يهدف هذا العمل إلى مساعدة الباحثين والجهات التنظيمية على جعل الذكاء الاصطناعي أكثر موثوقية وجدارة بالثقة للاستخدام السريري في الواقع العملي.
يقول ماتياس أونبيراث المؤلف الرئيسي للدراسة، الخبير في الطب المدعوم بالذكاء الاصطناعي في جامعة جونز هوبكنز "تتعلم النماذج، التي تدعم الطب الدقيق، استنتاج النتائج السريرية من البيانات التي تُدرَّب عليها. في كثير من الحالات، ينجح هذا الأمر بشكل ممتاز، ولكنه قد يؤدي أيضًا إلى إخفاقات لا تظهر على الفور. تمنح الأداة، التي طورناها، فهمًا واضحًا لعناصر البيانات الوصفية التي تشكل أكبر مخاطر على نموذج لالتقاط التحيز".
نُشرت هذه الدراسة، وهي ثمرة تعاون بين جامعة جونز هوبكنز وإدارة الغذاء والدواء الأميركية، في مجلة npj Digital Medicine.
وأكد أونبيراث "ندرب النماذج لتكون الأكثر دقة في التنبؤ، لكننا لا نملك أي سيطرة على ما يستخدمه النموذج للتنبؤ".
التركيز على البيانات
تكشف أداة الفريق عن احتمال حدوث الارتباطات الخاطئة. بينما اعتمد آخرون على بناء آليات حماية تستند إلى أداء نموذج الذكاء الاصطناعي، تقوم هذه الأداة الجديدة، المسماة "اختبار فائدة السمات المعممة والتحيز الناتج عن قابلية الكشف" (G-AUDIT)، بفحص بيانات التدريب بحثًا عن مؤشرات تدل على أن النموذج قد يتعلم من إشارات غير مقصودة بدلًا من الإشارات ذات الدلالة السريرية.
يقول ميتشل بافلاك، المشارك في تأليف البحث "الأمر الأكثر إثارة هو كيف يُمثل هذا تحولًا جذريًا في أسلوب عملنا".
يُحدد G-AUDIT السمات في البيانات التي يُحتمل أن تدفع الذكاء الاصطناعي إلى استنتاجات خاطئة، ويصنفها حسب الأهمية.
اقرأ أيضا... تعلم الآلة يساعد في تشخيص خطر الإصابة بالربو
اختبر الباحثون الأداة على مجموعة متنوعة من البيانات الطبية، بما في ذلك الصور والنصوص وجداول البيانات. وكشفت عن عيوب خفية في جمع البيانات، وظروف التصوير، وعناصر أخرى يُحتمل أن تؤدي إلى استنتاجات خاطئة حول صحة المريض.
تأثير سياق العيادة
على سبيل المثال، تضمنت مجموعة بيانات سرطان الجلد صورًا من عيادة متخصصة في علاج السرطان تخدم فئة عالية الخطورة، وصورًا من عيادة جلدية عامة تستقبل حالات سرطان أقل. ونظرًا لاختلاف جودة أنظمة التصوير في العيادتين، فقد يستنتج الذكاء الاصطناعي المُدرَّب على هذه البيانات خطأً أن جودة الكاميرا مؤشر رئيسي للإصابة بالسرطان. أو حتى أن وجود مساطر في الصور يُنبئ بالإصابة بالسرطان، لأن عيادة السرطان كانت تُدرج مساطر في الصور لتتبع حجم الأورام بمرور الوقت.
يقول أونبيراث "تخيل تطبيق هذه الخوارزمية في الواقع باستخدام كاميرا هاتف ذكي. لا توجد مسطرة. جودة الكاميرا غير ذات صلة تمامًا. لكن النموذج تعلم الربط بين "المسطرة" و"الكاميرا". لقد خلقتَ بذلك تفاوتًا صحيًا".
يخطط الفريق لمواصلة تطوير الأداة وتوسيع نطاقها، ويقولون إنها قابلة للتكييف لاستخدامات تتجاوز مجال الرعاية الصحية.
يؤكد أونبيراث "الخلاصة الأساسية هي أن الناس يقومون حاليًا بمراجعة النماذج، لكنهم لا يعرفون حقًا ما الذي يجب مراجعته. نحن نعمل على تغيير ذلك. إذا اقتصرت المراجعة على الأمور التي تشغل بالك فقط، فمن المحتمل أن تغفل الكثير من الأمور التي قد تؤدي إلى ارتباطات زائفة".
مصطفى أوفى (أبوظبي)
