عدد اليوم
كشفت دراسة حديثة أجراها باحثون من معهد ماساتشوستس للتكنولوجيا (MIT) وجهات أكاديمية أخرى أن أنظمة الذكاء الاصطناعي المساعدة في تشخيص الأمراض لا تعمل بالكفاءة ذاتها لجميع المستخدمين، إذ تختلف نتائجها بشكل ملحوظ بين الأطباء وغير المختصين، مع ارتفاع خطر التضليل لدى الفئات الأقل خبرة.
أظهرت الدراسة أن اعتماد نهج موحد في تصميم أنظمة الذكاء الاصطناعي الطبي ليس فعالًا، حيث تتباين الفائدة وفق مستوى خبرة المستخدم. ورغم أن هذه الأنظمة حسّنت دقة التشخيص في أمراض الجلد لدى الأطباء وغير المختصين، فإن تأثير أدوات «الذكاء الاصطناعي القابل للتفسير» (Explainable AI) لم يكن متساويًا.
وتعمل هذه الأدوات على توضيح كيفية اتخاذ النماذج لقراراتها، سواء عبر خرائط حرارية تُبرز المناطق المؤثرة في الصور، أو من خلال نماذج لغوية كبيرة (LLMs) تقدّم تفسيرات مبسطة بلغة طبيعية.
وخلال التجارب، اختبر الباحثون أداء غير المختصين وأطباء الرعاية الأولية في تشخيص أمراض الجلد، باستخدام أنظمة مختلفة من أدوات التفسير، مع مقارنتها بحالات دون دعم الذكاء الاصطناعي.
وأظهرت النتائج تحسنًا في دقة غير المختصين، إلا أن هذا التحسن ارتبط بشكل أساسي بالاعتماد المفرط على النظام. فقد وثق المستخدمون في تفسيرات النماذج اللغوية سواء كانت صحيحة أو خاطئة، بل واعتبروا التفسيرات العامة أو الغامضة أكثر إقناعًا.
في المقابل، أظهر الأطباء قدرة أعلى على التمييز، ولم يتأثروا بالأخطاء الصادرة عن الذكاء الاصطناعي، وحققوا أفضل أداء عند الاكتفاء بتنبؤ النموذج دون تقديم تفسيرات إضافية.
ونقلت الدراسة عن الباحثة مارزية غسمي تأكيدها أن «الذكاء الاصطناعي يمكن أن يحسن الأداء في الرعاية الصحية، لكن يجب الحذر من ظاهرة الاعتماد المفرط على الخوارزميات، التي قد تؤدي إلى زيادة الأخطاء بدلًا من تقليلها».
كما حذّرت الباحثة روكسانا دانيشجو من أن المستخدمين الأقل خبرة هم الأكثر عرضة للتضليل، خاصة مع تزايد اعتماد المرضى على أدوات الذكاء الاصطناعي في اتخاذ قرارات صحية.
وأكد الباحثون أن تصميم هذه الأنظمة يجب أن يراعي طبيعة المستخدم، مع تطوير أدوات تفسير تعزز التفكير النقدي بدلًا من ترسيخ الثقة العمياء في النتائج.
بدوره، أوضح الباحث الرئيسي أورسون شو أن التفسير ذاته قد يكون مفيدًا للخبراء ومضللًا للمبتدئين، مشيرًا إلى أن الفئات الأكثر حاجة لهذه التقنيات هي الأكثر عرضة للتأثر السلبي بها.
ونُشرت نتائج الدراسة في مجلة Nature Medicine بمشاركة باحثين من MIT وجامعات أخرى.
أسامة عثمان (أبوظبي)
