حذرت دراسة جديدة من ثقة الأطباء المفرطة في القرارات والتوصيات التي يصدرها الذكاء الاصطناعي، داعية إلى تطوير استراتيجيات وبروتوكولات لاكتشاف أخطاء هذه التقنية الجديدة قبل دمجها نهائيا في أنظمة الرعاية الصحية.
ففي تجارب اتخذوا فيها قرارات بشأن علاج مرضى افتراضيين، مال أطباء إلى تصديق نصائح خاطئة عُرضت على أنها من إنتاج الذكاء الاصطناعي، حتى بعد إتاحة الفرصة لهم لملاحظة أن بيانات تعافي المرضى تُناقض تلك التوصيات.
وقد نشرت أرانزاتسو فيناس، من جامعة إقليم الباسك في إسبانيا، وزملاؤها هذه النتائج في مجلة PLOS Digital Health مفتوحة الوصول.
تساعد أنظمة الذكاء الاصطناعي الأطباء على تصنيف المرضى وفقًا لاحتياجاتهم العلاجية المختلفة، مثل تحديد مدى استفادة المريض من علاج معين. ولأن هذه الأنظمة ليست مثالية، فهي مصممة لتكون بمثابة اقتراحات، مع إمكانية اكتشاف الأخطاء المحتملة وتصحيحها من قِبل الأطباء.
أظهرت أبحاث سابقة أن الناس عمومًا يجدون صعوبة في ملاحظة أخطاء الذكاء الاصطناعي وتصحيحها. لاستكشاف كيف يمكن أن يمتد هذا التحدي إلى الأطباء، حللت فيناس وزملاؤها بيانات 223 طبيبًا شاركوا بشكل مجهول في تجارب عبر الإنترنت.
طُلب من الأطباء أن يتخيّلوا أن لديهم خيار علاج مرضى مصابين بمرض نادر باستخدام علاج لم تثبت فعاليته بعد، ولا يزال قيد التطوير. أُخبروا أن نظام ذكاء اصطناعي قد حدد المرضى الأكثر أو الأقل احتمالاً للاستفادة من العلاج. ثم اختار الأطباء المرضى الذين سيعالجونهم. وبعد عرض بيانات عن تعافي المرضى، قيّموا مدى موثوقية نظام الذكاء الاصطناعي.
اقرأ أيضا... الذكاء الاصطناعي يكشف أمراضا غير مرئية في الدماغ
والأهم من ذلك، أن الفعالية الفعلية للعلاج الافتراضي لم تتوافق مع توصيات الذكاء الاصطناعي. ففي إحدى التجارب، كان العلاج فعالاً بشكل متوسط لجميع المرضى، وفي تجربة أخرى، كان غير فعال لجميعهم.
ومع ذلك، في كلتا التجربتين، مال الأطباء إلى تقييم نظام الذكاء الاصطناعي على أنه موثوق، ويبدو أنهم لم يستخدموا بيانات تعافي المرضى لاستنتاج أن توصيات الذكاء الاصطناعي غير صحيحة. في التجربة الثانية، لم يدرك الأطباء أن العلاج كان غير فعال تماماً.
تسلط هذه النتائج الضوء على التحديات المحتملة لدمج التصنيف القائم على الذكاء الاصطناعي في الرعاية الصحية. يمكن للبحوث المستقبلية أن تستند إلى هذه الدراسة، وذلك من خلال تطوير واختبار استراتيجيات وبروتوكولات من شأنها تعزيز التفكير النقدي البشري واكتشاف أخطاء الذكاء الاصطناعي، بهدف تعظيم فوائد التعاون بين الإنسان والذكاء الاصطناعي مع تقليل الأخطاء المحتملة إلى أدنى حد.
وتشير أرانزاتسو فيناس المؤلفة الرئيسية للدراسة، إلى أنه "في كلتا التجربتين، وثق الأطباء في الغالب بتصنيفات الذكاء الاصطناعي، وواجهوا صعوبة في التعلم من الملاحظات. علاوة على ذلك، في التجربة الثانية، لم يلاحظ المختصون أن العلاج كان عديم الفائدة تمامًا".
وتضيف هيلينا ماتوت المؤلفة المشاركة في الدراسة "يميل الناس إلى القول بأن هناك دائمًا إنسانًا يتحكم في الخوارزمية، لكن تجاربنا تُظهر أن الأطباء (وكذلك أي شخص آخر) يواجهون صعوبة في التعلم من الأدلة المتاحة عندما تتعارض مع اقتراحات الخوارزمية".
ويلخص فرناندو بلانكو المؤلف المشارك قائلاً "من المهم دراسة الأخطاء التي يرتكبها البشر (بمن فيهم الأطباء) عند العمل مع الخوارزميات، من أجل تعلم كيفية تقليل المشاكل الناجمة عنها".
مصطفى أوفى (أبوظبي)