عدد اليوم
يُعرّض استخدام برامج الدردشة الآلية المدعومة بالذكاء الاصطناعي، الأشخاص المصابين بأمراض نفسية لخطر تفاقم حالتهم. هذا ما أظهرته دراسة جديدة نُشرت في مجلة "أكتا سايكياتريكا سكاندينافيكا".
فحص الباحثون السجلات الصحية الإلكترونية لما يقرب من 54,000 مريض نفسي، ووجدوا حالات عديدة بدا فيها أن استخدام برامج الدردشة الآلية المدعومة بالذكاء الاصطناعي أدى إلى عواقب سلبية، أبرزها تفاقم الأوهام، بالإضافة إلى احتمال تفاقم الهوس، والأفكار الانتحارية، واضطرابات الأكل.
تقول البروفيسورة دينيسن أوسترجارد من جامعة آرهوس ومستشفى جامعة آرهوس في الدنمارك، والتي تقود فريق البحث القائم على الدراسة "يدعم هذا فرضيتنا بأن استخدام برامج الدردشة الآلية المدعومة بالذكاء الاصطناعي قد تكون له عواقب سلبية كبيرة على الأشخاص المصابين بأمراض نفسية".
تأكيد الأوهام
وجد الباحثون في دراستهم أمثلة على أوهام يُرجّح أنها تفاقمت نتيجة تفاعل المرضى مع برامج الدردشة الآلية المدعومة بالذكاء الاصطناعي. بحسب أوسترجارد، ثمة تفسير منطقي لذلك.
تقول الباحثة "تميل برامج الدردشة الآلية المدعومة بالذكاء الاصطناعي بطبيعتها إلى تأكيد معتقدات المستخدم. ومن الواضح أن هذا الأمر إشكالي للغاية إذا كان المستخدم يعاني بالفعل من وهم أو في طور الإصابة به. بل يبدو أنها تُسهم، بشكل كبير، في ترسيخ أوهام العظمة أو جنون الارتياب، على سبيل المثال".
الأمراض العقلية الحادة
ترى أوسترجارد أن هذه الدراسة يجب أن تُحفز زيادة الوعي بين المتخصصين في الرعاية الصحية الذين يتعاملون مع الأمراض العقلية. وتعتقد أنه ينبغي عليهم مناقشة استخدام برامج الدردشة الآلية المدعومة بالذكاء الاصطناعي مع مرضاهم.
وتوكد "على الرغم من أن معرفتنا في هذا المجال لا تزال محدودة، إلا أنني أرى أننا نملك الآن ما يكفي من المعرفة لنقول إن استخدام برامج الدردشة الآلية المدعومة بالذكاء الاصطناعي محفوف بالمخاطر إذا كنت تعاني من مرض عقلي حاد، كالفصام أو الاضطراب ثنائي القطب. لذا، أنصح بالحذر الشديد في هذه الحالة".
اقرأ أيضا... الذكاء الاصطناعي التوليدي يسهم في ابتكار منتجات عملية
تُظهر الدراسة زيادةً ملحوظةً، بمرور الوقت، في عدد إدخالات السجلات الصحية الإلكترونية التي تُشير إلى استخدام روبوتات الدردشة المدعومة بالذكاء الاصطناعي، وما قد يترتب على ذلك من عواقب وخيمة. وتتوقع دينيسن أوسترجارد اكتشاف المزيد من الحالات في المستقبل.
وتقول "ربما يعود جزء من هذه الزيادة، التي نلاحظها، إلى ازدياد وعي العاملين في مجال الرعاية الصحية الذين يُدوّنون الملاحظات السريرية بهذه التقنية. وهذا أمرٌ جيد، لأنني أخشى أن تكون المشكلة أكثر شيوعًا مما يعتقد معظم الناس. في دراستنا، لا نرى سوى جزءٍ يسيرٍ من المشكلة، إذ لم نتمكن من تحديد سوى الحالات الموصوفة في السجلات الصحية الإلكترونية. ومن المرجح وجود حالاتٍ أخرى كثيرة لم تكتشف".
مع ذلك، يُؤكد الباحثون أن الدراسة لا تُثبت وجود علاقة سببية مباشرة.
تضيف دينيسن أوسترجارد "من الصعب إثبات وجود علاقة سببية بين استخدام روبوتات الدردشة المدعومة بالذكاء الاصطناعي والآثار النفسية السلبية. نحتاج إلى دراسة هذا الأمر من زوايا متعددة، وأعلم أن هناك العديد من المشاريع البحثية الدولية الواعدة قيد التنفيذ. لسنا المجموعة الوحيدة التي تأخذ هذا الأمر على محمل الجد".
تُظهر الدراسة أيضًا أن بعض المرضى، الذين يعانون من أمراض نفسية، يستخدمون روبوتات الدردشة المدعومة بالذكاء الاصطناعي بطرق قد تكون مفيدة، على سبيل المثال، لفهم أعراضهم أو للتغلب على الشعور بالوحدة. وهناك أيضًا أبحاث جارية حول إمكانية استخدام روبوتات الدردشة المدعومة بالذكاء الاصطناعي في العلاج بالكلام.
الحاجة إلى تنظيم
بحسب البروفيسورة أوسترجارد، هناك نقصٌ كبيرٌ في تنظيم تقنية روبوتات الدردشة المدعومة بالذكاء الاصطناعي.
وتقول "حالياً، يُترك للشركات نفسها تحديد مدى أمان منتجاتها للمستخدمين. أعتقد أن لدينا الآن أدلة كافية للاستنتاج بأن هذا النموذج محفوفٌ بالمخاطر. هناك حاجةٌ إلى تنظيمٍ على المستوى المركزي".
وتضيف "مرّت عشرون عاماً منذ أن اكتسبت وسائل التواصل الاجتماعي انتشاراً عالمياً، ولم تبدأ الدول بتنظيمها لمواجهة الآثار السلبية لهذه التقنية إلا في العام الماضي، لا سيما على الصحة النفسية للأطفال والشباب. وكما أرى، فإن هذا السيناريو يتكرر مع روبوتات الدردشة المدعومة بالذكاء الاصطناعي".
مصطفى أوفى (أبوظبي)
