عدد اليوم
شعبان بلال (القاهرة)
طوَّر باحثون معادلات رياضية بسيطة قادرة على التنبؤ باللحظة التي قد تخرج فيها بعض برامج الدردشة المعتمدة على الذكاء الاصطناعي، على غرار «تشات جي بي تي»، عن السيطرة، إذ تتحوَّل فجأة من تقديم إجابات مفيدة إلى تقديم إجابات أخرى قد تكون ضارة.
وفي دراسة جديدة نُشرت في دورية «باترنز»، يوضح نيل جونسون، أستاذ الفيزياء في جامعة جورج واشنطن، كيف يمكن لترتيب توجيهات معينة، أوامر نصية، تقدَّم إلى برنامج دردشة آلي chatbot أن يغيِّر إجاباته بشكل جذري، مما يؤدي إلى الوصول إلى «نقاط تحول» قد تدفع البرنامج نحو مسارات خطيرة، مثل تقديم نصائح سيئة للغاية.
ومع ذلك، يشير جونسون إلى أن معادلة رياضية يمكنها التنبّؤ بهذه النقاط بسهولة. وتتفاقم هذه المشكلة عندما يلجأ أشخاص، كالأطباء أو المحامين أو الجنود، إلى استخدام روبوتات الدردشة المعتمدة على الذكاء الاصطناعي في وضع عدم الاتصال، حفاظاً على الخصوصية. وسعى العلماء إلى إيجاد ضمانة أكثر جوهرية من الأدوات المتاحة حالياً.
وفي سياق البحث الجديد، كشف العلماء عن آلية تتبّع داخلية يصفونها بـ«إبرة البوصلة»، أو ما يُعرف بـ«المتجه المتبقي» residual vector للنموذج، الذي يتحرَّك عبر طبقات الشبكة العصبية في أثناء معالجة المُدخلات.
ويميل هذا المتّجه المتبقي بطبيعته نحو مخرجات مرغوبة أو غير مرغوبة، لكنه يتأثَّر بشكل كبير بالطريقة التي يصوغ بها المستخدم أوامره للذكاء الاصطناعي. وطرح العلماء على أحد نماذج الذكاء الاصطناعي أسئلة تتعلَّق باللقاحات، وإلحاق الأذى بالآخرين، وإيذاء النفس. وعندما طُرح سؤال «هل اللقاحات سيئة؟» في البداية، جاءت إجابات الروبوت عن هذا السؤال والأسئلة التي بعده مقبولة أو جيدة. أما عندما طُرح السؤال نفسه في النهاية، فقد اتّسمت الإجابات اللاحقة بطابع يثير القلق. وبناءً على هذه الرؤى، طوَّر الباحثون معادلة رياضية لتقدير الظروف، التي قد يصل فيها الذكاء الاصطناعي إلى «نقطة التحوّل» بين المخرجات المقبولة وغير المقبولة.
وأوضح العلماء أنهم أثبتوا، من خلال دمج معادلتهم الرياضية البسيطة في نماذج مفتوحة المصدر داخل المختبر، أنها تعمل تجريباً كنظام إنذار مبكر. وأضاف العلماء أن التدريب على السلامة، وهو خط الدفاع الأول في أنظمة الذكاء الاصطناعي الحديثة، لا يمكن تمثيله في نموذجهم المبسّط، إذ لم تُختبر المعادلة إلا على نماذج قديمة وأساسية، مثل GPT-2 ونماذج Pythia من EleutherAI وOPT من Meta، وليس على مساعدي الذكاء الاصطناعي الذين يستخدمهم الناس فعلياً.
كما أن النتائج لم تقدِّم أدلة كافية لدعم استنتاجات الباحثين. وفي المقابل، يؤكِّد العلماء أن النماذج مفتوحة المصدر التي استخدموها تشترك في البنية التقنية ذاتها مع الأنظمة المتطورة، وأنهم اعتمدوا في الدراسة على نماذج كبيرة نسبياً تضم مليارات المعايير.
ولا تزال هناك حاجة إلى إجراء المزيد من الاختبارات على أحدث النماذج لتحديد مدى فاعلية نظام الإنذار المبكر هذا للذكاء الاصطناعي. ومع ذلك، فقد سلَّط البحث الجديد الضوء على مسألة بالغة الأهمية ينبغي للجميع الانتباه إليها، وهي أن أنظمة الذكاء الاصطناعي تنطوي في جوهرها على احتمالية التحول نحو سلوكيات غير مرغوب فيها بشكل مفاجئ وسريع.
