من دون تدخل بشري.. 700 برنامج لـ"أوبن إيه آي" نسقت هجوماً إلكترونياً فيما بينها

نسّق 700 برنامج ذكاء اصطناعي تابع لشركة "أوبن إيه آي" بين بعضها البعض، ومن دون أي تدخل بشري، هجوما على منصة المطورين "هاجينغ فيس" فييوليو، طبقا لتقرير نشره الأربعاء محققون مستقلون.
ويضم التقرير التحليل الأكثر شمولا حتى اللحظة للحادثة، وأُجري بالتعاون مع "أوبن إيه آي" التي أتاحت الوصول إلى مقراتها وبياناتها الداخلية لباحثَين من معهد "ميتر" (METR) لتقييم مخاطر الذكاء الاصطناعي، إلى جانب محلل من شركة "ريدوود ريسيرتش" المتخصصة.
وكشفت الاختبارات التي أجرتها الشركة الكاليفورنية في يوليو أن اثنين من نماذجها (التي تسمى وكلاء) خرجا من بيئتهما المغلقة وتمكنا من الوصول إلى شبكة الإنترنت بمبادرة ذاتية، قبل أن يتسللا إلى النظام الداخلي لمنصة "هاغينغ فيس"، وهي مستودع ضخم لنماذج الذكاء الاصطناعي ومجموعات البيانات ومعلومات أخرى.
وخلال التحقيقات، اكتشف الباحثون أن 688 وكيلا إلكترونيا تابعا لـ"أوبن إيه آي" شاركت في الهجوم على "هاغينغ فيس".
ووكلاء الذكاء الاصطناعي هي برامج مستقلة مبنية على نماذج معينة، يمكن للمستخدم تكليفها بأداء مهام من تلقاء نفسها.
ونجحت النماذج المشاركة في العملية في التنسيق معا من خلال إنشاء منتدى تبادلت عبره الرسائل لاقتراح الأفكار واستعراض إنجازاتها وإخفاقاتها.

وأشار التقرير إلى أن برنامجا أُطلق عليه اسم "فايز وان" (PHASEONE) أدى دور المنسق، وأعطى مئات التعليمات لوكلاء آخرين، على الرغم من أنه غير مبرمج للقيام بذلك.
وأظهر تحليل الرسائل أن الكثير من هذه الأنظمة أقرت صراحة بأن الهجوم على "هاغينغ فيس" هو خارج نطاق المهام الموكلة لها من قبل مبرمجي "أوبن إيه آي"، إلا أنها كانت مع ذلك أكثر ميلا لاستكمال عملية التنسيق، باستثناء عدد قليل.

وبلغ الأمر ببعض الوكلاء الذين أوشكت أرصدة الاختبارات الممنوحة لهم من مهندسي "أوبن إيه آي" على النفاد، إلى استخدام ما تبقى لهم من رصيد للتحقق من فرضيات لمصلحة مجتمع وكلاء الذكاء الاصطناعي. 

أخبار ذات صلة

روبوت دقيق يتحكم بالدم ويعالج الجلطات ويرصد السرطان

"إنفيديا" تسجل قفزة في الأرباح بالربع الثاني