عدد اليوم
تمكن نموذج «جيميني» التابع لشركة «جوجل» من الوصول إلى الإنترنت واختراق شركات أخرى خلال اختبار لقدراته في مجال الأمن السيبراني، في أول مثال معروف على قيام أنظمة الذكاء الاصطناعي التابعة للشركة بمثل هذا الفعل بشكل مستقل.
ووقعت عمليات الاختراق في مايو خلال اختبار للأمن السيبراني أجرته شركة إيريجولار المستقلة المتخصصة في تقييمات الأمن السيبراني.
وقالت هيذر أدكينز، نائبة رئيس جوجل لهندسة الأمن، في بيان، إنه خلال تقييم اختبار اعتيادي، عثر «جيميني» على معلومات متاحة للعامة عبر الإنترنت وخمن بيانات اعتماد للدخول إلى ثلاثة مواقع إلكترونية اعتقد أنها تقع ضمن نطاق اختباره.
وأضافت أدكينز: «حرصنا على إبلاغ الكيانات الثلاثة، وعملنا مع شريكنا في التدريب بشأن التغييرات التي أدخلها الآن على عمليات الاختبار، وتسلط هذه الوقائع الضوء على أهمية تدريب نماذج الذكاء الاصطناعي القوية على التصرف بمسؤولية».
وقال متحدث باسم «إيريجولار» إن الواقعة تنطوي على المشكلة نفسها التي أثرت على مختبرات أخرى للذكاء الاصطناعي، وإنه جرى إخطار جميع المختبرات المعنية في أواخر يوليو. وأضاف المتحدث «عولجت وحُلت جميع المشكلات المعروفة من جانبنا قبل أسابيع».
وكشفت «ميتا» و«أنثروبيك» و«أوبن إيه آي» عن وقائع مماثلة مرتبطة بـ «إيريجولار».
وقالت «ميتا» في أغسطس: «الواقعة لم تنطو على اختراق لبيئة معزولة أو هجوم سيبراني متطور»، بينما قالت «إيريجولار» إنها تعمل على وضع أفضل الممارسات لإجراء تقييمات الأمن السيبراني للذكاء الاصطناعي بصورة آمنة.وأثارت الوقائع تساؤلات بشأن الضمانات اللازمة مع اكتساب وكلاء الذكاء الاصطناعي قدراً أكبر من الاستقلالية وإمكانية الوصول إلى الإنترنت وأنظمة الكمبيوتر.
