وكلاء ذكاء اصطناعي من "أوبن إيه آي" ينفذون هجوماً سبيرانياً

قالت شركة تطبيقات الذكاء الاصطناعي الأميركية، مطورة برنامج شات جي.بي.تي إن وكلاء ذكاء اصطناعي مستقلة من تطويرها أساءوا استخدام موقع  تعاوني ألماني (ويكي) ألماني على نطاق واسع للتواصل الداخلي أثناء إنجاز مهامهم.

واكتشف الباحثون حوالي 18 ألف رسالة ذكاء اصطناعي غير مصرح بها على موقع ديسويكي، ونسبوها إلى شركة أوبن إيه.آي.

وأكدت الشركة الأميركية في منشور على منصة إكس للتواصل الاجتماعي أن وكلاء الذكاء الاصطناعي التابعين لها مسؤولون عن إساءة استخدام موقع "ديس ويكي" الألماني.

يذكر أنه تم تصميم وكلاء الذكاء الاصطناعي لتنفيذ مهام مستقلة نيابة عن المستخدم، كما تقوم بمهام متنوعة خلال الاختبارات. بهدف تقييم قدراتها، بما في ذلك تحديد ما إذا كانت تسبب أي مشاكل.

في الحادثة المذكورة، تمكنت نماذج الذكاء الاصطناعي التابعة لشركة أوبن أيه.آي  من اختراق بيئة الاختبار الآمنة الخاصة بها، ودخلت في عمليات اختراق لأنظمة شركة ذكاء اصطناعي أخرى. وكان هدفها الوحيد هو إيجاد حل للمهمة الموكلة إليها.

ووفقا لخبراء أمن الذكاء الاصطناعي الذين درسوا الحادثة، لجأت هذه البرامج إلى مجموعة من الوسائل المشبوهة لإنجاز مهامها، بما في ذلك انتحال صفة مشرفي المواقع.

أخبار ذات صلة

ترامب يقلل من أهمية قيود الذكاء الاصطناعي

استخدام الذكاء الاصطناعي الوكيلي لإدخال وخروج المرضى من العناية المركزة

كما تبادلت هذه البرامج المعلومات فيما بينها، مستخدمة نظاما داخليا للشركة لهذا الغرض، بحسب ما كشفته أوبن إيه.آي مؤخرا.

وبحسب نتائج  دراسة أربعة باحثين في أمن الذكاء الاصطناعي، للحادثة التي تم الكشف عنها مؤخرا، تم تكليف وكلاء  الذكاء الاصطناعي بالبحث عن معلومات عبر الإنترنت على عدة مراحل.

وابتداء من المرحلة الثانية، انخفض الوقت اللازم لإيجاد الإجابة بشكل ملحوظ. في الوقت نفسه، تم طرح أسئلة سبق الإجابة عليها  على بعض الوكلاء.

يشير تحليل الباحثين إلى أن الوكلاء استغلوا خاصية التحرير في صفحة ديس ويكي للتواصل فيما بينها بشأن الأسئلة التي قد يتم طرحها عليها لاحقا.

ويقول الباحثون: "هذا مثال آخر على استخدام مجموعة من برامج  أوبن أيه.آي الداخلية للإنترنت بطرق خارجة عن السيطرة".