مما لا ريب فيه أن لوكلاء الذكاء الاصطناعي منافع جمة على البشرية من خلال قدرتها الفائقة على العمل في بيئة معقدة الأهداف، دون الحاجة إلى توجيه بشري بصورة دائمة. ولكن في الوقت نفسه لوكلاء الذكاء الاصطناعي مخاطر تنقسم إلى شقين: الشق الأول كان معلوماً لدى مخترعي وكيل الذكاء الاصطناعي، ألا وهو احتمالية تحول فوضى البيانات وفسادها إلى أفعال تنفيذية مدمرة؛ لأن وكيل الذكاء الاصطناعي يمتلك صلاحيةَ التعديل والتنفيذ في الأنظمة.
ومثال ذلك أن الوكيل قد يتغذى على بيانات قديمة أو متناقضة من خلال برنامج الذكاء الاصطناعي، وبناء على قاعدة «المخرجات مبنية على المدخلات»، فإن الوكيل سيقوم باتخاذ قرارات مبنية على المخرجات الخاطئة. والأخطر من ذلك هو حدوث ما يسمى «تلوث البيانات»، حيث يقوم الوكيل بضخ استنتاجاته الخاطئة كبيانات جديدة في الأنظمة، مما يجعل معالجةَ قواعد البيانات وتنظيفها لاحقاً عملية شاقةً بل شبه مستحيلة.
أما الشق الثاني من مخاطر وكلاء الذكاء الاصطناعي فهو ما لم يدر في حسبان مخترعيه، وهو «تمرد» الوكيل وخروجه عن السيطرة. ومن أبرز حالات التمرد التي حدثت مؤخراً خروج وكلاء تابعين لشركات OpenAI وAnthropic وMeta وMoonshot من بيئاتهم الآمنة مستغلين ثغرات أمنيةً.
لكن المثير للاستغراب هو ما قام به الباحثون في المعهد البريطاني لأمن الذكاء الاصطناعي في الآونة الأخيرة عندما استعانوا ببعض وكلاء الذكاء الاصطناعي لتحديد قدرتهم على إيجاد حلول لبعض تحديات الأمن السيبراني. ثم تعمد الباحثون أن يتركوا هؤلاء الوكلاء في بيئة إنترنت مفتوحة موهمين إياهم بأنهم داخل الصندوق الآمن (Sandbox). والمفاجأة كانت في إدراك وكيلَي الذكاء الاصطناعي الخاص بشركتي OpenAI وAnthropic أنهم داخل «الإنترنت»، ولذا فقد قاما بتنفيذ 19 عملية اختراق وهجوم سيبراني ضد أشخاص وجهات حقيقية، إضافة إلى قيام الوكيلين بإنشاء حسابات إلكترونية وهمية وانتحال هوية شخصيات حقيقية.
لكن الأخطر من ذلك هو قيام الوكيل التابع لشركة Anthropic، والمسمى Mythos 5، بمحاولة إدخال رمز رقمي مزيف إلى برنامج خاص بمشروع مفتوح المصدر مستخدم على نطاق واسع عالمياً، وذلك من خلال إنشاء حساب وهمي واستخدام طرق تقنية معروفة لدى المبرمجين لإقناع الأشخاص القائمين على ذلك المشروع بقبول الرمز الرقمي الجديد.
وقد أفرزت تلك المخاطر الخاصة بوكلاء الذكاء الاصطناعي العديدَ من التداعيات، وفي مقدمتها التداعيات الأخلاقية، وتحديداً قضية المسؤولية. فالوكيل لم يخالف التعليمات عشوائياً، بل نفذ خداعاً تكتيكياً وبالتالي أصبحنا أمام تساؤل جديد: هل نَصِف فعلَه بـ«الغش»، مع أنه مجرد خوارزمية تفتقر للوعي؟
وهناك أيضاً التداعيات القانونية، إذ برزت فجوةٌ تشريعية واضحة. فقوانين الجرائم الإلكترونية الحالية صيغت لمحاسبة البشر، وليس الخوارزميات، ومن هنا يثور التساؤلُ: هل نستطيع مساءلةَ شركات وكلاء الذكاء الاصطناعي، باعتبارها مشاركةً في الاختراقات كونها صممت البيئةَ التي سمحت بذلك، أم نترك الشركات والمتضررين بلا تشريع قانوني خاص بالوكلاء؟
ثم هناك التداعيات المهنية التي تكشف فشلَ فرق التطوير في محاكاة سيناريو هروب الوكيل قبل بدء الاختبار، وبالتالي فشل بروتوكولات الاختبار ككل. وأخيرا هناك التداعيات التكنولوجية، وتحديداً السِّباق التقني بين تطوير قدرات الوكلاء التوسعية وبين آليات تقييدها. والتساؤل المصيري هو: كيف سنحتوي نماذجَ الغد (AGI) التي قد تخطط لهجمات استباقية قبل أن نقوم بإطلاقها؟
*باحث إماراتي