أوضحت شركة "أوبن ايه اي" أن متصفحات الذكاء الاصطناعي، بالرغم التطور السريع في قدراتها، لا تزال تواجه تهديدًا أمنيًا يتمثل في هجمات حقن الأوامر. فبالرغم من الجهود الكبيرة لتعزيز أمن المتصفحات، يبقى هذا النوع من الهجمات خطرًا قائمًا، إذ يعتمد على إدخال تعليمات خبيثة مخفية داخل صفحات الويب أو رسائل البريد الإلكتروني، بما يسمح بالتلاعب بسلوك وكلاء الذكاء الاصطناعي ودفعهم لتنفيذ أوامر غير مقصودة.
تهديد يشبه الاحتيال الرقمي
تكمن صعوبة القضاء على هجمات حقن الأوامر (Prompt Injection)، في طبيعتها المشابهة لأساليب الاحتيال والهندسة الاجتماعية المنتشرة على الإنترنت. فالهجوم لا يعتمد على ثغرة تقنية تقليدية فحسب، بل يستغل طريقة فهم الذكاء الاصطناعي للتعليمات والسياق. ولهذا، ترى"أوبن ايه اي"أن الحديث عن حل نهائي لهذه المشكلة غير واقعي، وأن الهدف العملي يتمثل في تقليص حجم المخاطر والحد من آثارها، لا القضاء عليها بالكامل. ويزداد التحدي تعقيدًا مع تفعيل «وضع الوكيل» في المتصفحات الذكية، حيث تتوسع مساحة الهجوم نتيجة منح الوكيل قدرًا أكبر من الاستقلالية في اتخاذ القرار.
تحذيرات رسمية من الجهات الأمنية
هذا القلق لا يقتصر على أوبن ايه آي، وحدها، إذ حذّر المركز الوطني للأمن السيبراني في المملكة المتحدة من أن هجمات حقن الأوامر قد لا يمكن معالجتها بصورة كاملة أبدًا. وتشير هذه التحذيرات إلى أن المواقع والتطبيقات المعتمدة على الذكاء الاصطناعي التوليدي قد تبقى عرضة لاختراقات تهدد البيانات. وبناءً على ذلك، توصي الجهات الأمنية بالتركيز على إدارة المخاطر وتقليل تأثير الهجمات بدل السعي إلى منعها بشكل مطلق.
استراتيجية "أوبن ايه اي"
تعتمد "أوبن ايه اي" على نهج استباقي يقوم على الاختبارات الأمنية واسعة النطاق ودورات تصحيح سريعة. ومن أبرز ملامح هذا النهج تطوير «مهاجم آلي» مدرَّب باستخدام تقنيات التعلم المعزز، يقوم بمحاكاة دور المخترق والبحث عن أساليب جديدة لتمرير تعليمات خبيثة إلى وكلاء الذكاء الاصطناعي. وتتيح هذه المحاكاة للشركة فهم كيفية تفكير الوكلاء عند تعرضهم لهجمات محتملة، ما يساعد على اكتشاف الثغرات مبكرًا قبل استغلالها في الواقع. وفق تقرير نشره موقع تك كرنش المتخصص في أخبار التكنولوجيا.
مسؤولية المستخدم في تقليل المخاطر
إلى جانب التحسينات التقنية، تشدد "أوبن ايه اي" على دور المستخدمين في الحد من المخاطر. فكلما زادت صلاحيات الوكيل واتسع نطاق وصوله إلى البريد الإلكتروني أو بيانات الدفع، ارتفع مستوى الخطر. لذلك توصي الشركة بتقييد هذا الوصول قدر الإمكان، واشتراط موافقة المستخدم قبل تنفيذ أي إجراء حساس، إضافة إلى إعطاء تعليمات واضحة ومحددة بدل منح الوكيل حرية عامة وواسعة قد يسهل استغلالها.
وكانت "اوبن ايه آي" قد أطلقت متصفح "أطلس" في أكتوبر الماضي، وسرعان ما نجح باحثون أمنيون في عرض تجارب تُظهر إمكانية التلاعب بسلوك المتصفح عبر تعليمات بسيطة مخفية داخل مستندات Google Docs.
رؤية الخبراء: فائدة مقابل مخاطرة
يرى خبراء الأمن السيبراني أن المتصفحات الوكيلة تقف في منطقة حساسة تجمع بين استقلالية متوسطة ومستوى وصول مرتفع، وهو ما يجعلها جذابة من حيث القدرات، لكنها في الوقت نفسه محفوفة بالمخاطر. ويشير بعضهم إلى أن القيمة العملية التي تقدمها هذه المتصفحات حاليًا لا تزال محدودة مقارنة بحجم المخاطر الأمنية المرتبطة بها، خصوصًا في الاستخدامات اليومية.
يمثل حقن الأوامر تحديًا طويل الأمد لأمن الذكاء الاصطناعي، ويبدو أنه تهديد سيلازم تطور المتصفحات الذكية لفترة غير قصيرة. وبالرغم من تحسن أدوات الحماية وتقدم استراتيجيات الدفاع، سيبقى التوازن بين الفائدة التي تقدمها متصفحات الذكاء الاصطناعي ومستوى الأمان الذي يمكن ضمانه عاملًا حاسمًا في مدى انتشارها واعتمادها على نطاق واسع.
لمياء الصديق(أبوظبي)