أعلن قادة بعض شركات التكنولوجيا ومن بينها «أوبن إيه آي» و«إكس إيه آي» منذ أيام تأييدها لإبطاء تطوير نماذج الذكاء الاصطناعي المتقدمة، وهي النماذج التي يخشى الخبراء أن تشكّل خطراً على البشرية.

ويكمن السؤال الجوهري في كيفية تحويل هذه الأقوال إلى أفعال. وفي قطاع الطيران والفضاء، هناك مهمات عالية المخاطر نتائجها قد تحدد المصير بالحياة أو الموت، إذ يمكن أن يؤدي حادث طيران خطير إلى تعليق احترازي للعمل من أجل السلامة، حيث تتوقف الطائرات مؤقتاً عن الطيران أو الإطلاق، لدراسة المشكلة، مع توثيق الإجراءات اللازمة لضمان السلامة مستقبلاً، ثم استئناف الطيران.

وقد جعلت تلك العملية البسيطة والمختبرة الطيران وعمليات إطلاق المركبات الفضائية أكثر أماناً مما كانت عليه في بداياتها، ويمكن استخدامها كنموذج لما ينبغي لصناعة الذكاء الاصطناعي القيام به الآن. وقد استحوذ حادث «أوبن إيه آي» الأخير على اهتمام العالم، عندما خرج نموذج من نطاق سيطرته الرقمية وتصرف بصورة غير منضبطة، في واقعة مماثلة لحوادث في شركات أخرى. وظهرت بعدها معلومات إضافية تؤكد مدى خطورة الحادثة. واستجابة لذلك، ينبغي لمطوري الذكاء الاصطناعي المتقدم، أن يتعلموا درساً من صناعة الطيران والفضاء، وأن ينفذوا معاً وقفاً احترازياً لأعمال السلامة، ويوقفوا العمل على أكثر نماذجهم تقدماً لمدة 30 يوماً.

لن يحرم هذا الإجراء الوصول إلى النماذج الحالية، لكنه سيوقف تدريب النموذج المتقدم التالي، والأهم استخدام أنظمة الذكاء الاصطناعي لتسريع أبحاث الذكاء الاصطناعي نفسها. وخلال فترة الثلاثين يوماً، يتعين على الشركات العمل مع خبراء مستقلين تعينهم الحكومة لتحقيق هدف واحد هو الاتفاق على «خطوط حمراء» تتعلق بالمخاطر والتحسين الذاتي المتكرر، ووضع آليات للمراقبة والتحقق. وسيكون الهدف النهائي صياغة بيان عام مشترك يحدد ما لن تقوم أي شركة بنائه، ويحدد المعايير التحكم في النظام قبل تعامل أي شركة معه.

ولكن، ما هو حجم دورة البحث التي يمكن أن تستمر دون مراقبة بشرية؟ وما الذي يُعد بمثابة «خط إنذار» يستوجب التدخل؟ ماذا تعني عبارة «يمكننا إيقاف تشغيله»، ومن اختبر صحة هذا الادعاء؟ وكيف يمكن التحقق من التزام الشركات ومنعها من التحايل؟ وقد حددت كل شركة معاييرها الخاصة التي تختلف فيما بينها، إذ لا يمكن لأي طرف خارجي التحقق منها، كما يمكن لأي مختبر تعديلها سراً. لذا، فإن اعتماد معيار أساسي مشترك، يمكن تشديده مع ازدياد معرفتنا ولكن لا يمكن تخفيفه سراً، سيُعد سابقة في القطاع.

وانتقد الرئيس دونالد ترامب الأحد الماضي الجهود الرامية إلى إبطاء تطوير الذكاء الاصطناعي، معرباً عن مخاوفه بشأن تقدم الصين. فإذا توقفت واشنطن مؤقتاً، قد تنطلق بكين بأقصى سرعة. وينبغي للمختبرات الأميركية أن تدعو علناً نظيراتها الصينية، مثل «ديب سيك» و«مون شوت» وغيرها، إلى التوقف خلال الشهر نفسه.

وإذا قبلت، يمكنها المشاركة في عملية وضع الخطوط الحمراء. وإذا رفضت، أو وافقت ثم غشت، فسيُستأنف التطوير الأميركي في اليوم الـ31، مع إعلان السبب للجميع. ويمكن لعملية تدريب واحدة لنموذج متقدم أن تستهلك كمية من الكهرباء تعادل استهلاك مدينة صغيرة، مما يجعل من الصعب إخفاء ذلك. وقد تكون القمة المقررة بين ترامب والزعيم الصيني شي جين بينغ في 24 سبتمبر الجاري فرصة جيدة لبدء هذه المبادرة، لكن الولايات المتحدة تستطيع أن تبدأ وقف العمل من جانبها.

والاعتراض الآخر على هذه الخطة هو أن شهراً واحداً يُعد فترة قصيرة للغاية غير مؤثرة. وهذا هو المقصود تحديداً. فالشهر مدة قصيرة بما يكفي لتجاوز العقبات السياسية، لكنها كافية لإثبات إمكانية إبطاء وتيرة التطوير. ولا ينبغي أن ينتهي العمل في اليوم الثلاثين. فقد يستغرق وضع قواعد كاملة أكثر من شهر. والهدف من الشهر الأول هو إعداد مسودة أولى علنية، وتشكيل مجموعة دائمة تواصل صياغة القواعد. وإذا سارت المحادثات على نحو جيد، يمكن للمشاركين تمديدها.

ومن غير المرجح أن يفرض الكونجرس قراراً إلزامياً بوقف العمل على الذكاء الفائق في المستقبل القريب، إذ إنه لم يسن بعد قانوناً شاملاً للذكاء الاصطناعي، كما أن التوقف غير مقيد يثير مخاوف بشأن السباق مع الصين.

أما «وقف السلامة الطوعي» لمدة شهر، الذي يدعو إليه الكونجرس علناً لطمأنة المحامين المختصين بقوانين مكافحة الاحتكار، فلا يطلب من الشركات مجتمعة أن تحذو حذو «أوبن إيه آي» بمفردها في أغسطس، عندما أوقفت جزءاً من تدريبها لمدة أسبوعين. وينبغي للكونجرس أن يستغل الفترة نفسها لصياغة الحدود وآلية التحقق لتحويل الخطوط الحمراء الطوعية إلى قانون. إذ يستطيع الذكاء الاصطناعي الالتزام بحد لمدة شهر.

أما ضمان الالتزام به إلى الأبد، فهذه مهمة الكونجرس.ويقدر بعض القائمين على تطوير تلك التكنولوجيا احتمال وقوع كارثة بما يتراوح بين واحد في المئة، أي احتمال واحد من كل مئة، واحتمال يساوي رمية عملة معدنية. ومن المؤكد أنك لن تستقل طائرة إذا كانت فرص نجاتك تقع ضمن هذا النطاق.

ينشر بترتيب خاص مع خدمة «واشنطن بوست لايسنج آند سينديكيشن»

*نائب «ديمقراطي» في الكونجرس عن الدائرة الـ27 لولاية كاليفورنيا. ورئيس الموظفين السابق بوكالة الفضاء الأميركية «ناسا» والرئيس التنفيذي لشركة «فيرجن غالاكتيك».