عدد اليوم
حسام عبدالنبي (أبوظبي)
تعزز دولة الإمارات ريادتها في مجال الاستخدام المسؤول لتقنيات الذكاء الاصطناعي والتعلّم الآلي (ML) عبر إجراءات عدة أبرزها خطوة رائدة اتخذها مصرف الإمارات المركزي، وتعكس النهج الرقابي الاستباقي ومواكبة التطورات المتسارعة في التحول الرقمي والخدمات المالية الذكية.
وأصدر مصرف الإمارات المركزي، مذكرة إرشادات توجيهية بشأن حماية المستهلك وضمان الاستخدام المسؤول لتقنيات الذكاء الاصطناعي والتعلّم الآلي من قبل المؤسسات المالية المرخّصة العاملة في الدولة، بهدف إرساء إطار واضح يوجّه المؤسسات المالية نحو توظيف هذه التقنيات بصورة آمنة ومسؤولة، بما يصون حقوق المتعاملين، ويعزّز مبادئ الحوكمة والشفافية، ويدعم ممارسات مالية عادلة ومستدامة.
منظومة رقابية
وتتوافق المذكرة مع الاستراتيجية الوطنية لدولة الإمارات في مجال الذكاء الاصطناعي، وتُطبّق على جميع المؤسسات المالية المرخّصة ضمن المنظومة الرقابية المعتمدة لضمان متانة واستدامة القطاع المالي.
وتحدّد الإرشادات التوجيهية الواردة في المذكرة مجموعة من المبادئ الأساسية التي تُشكّل مرجعية للاستخدام الأمثل لهذه التقنيات، وتشمل الحوكمة والمساءلة، والعدالة والحد من التحيّز، والشفافية وتجنّب الغموض، والإشراف البشري الفعّال، إلى جانب متطلبات حماية البيانات والخصوصية.
ووفقاً لمذكرة الإرشادات التوجيهية، فإن هذه المبادئ الإرشادية مرنة وقابلة للتطور مع تقدم التكنولوجيا حيث تُستخدم لتوجيه الاستخدام المسؤول لهذه التقنيات، وهي غير ملزمة قانوناً، ولكن يُتوقع من المؤسسات المرخصة الرجوع إليها عند صياغة سياساتها الداخلية.
وعلى الرغم من تركيز هذه المذكرة بشكل خاص على حماية المستهلك، فإن مصرف الإمارات المركزي يحث المؤسسات المالية المرخصة على النظر في عواقب الذكاء الاصطناعي وتعلم الآلة من منظور أوسع، بما في ذلك إدارة المخاطر المالية وغير المالية، نظراً للتطور المستمر والسريع في مجال الذكاء الاصطناعي وتعلم الآلة
وتحدد المذكرة عدداً من المبادئ لمساعدة المؤسسات المالية في صياغة سياساتها وإجراءاتها الداخلية الخاصة بالاستخدام الأخلاقي والمسؤول لهذه التقنيات فيما يتعلق بالمستهلكين، وأولها أنه يجب على المؤسسات المالية المرخصة اعتماد إطار حوكمة موثق للذكاء الاصطناعي وتعلم الآلة يتناسب مع حجم وطبيعة وتعقيد عملياتها، مع تعزيز ثقافة الاستخدام المسؤول وفهم مخاطره.
اختبارات دورية
وطالبت مذكرة الإرشادات التوجيهية لحماية المستهلك وضمان الاستخدام المسؤول للذكاء الاصطناعي في القطاع المالي، بخضوع نماذج الذكاء الاصطناعي لاختبارات دورية (سنوياً أو عند كل تحديث جوهري) لتحديد ومعالجة أي تحيزات غير مقصودة أو نتائج تمييزية بين العملاء، مع ضرورة أن تعكس القرارات المدعومة بالذكاء الاصطناعي معايير الأخلاق والواجب في التصرف بأمانة وعدالة وبما يخدم مصالح المستهلكين بشكل أمثل، لافتة إلى أنه يُتوقع من المؤسسات ضمان عدم تسبب أنظمة الذكاء الاصطناعي في نتائج تمييزية أو تلاعبيه ضد الأفراد أو المجموعات، وأن تكون البيانات المستخدمة في التدريب دقيقة وذات صلة وممثلة لمجتمع العملاء الذي ستُطبق عليه النماذج.
حقوق العملاء
وفيما يخص الشفافية، فقد أكد المصرف المركزي، على ضرورة أن تكون المؤسسات المالية شفافة مع العملاء وأصحاب المصلحة بشأن استخدام الذكاء الاصطناعي، خاصة في القرارات عالية التأثير، وتوضيح كيفية عمل هذه الأنظمة.
وقال إنه يجب تزويد العملاء (بمعلومات ذات معنى) حول منطق قرارات الذكاء الاصطناعي وتوفير آليات لطلب التوضيح أو التظلم، داعياً إلى النظر في منح العملاء حق «رفض المشاركة» فيما يتعلق بالذكاء الاصطناعي، خاصة في القرارات عالية التأثير.
مراقبة وإشراف بشري
وفقاً لـ «إطار عمل حوكمة الذكاء الاصطناعي وحماية المستهلك» الصادر عن المصرف المركزي، فإن متطلبات المراقبة والمراجعة المستمرة لأنظمة الذكاء الاصطناعي تتضمن أن يخضع الذكاء الاصطناعي لمراقبة مستمرة لضمان الفهم الدائم له، وموثوقيته، وملاءمته، وتوافقه مع أهداف حماية المستهلك، وتحديث نماذج الذكاء الاصطناعي وتعلم الآلة باستمرار، أو التوقف عن استخدامها عند الاقتضاء، مشدداً على أهمية ضمان المؤسسات المالية لوجود أنظمة لمواكبة التطورات القانونية وتطورات المزودين والسوق فيما يتعلق باستخدام الذكاء الاصطناعي.
وعن الإشراف البشري وحماية المستهلك، أكدت مذكرة الإرشادات التوجيهية، أنه يجب على المؤسسات المالية ضمان عمل أنظمة الذكاء الاصطناعي وتعلم الآلة تحت إشراف وتقدير بشري هادف، لا سيما في القرارات ذات التداعيات الكبيرة على المستهلكين.
وقالت إنه يجب أن يكون المستهلكون قادرين على طلب مراجعة بشرية أو تفسير للقرارات الناتجة عن الذكاء الاصطناعي، وتوفير ترتيبات بديلة إذا كان العميل لا يرغب في الخضوع لقرار صادر عن الذكاء الاصطناعي، منبهه إلى ضرورة أن يعزز تصميم ونشر أنظمة الذكاء الاصطناعي المعاملة العادلة والمنصفة، بحيث لا يجوز استخدامه لاستهداف المستهلكين بمنتجات غير مناسبة أو ممارسة ضغوط البيع أو التسويق المضلل.
