جاء ذلك خلال جلسة بعنوان Trust Test for Agentic AI أدارتها رئيسة قسم الاقتصاد في سكاي نيوز عربية لبنى بوظة، على هامش فعاليات الاجتماعات السنوية لقيادات المستقبل العالمية التي تنظمها حكومة الإمارات العربية المتحدة والمنتدى الاقتصادي العالمي ومؤسسة دبي للمستقبل.
وقال العلماء إن النقاشات العالمية حول الذكاء الاصطناعي تركز في كثير من الأحيان على المخاطر والتحديات المحتملة، إلا أن هناك جانباً آخر لا يقل أهمية يتمثل في الفرص الكبيرة التي تتيحها هذه التكنولوجيا إذا ما تم تطبيقها بصورة مسؤولة ومدروسة.
وأوضح أن القيادة الإماراتية وضعت هدفاً طموحاً يتمثل في أن يتم تقديم 50 بالمئة من الخدمات الحكومية الاتحادية عبر الوكلاء الرقميين خلال العامين المقبلين، مشيراً إلى أن العمل جارٍ بوتيرة متسارعة لتحقيق هذا الهدف.
وأضاف: “لدينا أهداف طموحة للغاية وضعها صاحب السمو رئيس الدولة وصاحب السمو رئيس مجلس الوزراء، ونعمل على ضمان أن يتم توظيف الوكلاء الرقميين في المجالات التي تحقق قيمة حقيقية للمجتمع دون تعريض الأفراد لأي مخاطر غير ضرورية”.
نشر مسؤول للذكاء الاصطناعي
وشدد العلماء على أن أحد المرتكزات الأساسية في الاستراتيجية الإماراتية يتمثل في ضمان أن يكون كل وكيل رقمي مستخدم في الخدمات الحكومية تابعاً لجهة مسؤولة ومدركة للتبعات المترتبة على قراراته وإجراءاته.
وأوضح أن الحكومة لا تعتمد على حلول تقنية جاهزة دون التأكد من فهم الجهات المطورة لطبيعة الخدمات المقدمة وتأثيرها المحتمل على المستخدمين، مؤكداً أن المسؤولية والمحاسبة عنصران أساسيان في عملية نشر هذه التقنيات.
وقال إن الهدف لا يقتصر على إدخال الذكاء الاصطناعي في الخدمات الحكومية، بل يتعدى ذلك إلى التأكد من أن استخدامه يتم بطريقة تحافظ على ثقة المجتمع وتمنع أي ضرر محتمل للأفراد.
تقييم الخدمات وفق مستوى المخاطر
وأشار وزير الدولة للذكاء الاصطناعي إلى أن الحكومة أجرت تقييماً شاملاً للخدمات الحكومية لتحديد مستوى المخاطر المرتبط بكل خدمة قبل إدماج الوكلاء الرقميين فيها.
وأوضح أن بعض الخدمات، مثل تجديد جوازات السفر أو إنجاز المعاملات الروتينية، تنطوي على مخاطر محدودة نسبياً ويمكن الاستفادة فيها من الذكاء الاصطناعي بدرجة أكبر، في حين توجد خدمات أخرى تتطلب معايير أعلى من التدقيق والإشراف البشري بسبب حساسية القرارات المرتبطة بها.
وأضاف أن الدراسة الحكومية خلصت إلى أن نحو 70 بالمئة من الخدمات يمكن أن تتحمل بدرجات متفاوتة استخدام الوكلاء الرقميين، بينما تم استبعاد نحو 30 بالمئة من الخدمات بسبب ارتفاع مستوى المخاطر المرتبطة بأي أخطاء محتملة فيها.
وقال: “هناك خدمات لا تزال مخاطر الخطأ فيها أعلى من حدود التسامح التي نعتمدها، ولذلك لا ننظر حالياً في إدخال الذكاء الاصطناعي ضمنها”.
“برج مراقبة للوكلاء”
وكشف العلماء عن نظام رقابي جديد وصفه بـ”برج مراقبة الوكلاء”، مشيراً إلى أنه يمثل إحدى الآليات الرئيسية لضمان الاستخدام الآمن والمسؤول للتكنولوجيا.
وأوضح أن جميع الوكلاء العاملين ضمن الحكومة الاتحادية ملزمون بالاتصال بهذه المنظومة المركزية، حيث يتم تسجيل ومراقبة كل إجراء أو قرار أو خطوة يتخذها الوكيل الرقمي.
وأضاف أن النظام يوفر مستويات متعددة من التدقيق تشمل رقابة آلية تقوم بها أنظمة ذكية أخرى، إضافة إلى رقابة بشرية مستمرة بهدف اكتشاف أي خلل أو سلوك غير متوقع والتعامل معه بشكل فوري.
وقال عمر سلطان العلماء، وزير دولة للذكاء الاصطناعي والاقتصاد الرقمي وتطبيقات العمل عن بُعد في دولة الإمارات العربية المتحدة، إن هذه المنظومة تتيح للحكومة فهماً دقيقاً لكيفية اتخاذ الوكلاء الرقميين للقرارات وآليات عملهم، بما يضمن الشفافية وإمكانية المحاسبة.
جودة الحياة قبل الإنتاجية
وأكد العلماء أن الإمارات لا تقيس نجاح مشاريع الذكاء الاصطناعي من زاوية زيادة الإنتاجية أو تحقيق الوفورات المالية فقط، رغم أهمية هذين العاملين.
وأشار إلى أن التوجيه الحكومي يتمثل في التركيز أولاً على مدى مساهمة التكنولوجيا في تحسين جودة حياة الناس.
وأوضح عمر سلطان العلماء، وزير دولة للذكاء الاصطناعي والاقتصاد الرقمي وتطبيقات العمل عن بُعد في دولة الإمارات العربية المتحدة، أن العديد من المؤسسات حول العالم تقيّم الذكاء الاصطناعي بناءً على حجم المكاسب الاقتصادية أو معدلات رفع الكفاءة التشغيلية، إلا أن الإمارات تعتمد معياراً مختلفاً يتمثل في الأثر الفعلي على الإنسان.
وقال: “إذا كان الوكيل الرقمي يحسن جودة حياة الناس فنحن نسير في الاتجاه الصحيح، أما إذا حقق مكاسب إنتاجية أو اقتصادية لكنه ألحق ضرراً بالأفراد، فإن ذلك لا يمثل نجاحاً بالنسبة لنا”.
سبل عيش الناس “خط أحمر”
وحول ما وصفه بـ”الخطوط الحمراء” في استخدام الذكاء الاصطناعي، شدد العلماء على أن أي تطبيق قد يؤثر سلباً على حياة الناس أو مصادر رزقهم يظل خارج نطاق القبول في الوقت الحالي.
وأوضح أن التطور السريع للتكنولوجيا لا يزال يفرض قدراً من عدم اليقين بشأن حدود قدراتها وتأثيراتها المستقبلية، الأمر الذي يتطلب قدراً كبيراً من الحذر عند استخدامها في مجالات تمس حياة الأفراد بشكل مباشر.
وأضاف أن قيمة الإنسان وسبل عيشه لا يمكن قياسها بالأرقام أو المكاسب الاقتصادية، الأمر الذي يفرض على الحكومات مسؤولية مضاعفة في إدارة عملية التحول الرقمي.
وختم بالقول إن الحفاظ على ثقة المجتمع يتطلب الاستمرار في تبني الذكاء الاصطناعي بطريقة مسؤولة ومتدرجة، مع وضع مصلحة الإنسان في صدارة الأولويات، مؤكداً أن التكنولوجيا يجب أن تكون أداة لتحسين حياة الناس لا مصدراً لمخاطر جديدة عليهم.
