الهيئة السعودية للبيانات والذكاء الاصطناعي تكشف عن الإطار الوطني لإدارة مخاطر الذكاء الاصطناعي

الإطار الوطني لإدارة مخاطر الذكاء الاصطناعي: الإطلاق والغرض

أعلنت الهيئة السعودية للبيانات والذكاء الاصطناعي (سدايا) عن إطلاق الإطار الوطني لإدارة مخاطر الذكاء الاصطناعي كمرشد إرشادي يقدّم منهجية موحدة على مستوى الدولة لتحديد المخاطر وتقييمها ومعالجتها ومتابعتها، ما يمكّن القطاعين العام والخاص من استخدام التقنية بطريقة آمنة ومسؤولة تتماشى مع أولويات الدولة وتوجهاتها.

طريقة عمل الإطار ومميزات مخاطر الذكاء الاصطناعي

وأوضحت الهيئة أن مخاطر الذكاء الاصطناعي تختلف في طبيعتها عن مخاطر البرمجيات التقليدية؛ فقد تظهر بشكل غير متوقع أثناء التشغيل، ويتغير أداء الأنظمة مع مرور الوقت، إضافة إلى صعوبة تفسير سلوكها وإعادة إنتاج النتائج، ما يجعل عملية حصر المخاطر وتقييمها أكثر تعقيدًا ويستلزم اعتماد منهجية شاملة لإدارتها. وبيّنت أن منهجية إدارة المخاطر تستند إلى دورة حياة متكاملة تتألف من أربع مراحل مترابطة؛ تبدأ بتحديد السياق والنطاق، ثم تنتقل إلى تحديد المخاطر وتقييمها ومعالجتها، وتصل إلى مرحلة المتابعة والمراجعة المستمرة، مع حساب مستوى الخطر من خلال مصفوفة تربط بين احتمال حدوثه وحجم تأثيره، ما يوحد آلية التقييم بين مختلف الكيانات ويسهل المقارنة وتحديد أولويات العلاج.

المبادئ الأساسية وتصنيف المخاطر

وأضافت الهيئة أن الإطار يستند إلى سبعة مبادئ أساسية هي: النزاهة والعدالة، خصوصية البيانات وأمنها، مراعاة البعد الإنساني، ضمان الموثوقية والسلامة، الشفافية والقدرة على التفسير، الالتزام بالمحاسبة والمسؤولية، وتحقيق المنافع الاجتماعية والبيئية؛ كما يصنف مخاطر الذكاء الاصطناعي إلى سبعة أنواع رئيسية لضمان شمولية التحديد وتجنب إغفال أي فئة جوهرية.

التطبيق العملي ودعم الرؤية الوطنية

وشمل الإطار سيناريو تطبيقيًا يحاكي استخدام جهة حكومية لنموذج ذكاء اصطناعي لإعداد التقارير الداخلية، حيث يستعرض كيفية تحديد المخاطر المرتبطة بهذا النموذج وتقييمها ومعالجتها ومتابعتها، مقدّمًا للجهات نموذجًا عمليًا يمكن تطبيقه عبر مختلف القطاعات ومستويات النضج الرقمي. ويأتي هذا الإطار في إطار جهود الهيئة لتعزيز الاستخدام المسؤول والآمن لتقنيات الذكاء الاصطناعي وتمكين الجهات الوطنية من اعتمادها، انطلاقًا من دورها كمرجع وطني للبيانات والذكاء الاصطناعي في المملكة، ومساهمتها في تعزيز منظومة الابتكار الرقمي، وبما يتماشى مع أهداف رؤية المملكة 2030.