مرجع إرشادي وطني
يمثل إعلان «سدايا» إطلاقاً عاماً لإطار وطني إرشادي، وليس مذكرة تفاهم أو تجربة محدودة أو خطة مستقبلية. ووفق ما أوردته وكالة الأنباء السعودية، يستهدف الإطار مساعدة الجهات الحكومية والخاصة على إدارة مخاطر الذكاء الاصطناعي من خلال منهجية موحدة تتناول تحديد المخاطر وتقييمها ومعالجتها ومتابعتها.
تأتي أهمية الإطار من اتساع استخدامات الذكاء الاصطناعي داخل المؤسسات، حيث لم تعد هذه الاستخدامات محصورة في الإدارات التقنية وحدها. فالنماذج والخدمات الذكية أصبحت تدخل في تحسين الخدمات، ورفع كفاءة العمليات، ودعم القرار، وهو ما يجعل الحوكمة وإدارة المخاطر جزءاً من إدارة الأعمال نفسها، لا ملحقاً فنياً يضاف بعد اكتمال المشروع.
طبيعة مختلفة للمخاطر
توضح «سدايا» في الملخص التنفيذي أن مخاطر أنظمة الذكاء الاصطناعي تختلف عن مخاطر الأنظمة التقنية التقليدية. فقد تتأثر هذه الأنظمة بالبيانات التي تتعامل معها، وقد تظهر مخاطرها أثناء التشغيل، كما قد تتطلب مراجعة مستمرة بسبب تغير السياق أو الاستخدام أو الأداء بمرور الوقت.
هذا الفهم مهم للجهات التي تستخدم الذكاء الاصطناعي في خدمات ذات أثر مباشر على المستفيدين أو العملاء. فاعتماد نظام ذكي لا يقتصر على اختبار دقته قبل التشغيل، بل يتطلب تحديد الغرض من استخدامه، ونطاق تأثيره، وطبيعة البيانات المدخلة إليه، والقرارات أو العمليات التي قد تتأثر بمخرجاته. بذلك يصبح تقييم المخاطر مرتبطاً بالسياق العملي للنظام، لا بوصفه التقني فقط.
دورة حياة لإدارة المخاطر
يعرض الإطار دورة حياة لإدارة مخاطر الذكاء الاصطناعي تبدأ بتحديد السياق والنطاق، ثم تحديد المخاطر وتحليلها وتقييمها، قبل الانتقال إلى معالجتها ومتابعتها ومراجعتها. وتهدف هذه الدورة إلى جعل إدارة المخاطر عملية مستمرة ترافق النظام في مراحل استخدامه، بدلاً من أن تكون إجراءً منفصلاً يسبق الإطلاق فقط.
كما يشير الملخص التنفيذي إلى استخدام مصفوفة للمخاطر تربط بين احتمالية وقوع الخطر وحجم أثره. وتساعد هذه المقاربة الجهات على ترتيب الأولويات، وتقدير مستوى المخاطر، واختيار إجراءات المعالجة المناسبة وفق أثر النظام واحتمالات الضرر. وبذلك يوفر الإطار لغة مشتركة بين فرق التقنية، وإدارات المخاطر، والامتثال، ووحدات الأعمال.
مبادئ ومعايير للاستخدام المسؤول
يرتكز الإطار على سبعة مبادئ أساسية، هي النزاهة والإنصاف، والخصوصية والأمن، والإنسانية، والموثوقية والسلامة، والشفافية وقابلية التفسير، والمساءلة والمسؤولية، والمنافع الاجتماعية والبيئية. وتمنح هذه المبادئ الجهات أساساً عملياً لمراجعة أنظمة الذكاء الاصطناعي من زاوية الثقة والأثر والالتزام، وليس من زاوية الأداء التقني وحده.
وبحسب ما أعلنته «سدايا»، يصنف الإطار مخاطر الذكاء الاصطناعي في سبعة أنواع رئيسية لضمان شمولية التحديد وعدم إغفال فئات جوهرية من المخاطر. ويتيح ذلك للجهات الحكومية والخاصة بناء قوائم فحص وإجراءات مراجعة أكثر اتساقاً عند تطوير أو شراء أو تشغيل حلول الذكاء الاصطناعي.
خطط لمشروع الذكاء الاصطناعي بثقة
ناقش أهدافك وأنظمتك الحالية والفرص العملية مع فريق إليفانت كلوك، وحدد مساراً واضحاً ومسؤولاً لمشروعك.
احصل على استشارة مجانية