مع انتقال الذكاء الاصطناعي من مرحلة التجارب إلى التطبيق الفعلي داخل الجهات، أصبحت الحاجة إلى حوكمة واضحة للذكاء الاصطناعي أكثر أهمية من أي وقت مضى. فالجهات في المملكة العربية السعودية تحتاج إلى أطر وسياسات وضوابط تضمن استخدام أنظمة الذكاء الاصطناعي بطريقة مسؤولة وآمنة، وبما يتماشى مع التوجهات الوطنية والمتطلبات التنظيمية ذات العلاقة.

تركز توجهات الهيئة السعودية للبيانات والذكاء الاصطناعي على مبادئ رئيسية مثل المساءلة، العدالة، الشفافية، السلامة، الرقابة البشرية، وحماية الحقوق، مع دعم الابتكار المسؤول. ولذلك، فإن حوكمة الذكاء الاصطناعي لا تهدف إلى إيقاف الابتكار، بل إلى تمكينه ضمن إطار واضح يقلل المخاطر ويعزز الثقة.

يبدأ برنامج حوكمة الذكاء الاصطناعي الفعّال بتحديد وتوثيق جميع حالات استخدام الذكاء الاصطناعي داخل الجهة. ويشمل ذلك معرفة أين يتم استخدام الذكاء الاصطناعي، وما القرارات أو العمليات التي يدعمها، وما البيانات التي يعتمد عليها، ومن يملك النظام أو الحالة الاستخدامية، وما المخاطر المحتملة الناتجة عن تطويره أو تشغيله. وبدون سجل واضح لحالات استخدام الذكاء الاصطناعي، قد يصعب على الجهات إدارة المخاطر أو إثبات الامتثال والمساءلة.

كما ينبغي تضمين متطلبات الحوكمة والامتثال في كامل دورة حياة الذكاء الاصطناعي، بدءًا من اعتماد حالة الاستخدام وتصنيف المخاطر، مرورًا بتطوير النموذج واختباره ونشره، ووصولًا إلى مراقبته ومراجعته بشكل دوري. ويتطلب ذلك وجود سياسات واضحة، وآليات موافقة، ولجان أو أدوار محددة لاتخاذ القرار، ومتطلبات توثيق تضمن مراجعة مبادرات الذكاء الاصطناعي قبل استخدامها في بيئة الإنتاج.

وتتطلب حالات الاستخدام عالية المخاطر ضوابط حوكمة أكثر صرامة. وقد تشمل هذه الضوابط تقييمات العدالة والتحيز، مراجعة قابلية التفسير، آليات الرقابة البشرية، تقييم أثر الذكاء الاصطناعي على الخصوصية، فحص جودة البيانات، التحقق من أداء النموذج، والمراقبة المستمرة لاكتشاف أي انحراف في الأداء أو نتائج غير مقصودة. والهدف من ذلك هو ضمان بقاء أنظمة الذكاء الاصطناعي موثوقة، وآمنة، ومتوافقة مع الغرض المعتمد من استخدامها.

وتُعد الملكية الواضحة والمسؤوليات المحددة من أهم عناصر حوكمة الذكاء الاصطناعي. لذلك، يجب أن تعمل فرق الالتزام، والشؤون القانونية، والبيانات، والأمن السيبراني، والتقنية، ووحدات الأعمال ضمن نموذج تشغيل واضح يحدد الأدوار والمسؤوليات. ويساعد ذلك على ضمان عدم إدارة مخاطر الذكاء الاصطناعي بشكل منفصل أو غير منسق، ويعزز المساءلة خلال دورة حياة النظام.

كما أن التوثيق يمثل عنصرًا أساسيًا في جاهزية الحوكمة والامتثال. إذ ينبغي على الجهات الاحتفاظ بأدلة واضحة تشمل تقييمات مخاطر الذكاء الاصطناعي، قرارات الموافقة، نتائج الاختبارات، أنشطة المراقبة، ضوابط المراجعة البشرية، تقييمات الموردين، وسجلات قرارات الامتثال. ويساعد التوثيق الجيد في دعم الجاهزية للتدقيق وإثبات أن حوكمة الذكاء الاصطناعي مطبقة فعليًا، وليست مجرد سياسات مكتوبة.

تدعم بريفسكاي الجهات في تصميم أطر حوكمة الذكاء الاصطناعي، وتقييم مخاطر وامتثال أنظمة الذكاء الاصطناعي، وتطوير السياسات والإجراءات، وتصميم نماذج التشغيل، وبناء آليات مراجعة حالات الاستخدام، والاستعداد لمتطلبات الحوكمة والتدقيق، والمواءمة مع توجهات الهيئة السعودية للبيانات والذكاء الاصطناعي والمعايير الدولية مثل معيار نظام إدارة الذكاء الاصطناعي ISO/IEC 42001.

ومن خلال نموذج حوكمة واضح وعملي، يمكن للذكاء الاصطناعي المسؤول أن يصبح عاملًا ممكنًا للابتكار وليس عائقًا أمامه. فدمج الحوكمة في المراحل المبكرة يساعد الجهات على تبني الذكاء الاصطناعي بثقة، وتقليل المخاطر، ودعم التحول الرقمي المسؤول في المملكة العربية السعودية.
:::

ملخص قصير للمدونة:

تساعد حوكمة الذكاء الاصطناعي الجهات على تبني تقنيات الذكاء الاصطناعي بمسؤولية من خلال إدارة المخاطر، تعزيز الشفافية، تحديد المسؤوليات، وضمان الامتثال للتوجهات الوطنية والمعايير الدولية.