خدمات حوكمة الذكاء الاصطناعي وإدارة مخاطره في السعودية

تتناول مبادئ أخلاقيات الذكاء الاصطناعي الصادرة عن سدايا التطوير والاستخدام المسؤول عبر دورة حياة الأنظمة. تشمل العدالة والخصوصية والأمن والإنسانية والمنافع الاجتماعية والبيئية والموثوقية والسلامة والشفافية وقابلية التفسير والمساءلة والمسؤولية. ينبغي أن تؤثر هذه المبادئ في اختيار الحالة والبيانات والنموذج وطريقة التشغيل، لا أن تضاف كوثيقة شكلية بعد إتمام الشراء.

تنشر سدايا أيضاً الإطار الوطني لإدارة مخاطر الذكاء الاصطناعي، وتؤكد قائمة منشوراتها وخبر الإطلاق الرسمي لوكالة الأنباء السعودية وجود مرجع وطني للجهات الحكومية والخاصة لتحديد المخاطر وتقييمها ومعالجتها ومراقبتها. تدعم آيريس تكنولوجي تحويل هذه المرجعيات إلى برنامج تشغيلي يربط المسؤولية بضوابط البيانات والبنية الأمنية وتقييم النماذج والمراجعة المستمرة بحسب غرض النظام وعواقب استخدامه.

احصر الأنظمة التي تطورها الجهة أو تشتريها أو تدمجها أو تستخدمها، بما فيها النماذج المستضافة خارجياً والخصائص الذكية المضمنة في البرمجيات. راجع المرجعيات المنطبقة ومتطلبات البيانات الشخصية والأمن السيبراني والتوجيهات القطاعية والعقود. لا تفترض أن جميع الوثائق الإرشادية تفرض التزامات متطابقة، أو أن سياسة عامة واحدة تحسم مخاطر كل استخدام.

حدد حدود التقييم عبر المدخلات ومصادر الاسترجاع والنماذج والتعليمات والأدوات والمخرجات والقرارات البشرية. قد تتغير المخاطر بتغير النموذج أو البيانات أو التكامل أو العملية. يدعم الإطار تحديد السياق والنطاق وتحديد المخاطر وتقييمها ومعالجتها ومراقبتها ومراجعتها باستمرار. حدد مسببات إعادة التقييم والأدلة اللازمة بما يتناسب مع التعرض والاعتماديات الخارجية وأثر المخرجات غير الصحيحة.