تقييم نظام ذكاء اصطناعي: التدقيق والاختبارات والأدلة

ثلاثة أسئلة مختلفة، وثلاثة تقييمات مختلفة#

حين يسأل عميل، أو سلطة ضبط، أو لجنة إدارة: «هل خضع ذكاؤكم الاصطناعي للتدقيق؟»، قد يغطي السؤال ثلاثة واقع مختلفة:

والخلط بين هذه التمارين يؤدي إلى سوء فهم مكلف. فشهادة ISO/IEC 42001 لا تقول شيئاً عن دقة نموذج للتنقيط؛ والنتيجة الممتازة في الدقة لا تقول شيئاً عن الطريقة التي تراقب بها المؤسسة هذا النموذج عبر الزمن.

تدقيق نظام التدبير: ISO/IEC 42001 و42006#

يصف معيار ISO/IEC 42001:2023 نظاماً لتدبير الذكاء الاصطناعي: السياسات، والأدوار، وتقييم المخاطر والآثار، وآليات المراقبة، والتتبع والتحسين. ويتحقق التدقيق من وجود هذا النظام، ومن تطبيقه، ومن تحسّنه. وهو لا يختبر الخوارزميات.

ومنذ يوليوز 2025، يحدد معيار ISO/IEC 42006 المتطلبات الخاصة بالذكاء الاصطناعي بالنسبة للهيئات التي تدقق وتمنح الإشهاد وفق ISO/IEC 42001، تكملةً لـISO/IEC 17021-1: كفاءة المدققين، ومدة عمليات التدقيق، ومضمون الشهادات. ولا يمكن إلا للهيئات المعتمدة من طرف هيئة وطنية للاعتماد أن تمنح إشهاداً معترفاً به؛ ويُتحقق من اعتمادها في السجل العمومي للجهة المانحة للاعتماد. ويفصّل دليلنا حول الإشهاد وفق ISO 42001 المقاربة.

التقييم التقني: الانحيازات والمتانة والدقة#

ينصبّ التقييم التقني على نظام محدد، في استعماله المتوقع. وتؤطره وثيقتان من ISO:

• ISO/IEC TR 24027:2021 يتناول الانحيازات في أنظمة الذكاء الاصطناعي وفي القرارات المدعومة بالذكاء الاصطناعي. نُشر في نونبر 2021، وما يزال ساري المفعول.
• ISO/IEC TS 12791:2024، المنشورة في أكتوبر 2024، تتناول الانحيازات غير المرغوب فيها في مهام التعلم الآلي الخاصة بالتصنيف والانحدار.

ويغطي التقييم التقني المفيد على الأقل:

1. المعطيات: تمثيلية الساكنة المخدومة، والجودة، والانحيازات الممكنة. وتشترط المادة 10 من قانون الذكاء الاصطناعي الأوروبي، بالنسبة للأنظمة عالية المخاطر، معطيات للتدريب والتحقق والاختبار ملائمة وتمثيلية ومفحوصة على ضوء الانحيازات الممكنة.
2. الدقة: مقاييس ملائمة للاستعمال، تُقاس حسب المجموعات الفرعية وليس بالمتوسط فقط. وتشترط المادة 15 مستويات ملائمة من الدقة والمتانة والأمن السيبراني، مع مقاييس مصرَّح بها في تعليمات الاستعمال.
3. المتانة: السلوك أمام مدخلات غير مألوفة، وأخطاء الرقن، والخلط بين اللغات (العربية، والدارجة، والفرنسية)، ومحاولات التلاعب.
4. السلوك في الوضعية الفعلية: الفوارق بين الاختبارات والإنتاج، والانحراف عبر الزمن.

وبالنسبة لروبوت محادثة في خدمة العملاء، يعني ذلك اختبار الردود على أسئلة حقيقية، باللغات الفعلية للعملاء، والتحقق من الحالات التي يجب أن يُحيل فيها إلى إنسان (انظر دليلنا حول الذكاء الاصطناعي في معالجة الشكايات).

دراسة الأثر: ISO/IEC 42005 والمادة 27#

يقدم ISO/IEC 42005، المنشور في ماي 2025، خطوطاً توجيهية لتقييم الآثار المحتملة لنظام ذكاء اصطناعي على الأشخاص والمجموعات والمجتمع، ولتوثيق هذا التقييم. وهو ليس معيار متطلبات قابلاً للإشهاد: بل يكمّل ISO/IEC 42001.

وفي قانون الذكاء الاصطناعي الأوروبي، تفرض المادة 27 تحليلاً للأثر على الحقوق الأساسية قبل أول استعمال لنظام عالي المخاطر من طرف بعض الجهات المستخدِمة: الهيئات العمومية، والكيانات الخاصة التي تقدم خدمات عمومية، والجهات المستخدِمة لأنظمة تقييم الملاءة المالية أو التسعير في تأمين الحياة والصحة (الملحق الثالث، النقطتان 5(b) و5(c)). وقد عُدِّلت المادة 27 باللائحة 2026/1744؛ ويجب الاطلاع على تفاصيل التعديل في النص الموحَّد قبل اتخاذ أي قرار.

وحين يعالج النظام معطيات شخصية، تلتقي دراسة الأثر مع مبادئ القانون 09.08 وإجراءاته، ومع تحليل الأثر وفق RGPD بالنسبة للمعطيات الأوروبية. ويبيّن دليلنا حول الخصوصية منذ التصميم كيف تُدمج هذه الأسئلة منذ التصميم.

ما سيشترطه قانون الذكاء الاصطناعي الأوروبي من الأنظمة عالية المخاطر#

أرجأت اللائحة 2026/1744، السارية المفعول منذ 27 يوليوز 2026، التواريخ: 2 دجنبر 2027 بالنسبة للأنظمة المستقلة الواردة في الملحق الثالث، و2 غشت 2028 بالنسبة لأنظمة الملحق الأول.

وقد عُدِّلت المواد 27 و43 و72 بالحزمة الشاملة، ولم تكن مصلحة المساعدة التابعة للمفوضية تعرض النص المعدَّل بعد في تاريخ التحقق. وتهيكل المواد من 9 إلى 17 أيضاً دليلنا حول دورة حياة نظام الذكاء الاصطناعي.

إطار NIST، المفيد خارج الاتحاد#

ينظم NIST AI Risk Management Framework 1.0، المنشور في 26 يناير 2023، تدبير المخاطر في أربع وظائف: الحكم، ورسم الخريطة، والقياس، والتدبير. ويفصّل ملفه الخاص بالذكاء الاصطناعي التوليدي (NIST AI 600-1)، المنشور في 26 يوليوز 2024، هذه الوظائف بالنسبة للمخاطر الخاصة بالنماذج التوليدية. وهذا الإطار، رغم طابعه الاختياري، كثيراً ما يطلبه عملاء من أمريكا الشمالية، ويوفر شبكة قراءة متوافقة مع ISO/IEC 42001.

الزاوية المغربية#

ما يزال الإطار المغربي الخاص بالذكاء الاصطناعي في طور البناء (انظر دليلنا حول الإطار القانوني للذكاء الاصطناعي في المغرب). في المقابل، يُطبَّق القانون 09.08 بمجرد أن يعالج النظام معطيات شخصية، وتؤطر مادته 11 القرارات المبنية على معالجة آلية. لذا يجب على المؤسسة التي تنقّط طلبات القروض، أو تفرز الترشيحات، أو ترتّب أولويات الشكايات، أن تقيّم نظامها على ضوء هذه القاعدة، مع اللجنة الوطنية لمراقبة حماية المعطيات ذات الطابع الشخصي (CNDP) بوصفها السلطة المختصة. كما يجب تقييم مزوّدي الذكاء الاصطناعي أنفسهم بوصفهم أغياراً (انظر دليلنا حول تدبير مخاطر الأغيار).

خطة التقييم وملف الأدلة#

1. تحديد النظام، واستعماله المتوقع، والأشخاص المعنيين، ودورك (مزوّد أو جهة مستخدِمة).
2. تكييف مستوى المخاطر وفق قانون الذكاء الاصطناعي الأوروبي والقانون 09.08.
3. إجراء دراسة الأثر وفق ISO/IEC 42005، مع الوحدات المهنية ومندوب حماية المعطيات.
4. اختبار المعطيات، والدقة حسب المجموعات الفرعية، والمتانة، وحالات الإحالة إلى الإنسان.
5. التحقق من الحوكمة: الأدوار، والمصادقة، والتسجيل في السجلات، والمراقبة، وتدبير الحوادث.
6. توثيق النتائج، والحدود المعروفة، والتدابير التصحيحية.
7. برمجة إعادة التقييم عند كل تعديل جوهري ومرة واحدة على الأقل في السنة.

ويجمع ملف الأدلة بطاقة النظام، ودراسة الأثر، وتقارير الاختبارات المؤرخة، وقرارات المصادقة، وسجلات المراقبة، وسجل الحوادث. ويُستعمل أيضاً للرد على استبيانات الامتثال التي يرسلها العملاء الأوروبيون.