مزوّد أم مستخدِم؟ تحديد دورك وفق قانون الذكاء الاصطناعي الأوروبي

لماذا تأتي مسألة الدور أولاً#

لا يفكر قانون الذكاء الاصطناعي الأوروبي حسب القطاع بل حسب الدور. فالوقائع نفسها (روبوت صوتي، أداة لتحليل المكالمات) تترتب عنها التزامات مختلفة بحسب ما إذا كان الفاعل مزوّداً أو جهة مستخدِمة أو موزّعاً أو مستورداً. والخطأ في تحديد الدور يؤدي إما إلى إهمال التزامات، وإما إلى تحمّل التزامات تعود إلى طرف آخر.

وبالنسبة لمقدّم خدمة مقيم في المغرب، يُطرح السؤال بمجرد أن يُطبَّق القانون الأوروبي، أي عندما يطرح نظاماً في السوق الأوروبية، أو عندما تُستعمل نتائج نظامه داخل الاتحاد (المادة 2(1)). ونعرض الأسس في دليلنا حول قانون الذكاء الاصطناعي الأوروبي ومراكز الاتصال المغربية؛ أما هذه الصفحة فتدخل في تفاصيل التكييف.

التعاريف المهمة#

ملاحظتان عمليتان. أولاً، يشمل «التطوير» التكليف بالتطوير: فالمركز الذي يعهد بإنشاء روبوته الصوتي إلى وكالة ثم يشغّله بعلامته هو مزوّد. ثانياً، يُقدَّر الدور نظاماً بنظام: فقد يكون المركز نفسه مزوّداً لأداة وجهة مستخدِمة لأداة أخرى.

خمس حالات نموذجية في مراكز علاقة العملاء#

هذه التكييفات إرشادية. فالحد الفاصل بين «الاشتغال لحساب العميل» و«الاستعمال تحت سلطته الخاصة» يتوقف على من يقرر فعلياً الإعدادات والسيناريوهات والأغراض. ويجب أن يعكس العقد الواقع، لا العكس.

متى تصبح الجهة المستخدِمة مزوّداً: المادة 25#

بالنسبة للأنظمة عالية المخاطر، تنص المادة 25(1) على أن الموزّع أو المستورد أو الجهة المستخدِمة أو أي طرف ثالث آخر يُعدّ مزوّداً، مع كل الالتزامات المترتبة على ذلك، في ثلاث حالات:

1. إذا وضع اسمه أو علامته على نظام عالي المخاطر سبق طرحه في السوق؛
2. إذا أدخل عليه تعديلاً جوهرياً وظل النظام عالي المخاطر؛
3. إذا غيّر الغرض من نظام لم يكن عالي المخاطر، بحيث يصبح كذلك.

مثال: يشتري مركز أداة عامة لتحليل المحادثات ويستعملها لتقييم مستشاريه وترتيبهم بهدف منح المكافآت. فهو بذلك يغيّر غرضها نحو استعمال وارد في الملحق الثالث (النقطة 4(b)، تقييم الأداء). ويعرّض نفسه حينئذ لأن يُعامَل كمزوّد لهذا النظام عالي المخاطر.

ويجب على المزوّد الأصلي أن يتعاون مع المزوّد الجديد (المادة 25(2))، كما يجب على مزوّد النظام عالي المخاطر أن يبرم اتفاقاً مكتوباً مع مزوّدي الأدوات أو المكونات أو الخدمات المدمجة (المادة 25(4)).

ما يجب على كل دور القيام به، ومتى#

وتتبع الغرامات الأدوار: حتى 15 مليون يورو أو 3٪ من رقم المعاملات العالمي بالنسبة للإخلال بالتزامات الفاعلين، خاصة المواد 16 و26 و50، وحتى 35 مليوناً أو 7٪ بالنسبة للممارسات المحظورة. أما بالنسبة للمقاولات الصغرى والمتوسطة، فيُطبَّق الأدنى من بين المبلغين.

ما يجب كتابته في العقد#

العقد بين المركز والجهة المتعاقدة معه وناشريه هو الأداة الرئيسية للتوضيح. بنود يجب التحقق منها أو اقتراحها:

• جرد أنظمة الذكاء الاصطناعي المستعملة في تقديم الخدمة، مع دور كل طرف بالنسبة لكل نظام.
• الإعدادات: من يحرر رسائل الإخبار الخاصة بروبوت المحادثة والروبوت الصوتي ومن يصادق عليها.
• منع تحويل الغرض من أداة ما دون اتفاق مكتوب، لتفادي المادة 25.
• منع الاستعمالات المحظورة، ومنها تحليل مشاعر المستشارين.
• الوثائق التي يلتزم الناشر بتقديمها: دليل الاستعمال، الحدود المعروفة، المعلومات المفيدة لتقييم الأثر.
• التبليغ عن الحوادث والتعاون في حالة المراقبة.
• تكوين المستشارين والمشرفين على الأداة.

وتكمّل هذه البنود، دون أن تحل محلها، البنود المتعلقة بالمعطيات الشخصية: فالمركز الذي يُعدّ جهة مستخدِمة بمفهوم القانون الأوروبي للذكاء الاصطناعي كثيراً ما يكون أيضاً مناولاً (معالجاً من الباطن) بمفهوم النظام الأوروبي RGPD، ويجب أن يبقى التكييفان منسجمين. كما تفيد هذه البنود في الرد على استبيانات الامتثال الخاصة بالعملاء الأوروبيين.

منهجية في ست مراحل#

1. إعداد جرد لكل أنظمة الذكاء الاصطناعي: المطوَّرة داخلياً، والمشتراة، والمفروضة من العملاء.
2. تسجيل من صمّم كل نظام، وبأي اسم يُقدَّم، ومن يقرر إعداداته.
3. تحديد ما إذا كانت نتائجه تُستعمل داخل الاتحاد الأوروبي.
4. إسناد دور لكل نظام (مزوّد، جهة مستخدِمة، موزّع) والتحقق من مُطلِقات المادة 25.
5. استخلاص قائمة الالتزامات وتواريخها انطلاقاً من الجدول أعلاه.
6. ملاءمة العقود ومراجعة التكييف مع كل أداة جديدة أو استعمال جديد، وفق منطق دورة حياة أنظمة الذكاء الاصطناعي.