دخلت أنظمة الذكاء الاصطناعي مجالات كانت إلى وقت قريب حكرًا على البشر: تقييم طلبات التمويل، وفرز السير الذاتية، وتشخيص الحالات الطبية، وتوليد النصوص والصور، وقيادة المركبات. ومع اتساع هذا الاستخدام يبرز سؤال مركزي: من يتحمل المسؤولية حين يخطئ النظام؟ ولأن دولة الكويت، شأنها شأن معظم الدول، لا تملك حتى الآن تشريعًا خاصًا شاملًا ينظم الذكاء الاصطناعي، فإن المعالجة تجري بتطبيق القواعد العامة القائمة في القانون المدني وقوانين حماية البيانات والملكية الفكرية وجرائم تقنية المعلومات. ويستعرض هذا المقال هذا الإطار وحدوده.
الوضع التشريعي الراهن
ينبغي التمييز بين غياب تشريع خاص وبين الفراغ القانوني، فالثاني غير صحيح:
- لا فراغ قانوني: تخضع أنشطة الذكاء الاصطناعي للقواعد العامة في المسؤولية والعقود وحماية البيانات والملكية الفكرية، فالنظام أداة يستعملها إنسان أو شخص معنوي يُسأل عن استعمالها.
- القوانين ذات الصلة: يتقاطع الموضوع مع القانون المدني رقم 67 لسنة 1980، وقانون مكافحة جرائم تقنية المعلومات رقم 63 لسنة 2015، وقانون المعاملات الإلكترونية رقم 20 لسنة 2014، وتشريعات حماية البيانات والملكية الفكرية.
- التنظيم القطاعي: تصدر الجهات الرقابية في القطاعات الحساسة تعليمات تحكم استخدام النماذج الآلية، ولا سيما في القطاع المصرفي والمالي والصحي.
- الاتجاه الدولي: تتجه التشريعات المقارنة إلى نهج قائم على تصنيف المخاطر، بفرض التزامات مشددة على التطبيقات عالية الخطورة، وهو اتجاه يُتوقع أن يؤثر في التنظيم الإقليمي مستقبلًا.
المسؤولية المدنية عن أضرار الأنظمة الذكية
تثير هذه الأنظمة إشكالًا حقيقيًا لأن سلوكها قد لا يكون متوقعًا بالكامل حتى لمطوّرها، ومع ذلك تظل قواعد المسؤولية صالحة للتطبيق:
- المسؤولية العقدية: إذا نشأ الضرر عن إخلال بالتزام تعاقدي، كتوريد نظام لا يفي بالمواصفات المتفق عليها، قامت مسؤولية المورّد وفق شروط العقد.
- المسؤولية التقصيرية: تقوم على الخطأ والضرر وعلاقة السببية، ويتمثل الخطأ غالبًا في إهمال الاختبار أو التحقق أو الإفصاح عن حدود النظام.
- المسؤولية عن الأشياء: يمكن الاستناد إلى قواعد مسؤولية حارس الشيء الذي يتطلب عناية خاصة، باعتبار المشغّل هو من له السيطرة الفعلية على النظام.
- مسؤولية المنتج: قد يُسأل المطوّر عن عيب في التصميم أو في بيانات التدريب أو عن قصور في التحذير من الاستعمالات غير المناسبة.
- تعدد المسؤولين: غالبًا ما تتوزع المسؤولية بين المطوّر والمشغّل والمستخدم، وتحديد نصيب كل منهم يقتضي خبرة فنية دقيقة.
ويبقى التحدي الأكبر في إثبات علاقة السببية داخل أنظمة يصعب تفسير قراراتها، ولذلك تتجه الممارسة إلى إلزام المشغّلين بالاحتفاظ بسجلات تشغيلية تتيح تتبع القرار وتفسيره.
حماية البيانات الشخصية
تقوم هذه الأنظمة على البيانات، وهنا يقع أكثر المخاطر القانونية شيوعًا:
- مشروعية المعالجة: يجب أن يستند جمع البيانات ومعالجتها إلى سند مشروع، ولا يكفي مجرد توافرها للاستخدام.
- تحديد الغرض: استعمال بيانات جُمعت لغرض معين في تدريب نموذج لغرض آخر قد يشكل مخالفة.
- البيانات الحساسة: تستوجب البيانات الصحية والمالية والبيومترية حماية مشددة، وتزيد المخاطر عند استخدامها في أنظمة تصنيف آلي.
- القرارات الآلية: اتخاذ قرار مؤثر في مركز شخص بالاعتماد الكامل على نظام آلي دون مراجعة بشرية يثير إشكالات جدية، ويُستحسن إتاحة حق الاعتراض والمراجعة.
- النقل عبر الحدود: تخزين البيانات على خوادم خارجية يستلزم فحص الالتزامات المتعلقة بالنقل والحفظ.
ملكية المخرجات وحقوق المؤلف
يثير المحتوى المولَّد آليًا أسئلة لم تُحسم عالميًا بعد، ويمكن إجمال الإطار العملي فيما يلي:
- شرط الأصالة والإسهام الإنساني: تقوم حماية المصنفات تقليديًا على الإبداع الإنساني، ومن ثم يثور التساؤل حول حماية مخرجات تولّدت آليًا دون إسهام إبداعي بشري كافٍ.
- الإسهام المختلط: إذا اقتصر دور النظام على أداة ساعدت مؤلفًا بشريًا في التنفيذ، كان المصنف محميًا للمؤلف.
- بيانات التدريب: استخدام مصنفات محمية في تدريب النماذج دون ترخيص يثير مسؤولية محتملة تجاه أصحاب الحقوق.
- التنظيم التعاقدي: في غياب حسم تشريعي، تصبح شروط الاستخدام والعقود بين الأطراف هي المرجع العملي لتحديد من يملك المخرجات وحدود استعمالها.
- الإفصاح: يُستحسن الإفصاح عن استخدام الذكاء الاصطناعي في إنتاج محتوى موجّه للجمهور تفاديًا لوصف التضليل.
الاستخدام في القطاعات المنظمة
تشتد المتطلبات كلما ازداد أثر القرار على الأفراد:
- القطاع المصرفي والمالي: استخدام النماذج في تقييم الجدارة الائتمانية أو رصد العمليات المشبوهة يستلزم حوكمة للنموذج وقابلية للتفسير ومراجعة دورية.
- القطاع الصحي: أنظمة الدعم التشخيصي لا تعفي الطبيب من مسؤوليته، فالقرار الطبي يظل منسوبًا إليه، والاعتماد الأعمى على النظام قد يشكّل خطأ في ذاته.
- التوظيف: استخدام أدوات الفرز الآلي قد يعيد إنتاج تحيزات موجودة في بيانات التدريب، وهو ما يستوجب اختبارًا دوريًا لأثرها.
- القطاع القانوني: يجوز الاستعانة بهذه الأدوات في البحث والصياغة، لكن تظل مسؤولية التحقق من صحة المعلومة والاستشهاد على عاتق المحامي وحده.
الذكاء الاصطناعي في الإثبات القضائي
ينعكس هذا التطور على ساحة القضاء من زاويتين متقابلتين:
- الدليل المولَّد آليًا: كتحليل الأنماط أو التعرف على الوجوه، ويخضع لتقدير المحكمة وللمناقشة الفنية، ولا يُقبل بوصفه دليلًا قاطعًا بذاته.
- الأدلة المزيفة: يمثل التزييف العميق للصوت والصورة تحديًا جسيمًا، ويستوجب فحصًا فنيًا متخصصًا للتحقق من أصالة التسجيل قبل الاعتداد به.
- سلسلة الحيازة: تظل قواعد سلامة الدليل الرقمي وتوثيق مصدره حاسمة في تقدير حجيته.
- حق الدفاع: ينبغي تمكين الدفاع من مناقشة آلية عمل النظام ومصادر بياناته، فالدليل الذي يتعذر فحصه يضعف مركزه في الإثبات.
توصيات للمنشآت
- ضعوا سياسة داخلية مكتوبة تحدد الاستخدامات المسموحة والممنوعة لأدوات الذكاء الاصطناعي وتحظر إدخال بيانات سرية فيها.
- راجعوا عقود التوريد مع مزوّدي الأنظمة لتضمين ضمانات الأداء وحدود المسؤولية والتعويض.
- احتفظوا بسجلات تشغيلية تتيح تتبع القرارات المؤثرة وتفسيرها عند المساءلة.
- أبقوا على مراجعة بشرية فعلية لكل قرار يمس حقوق الأفراد، لا مجرد موافقة شكلية.
- اختبروا الأنظمة دوريًا بحثًا عن التحيز والأخطاء المنهجية، ووثّقوا نتائج الاختبار.
- درّبوا العاملين على حدود هذه الأدوات، فالخطأ الأكثر شيوعًا هو الثقة المفرطة في مخرجاتها.
إن تبنّي الذكاء الاصطناعي قرار تجاري ذكي، لكنه يستلزم بناءً قانونيًا موازيًا يحدد المسؤوليات ويحمي المنشأة وعملاءها. ويقدّم فريق يمناك لأعمال المحاماة المشورة في صياغة سياسات الاستخدام ومراجعة عقود الأنظمة الذكية وتقييم المخاطر القانونية، ويمثل العملاء في المنازعات الناشئة عن أضرار الأنظمة الآلية.
