المسؤولية القانونية للذكاء الاصطناعي: من المسؤول عندما تخطئ الخوارزمية؟

صفحة الخدمة: محامٍ للتجارة الرقمية والذكاء الاصطناعي: شروط الموقع، والخصوصية، والتسويق المباشر.

عندما تقرر الآلة ولا يتحمل أحد المسؤولية: ما الحكم؟

عندما يرتكب نظام ذكاء اصطناعي خطأً، سواء أكان قرارًا ائتمانيًا خاطئًا، أم تصنيفًا خاطئًا لصورة طبية، أم قرار تأمين غير مبرَّر، تنشأ مسألة قانونية لم يُجب عنها القانون بعد إجابة كاملة: من المسؤول؟ المطوِّر الذي كتب الشيفرة؟ أم الجهة التي شغّلت النظام؟ أم المستخدم الذي ضغط على «موافقة»؟

والمعضلة صعبة بشكل خاص لأن أنظمة الذكاء الاصطناعي تتعلّم وتتغيّر أثناء التشغيل، مما يجعل سلوكها غير متوقَّع أحيانًا حتى بالنسبة إلى مطوّريها. وخلافًا لمكوّن هندسي مادي يتصرّف كما هو متوقَّع، يمكن لنموذج تعلّم آلي خضع لضبط دقيق (fine-tuning) أن يطوّر سلوكيات لم تُخطَّط.

ما أطر المسؤولية الثلاثة التي ستسري، وأيها يناسب كل حالة؟

لم يُضف القانون الإسرائيلي «فصلًا خاصًا بالذكاء الاصطناعي» إلى مرسوم الأضرار، ولا حاجة إلى ذلك. فالمحكمة تطبّق ثلاثة أطر قائمة، وكل واحد منها قد يعرّض للمسؤولية جهةً لم تستعد لذلك:

قوانين الأضرار: المادتان 35 و36 من مرسوم الأضرار [صيغة جديدة]: إذا سبّب نظام ذكاء اصطناعي ضررًا، يرفع المتضرر دعوى أضرار على من يتحمّل المسؤولية عن عمل النظام. والأساس: واجب الحيطة، والإخلال به، وضرر ناتج عنه سببيًا. هذا هو الإطار الأوسع، وهو يناسب معظم الحالات.

مسؤولية المنتج: يفرض قانون المسؤولية عن المنتجات المعيبة، 1980 (חוק האחריות למוצרים פגומים, התש״ם-1980) على المنتِج مسؤولية دون خطأ عندما يسبّب عيبٌ في المنتج ضررًا جسديًا، والعيب هو خلل قد يسبّب ضررًا جسديًا، أو غياب تحذيرات وتعليمات سلامة ملائمة (المادتان 2–3). ولا يسري القانون على الضرر المالي وحده، ولم يُحسم بعد ما إذا كان البرنامج أو نموذج الذكاء الاصطناعي «منتجًا» في مفهومه؛ ويمكن الادعاء بأن تحيّزًا خوارزميًا معروفًا لم يُكشف عنه هو «عيب».

الإهمال المهني: تفحص المادة 35 من مرسوم الأضرار صاحبَ المهنة وفق المهارة والحيطة اللتين كان سيتخذهما شخص معقول وحصيف ومؤهَّل للعمل في المهنة نفسها. والمطوِّر أو المشغِّل لنظام ذكاء اصطناعي الذي لم يتخذ مثل هذه الحيطة، في التطوير أو الفحص أو الرقابة، قد يتحمّل المسؤولية.

من سيدفع في النهاية: المطوِّر أم المستخدم أم المشغِّل؟

عندما يسبّب نظام ذكاء اصطناعي ضررًا، قد توجَّه الدعوى ضد جهة واحدة أو أكثر من الجهات التالية:

المطوِّر (Developer): من أنشأ الخوارزمية مسؤول إذا لم يفحص النظام كما يجب، أو لم يوثّق حدوده، أو لم يكتشف مخاطر معروفة. مثلًا، إذا طرح مطوِّر في السوق نظام ذكاء اصطناعي فيه تحيّز معروف ضد فئة معيّنة، وسبّب ذلك ضررًا، فقد يكون المطوِّر مسؤولًا.

المشغِّل (Operator): الجهة التي تستخدم نظام الذكاء الاصطناعي مسؤولة إذا لم تُحسن الاختيار، أو لم تراقب كما يجب، أو لم تضع آليات رقابة كافية. مثلًا، البنك الذي يستخدم نظام ذكاء اصطناعي لقرارات القروض مسؤول إذا لم يفحص قرارات النظام أو لم ينشئ آليات رقابة.

المستخدم النهائي (End User): الفرد الذي يستخدم الذكاء الاصطناعي مسؤول إذا كان يعلم أن النظام غير ملائم لاستخدام معيّن واختار أن يستخدمه مع ذلك. والطبيب الذي يضع تشخيصًا بالاعتماد على ذكاء اصطناعي لم يُصادَق عليه للاستخدام السريري لن يستطيع الاختباء وراء «توصية الخوارزمية».

عمليًا، قد تتحمّل أكثر من جهة واحدة المسؤولية. فوفق المادة 11 من مرسوم الأضرار، مرتكبو الضرر معًا مسؤولون بالتكافل والتضامن، ويمكن مقاضاة كل واحد منهم؛ أما توزيع العبء بينهم فيتقرّر وفق المادة 84، بحسب العدل والإنصاف، مع مراعاة مدى مسؤولية كل واحد منهم عن الضرر.

ماذا يطلب قانون الذكاء الاصطناعي الأوروبي (EU AI Act) من الشركات الإسرائيلية؟

دخل قانون الذكاء الاصطناعي الأوروبي (Regulation (EU) 2024/1689) حيّز التنفيذ في 2024، وهو يسري أيضًا على شركات من خارج الاتحاد الأوروبي، ومنها شركات إسرائيلية، تطوّر أو تبيع أو تشغّل الذكاء الاصطناعي لزبائن أوروبيين. وهذا ليس أمرًا نظريًا: شركة ناشئة إسرائيلية تسوّق خدمة SaaS تعمل بالذكاء الاصطناعي لشركات ألمانية تخضع للقانون.

يصنّف القانون الأوروبي أنظمة الذكاء الاصطناعي بحسب مستوى الخطر. فالأنظمة «عالية الخطر»، ومنها الذكاء الاصطناعي في توظيف العاملين، والائتمان، والصحة، والقضاء، ملزَمة بتوثيق شامل، وتقييم للمخاطر، ورقابة بشرية. أما الأنظمة ذات «الخطر غير المقبول»، مثل التصنيف الاجتماعي للمواطنين (social scoring) أو التلاعب الخفي، فمحظورة تمامًا. والعقوبات: على مخالفة المحظورات، حتى 35 مليون يورو أو 7% من حجم الأعمال العالمي السنوي، أيهما أعلى؛ وعلى مخالفة معظم الواجبات الأخرى، حتى 15 مليون يورو أو 3% (المادة 99). ومن ينتظر قانونًا إسرائيليًا قبل أن يبدأ بالامتثال قد يتأخر عن الموعد.

ما حكم المسؤولية عن ضرر سببه نظام يعمل بالذكاء الاصطناعي في إسرائيل؟

يعتمد القانون الساري في إسرائيل على قوانين الأضرار والإهمال. لا يوجد تشريع خاص بالذكاء الاصطناعي، وستبني المحاكم أحكامها على الأطر القائمة إلى أن يتدخّل المشرّع. وقد نشرت وزارة الابتكار والعلوم والتكنولوجيا ووزارة العدل في كانون الأول/ديسمبر 2023 وثيقة سياسات جاء فيها أنه لا مكان في هذه المرحلة لتشريع إطاري شامل للذكاء الاصطناعي، وأن كل جهة تنظيمية ستفحص التنظيم في مجالها؛ ونشرت سلطة حماية الخصوصية في نيسان/أبريل 2025 مسودة توجيه بشأن سريان قانون حماية الخصوصية، 1981 (חוק הגנת הפרטיות, התשמ״א-1981) على أنظمة الذكاء الاصطناعي.

وفي الأثناء، الرسالة إلى الجهات والمؤسسات واضحة: من يشغّل الذكاء الاصطناعي دون رقابة، ودون توثيق، ودون فحوص للتحيّز، قد يُعتبر مهملًا. ولا يكفي القول «اعتمدنا على المزوِّد». فالمحكمة ستفحص ما فعلته الجهة نفسها لحماية الأشخاص الذين أثّر فيهم النظام.

ومن يشغّل نظام ذكاء اصطناعي يضرّ بالجمهور ولم يستعد لذلك، يعرّض نفسه للدعوى وللمسؤولية.