بقلم المستشار : سعود عقل

لم يعد السؤال عن  الذكاء الاصطناعي  سؤالًا تقنيًا يتعلق بما تستطيع الآلة أن تفعله بل أصبح سؤالًا قانونيًا وأخلاقيًا يتعلق بمن يتحمل ثمن ما تفعله
فالآلة قد تقترح قرارًا خاطئًا وقد تنتج معلومة مضللة وقد تستبعد شخصًا من فرصة أو تتسبب في ضرر مادي أو معنوي وقد يحدث كل ذلك دون أن يكون للآلة نفسها وعي بالخطأ أو إدراك لنتائجه
وهنا تبدأ المعضلة الحقيقية
من المسؤول؟  هل هو من صمم النظام؟ أم من طوره؟
أم من أدخله إلى الخدمة؟ أم من استخدمه؟ أم الجهة التي اعتمدت مخرجاته؟ أم أن المسؤولية يجب أن تتوزع بينهم بحسب درجة السيطرة والقدرة على منع الضرر؟ 
القانون التقليدي نشأ حول الإنسان بوصفه صاحب الإرادة والفعل والمسؤولية
أما  الذكاء الاصطناعي  فيضع القانون أمام حالة مختلفة
نحن أمام نظام قادر على تحليل كميات هائلة من البيانات والتعلم من أنماط سابقة وإنتاج مخرجات قد لا يستطيع حتى مستخدمه تفسير الطريق الذي أوصله إليها
وهنا تظهر فجوة دقيقة بين الفعل والنتيجة
فالإنسان قد يستخدم نظامًا ذكيًا بحسن نية ثم تقع النتيجة الضارة بسبب خلل في البيانات أو التصميم أو التدريب أو طريقة التشغيل
وفي المقابل قد يكون الخطأ ناتجًا عن مستخدم تجاهل التحذيرات أو اعتمد على الآلة اعتمادًا أعمى
وفي كلتا الحالتين لا يمكن أن يكون الجواب القانوني بسيطًا
لقد بدأت الأنظمة القانونية الحديثة فعلًا في التعامل مع هذه الإشكالية
فالاتجاه الأوروبي مثلًا يعمل على تطوير قواعد للمسؤولية المدنية المرتبطة بالذكاء الاصطناعي مع اهتمام خاص بالأنظمة عالية الخطورة وبمسألة عبء الإثبات وإمكانية الوصول إلى الأدلة التي تكشف كيفية تسبب النظام في الضرر ، وهذا التطور يكشف حقيقة مهمة
المشكلة ليست في أن الآلة أصبحت ذكية فحسب
المشكلة أن القانون أصبح مطالبًا بأن يفهم كيف يمكن لذكاء غير بشري أن ينتج أثرًا قانونيًا يمس إنسانًا بشريًا
وهنا لا بد من التمييز بين الذكاء والمسؤولية
فالآلة مهما بلغت قدرتها على التحليل لا تحمل في ذاتها مسؤولية أخلاقية بالمعنى الإنساني
هي لا تملك ضميرًا ولا نية إجرامية ولا شعورًا بالندم
ولهذا فإن تحميل الآلة وحدها المسؤولية قد يبدو حلًا سهلًا لكنه في الحقيقة قد يكون هروبًا من السؤال الأصعب: من يقف خلفها؟ 
المسؤولية القانونية لا ينبغي أن تختبئ خلف الشاشة
فإذا أنتج نظام للذكاء الاصطناعي قرارًا أضر بإنسان فإن العدالة تحتاج إلى معرفة من صمم النظام ومن اختبره ومن سمح باستخدامه ومن كان قادرًا على اكتشاف الخلل ومن كان يستطيع منع الضرر
وهذا يقودنا إلى مفهوم مهم في المستقبل القانوني وهو مسؤولية السيطرة
فكلما ازدادت قدرة شخص أو مؤسسة على التحكم في النظام وفهم مخاطره ومنع أضراره ازدادت الحاجة إلى مساءلته عند وقوع الضرر
وقد يكون من الخطأ أن نبحث عن شخص واحد في كل قضية
فبعض الحالات قد تتطلب مسؤولية الشركة المطورة
وبعضها قد يرتبط بالجهة المشغلة وبعضها قد يعود إلى المستخدم وبعضها قد يكشف عن خلل في المنتج أو في البيانات أو في آليات الرقابة
وهنا يصبح دور القضاء أكثر تعقيدًا، فالقاضي لن يبحث فقط عن الفاعل التقليدي بل سيضطر إلى تتبع سلسلة تقنية كاملة تبدأ من البيانات وتنتهي بالنتيجة.
ومن هنا تظهر قضية أخرى لا تقل أهمية وهي:
كيف يمكن للمتضرر أن يثبت خطأ نظام لا يستطيع فهمه
إذا كان الإنسان لا يعرف لماذا اتخذ النظام قرارًا معينًا فكيف يمكن أن يثبت وجود الخطأ؟ 
وهذا تحديدًا أحد التحديات التي تناولتها المقاربات القانونية الحديثة من خلال التفكير في تخفيف عبء الإثبات وإتاحة الوصول إلى الأدلة المتعلقة بالأنظمة عالية الخطورة 
إن العدالة لا تستطيع أن تطلب من الإنسان المتضرر أن يثبت ما لا يستطيع الوصول إليه
وفي الوقت نفسه لا يجوز أن تتحول المسؤولية عن  الذكاء الاصطناعي  إلى باب مفتوح لملاحقة كل من له علاقة تقنية بالنظام
لذلك فإن المستقبل يحتاج إلى توازن دقيق
حماية الإنسان من أخطاء  الذكاء الاصطناعي  دون قتل الابتكار
تحميل المسؤولية لمن يملك القدرة الحقيقية على منع الضرر دون معاقبة من لم يكن قادرًا على توقعه
إجبار المؤسسات على الشفافية دون تحويل التقنية إلى منظومة يستحيل تطويرها
والأهم من ذلك كله أن يبقى الإنسان هو مركز القانون
فالذكاء الاصطناعي قد يكتب، وقد يحلل، وقد يتنبأ
وقد يختار بين احتمالات، لكنه لا ينبغي أن يصبح ذريعة لإعفاء الإنسان من مسؤوليته، وربما يكون أخطر ما يمكن أن يحدث في المستقبل ليس أن تخطئ الآلة
بل أن يختبئ الإنسان خلف خطئها
عندها لن تكون المشكلة في أن  الذكاء الاصطناعي  أصبح أقوى من القانون
بل في أن الإنسان سمح لنفسه بأن يتنازل عن مسؤوليته لصالح آلة لا تعرف معنى المسؤولية
القانون في عصر  الذكاء الاصطناعي  لا يحتاج فقط إلى نصوص جديدة بل يحتاج إلى فلسفة جديدة للمسؤولية
فحين تتغير طريقة اتخاذ القرار يجب أن تتطور معها طريقة تحديد المسؤول، وحين تصبح الآلة شريكًا في صناعة القرار يجب أن يصبح الإنسان أكثر وضوحًا في تحديد حدود سلطتها لأن المستقبل قد لا يسألنا فقط ماذا تستطيع الآلة أن تفعل،  بل سيسألنا السؤال الأكثر خطورة: 
من كان يجب أن يمنعها من الخطأ ولم يفعل؟ 
سؤالٌ برسم الإجابة، فهل من مجيب؟!!