من يحاكم الذكاء الاصطناعي عندما يقتل؟:
أزمة تؤرق القانون الدولي

يناير 2026. منطقة حرب في الشرق الأوسط. مسيّرة مستقلة بخوارزمية استهداف تُحدّد هدفاً — رجل يحمل جسماً يشبه السلاح. تُطلق. المُستهدَف: معلّم يحمل حقيبة مدرسية. من المسؤول؟ الجندي لم يُطلق. المبرمج كتب خوارزمية عامة. القائد وقّع على نشر النظام. لا القانون الدولي ولا الأطر الأخلاقية الموجودة لديها إجابة واضحة.

«الحلقة البشرية»: أين تنتهي وأين تبدأ؟

القانون الإنساني الدولي يُلزم بأن يكون كل قرار بإطلاق النار قراراً إنسانياً — يراعي التمييز بين المقاتل والمدني، والتناسب، والاحتياط. لكن حين تكون المسيّرة «شبه مستقلة» — أي أن الإنسان يُصادق على قائمة الأهداف التي تختارها الخوارزمية — هل هذا احترام للـ«حلقة البشرية»؟ أم مجرد بصمة إضافية على قرار اتخذته الآلة فعلاً؟

ICRC: «الأسلحة المستقلة تهدد الإنسانية»

في 2023، أعلنت اللجنة الدولية للصليب الأحمر رسمياً أن الأسلحة ذاتية الاستهداف الكاملة «غير مقبولة قانونياً وأخلاقياً». الحجة: الآلة لا تستطيع إصدار حكم على كرامة الإنسان وقيمة حياته — وهذا ضروري لتطبيق القانون الإنساني. الرد من القوى العسكرية الكبرى: «نتعاون لكن لن نُقيّد أنفسنا من جانب واحد». في هذا السياق، يتعمّق القلق ليس فقط حول “من ضغط الزناد”، بل حول بنية القرار نفسها حين تُفكَّك إلى سلاسل خوارزمية معقّدة. فالمشكلة لم تعد خطأ فردياً يمكن تتبّعه، بل نظاماً كاملاً يعمل ضمن بيئة بيانات قد تكون منحازة أو ناقصة أو مُضلِّلة. إذا تم تدريب الخوارزمية على بيانات غير دقيقة أو سياقات قتالية سابقة لا تُشبه الواقع الحالي، فإن النتيجة قد تكون قراراً قاتلاً مبنياً على استنتاجات خاطئة، دون أي نية مباشرة أو إدراك بشري لحظة التنفيذ. هنا يظهر نوع جديد من “الخطأ”: ليس خطأً بشرياً تقليدياً، بل انحرافاً حسابياً بلا مسؤول واضح. هذا التحوّل يطرح تحدياً جوهرياً أمام القانون الدولي الإنساني، الذي بُني تاريخياً على فرضية وجود فاعل بشري يمكن مساءلته. في حالة الأسلحة المستقلة، تتوزع المسؤولية بين المصمّم، والمبرمج، والشركة المصنّعة، والقائد العسكري، وحتى الدولة التي سمحت بالنشر. لكن أياً من هذه الجهات لا يمكن تحميله المسؤولية الكاملة وفق الأطر القانونية الحالية، لأن كل طرف يمكنه الادعاء بأنه لم يكن صاحب القرار النهائي. النتيجة: تفكك المسؤولية إلى درجة قد تجعل المحاسبة مستحيلة عملياً. إضافة إلى ذلك، هناك مشكلة الشفافية. معظم الأنظمة المعتمدة على الذكاء الاصطناعي، خصوصاً تلك المبنية على التعلم العميق، تعمل كـ“صناديق سوداء”. حتى مطوروها لا يستطيعون دائماً تفسير لماذا اتخذت الخوارزمية قراراً معيناً. فكيف يمكن لقاضٍ دولي أو لجنة تحقيق أن تُقيّم مشروعية ضربة عسكرية إذا كان من المستحيل تفسير منطقها الداخلي؟ العدالة تتطلب الفهم، لكن التكنولوجيا الحالية قد تحرمنا من هذا الفهم. بعض الدول تدفع نحو اعتماد مبدأ “التحكم البشري ذو المعنى” كحل وسط، أي ضمان وجود إشراف بشري فعّال على قرارات القتل. لكن هذا المفهوم نفسه لا يزال غامضاً: ما هو الحد الأدنى المقبول لهذا التحكم؟ هل يكفي أن يكون الإنسان قادراً نظرياً على التدخل، أم يجب أن يكون مشاركاً فعلياً في كل قرار؟ دون تعريف دقيق، قد يتحول هذا المبدأ إلى مجرد غطاء قانوني لتوسيع استخدام الأنظمة شبه المستقلة. في المقابل، تتزايد الدعوات من منظمات حقوقية وخبراء قانونيين لإقرار معاهدة دولية ملزمة تحظر أو تُقيّد بشكل صارم هذه الأسلحة. غير أن الواقع الجيوسياسي يجعل هذا الهدف بعيد المنال حالياً، إذ ترى القوى الكبرى في هذه التكنولوجيا ميزة استراتيجية لا يمكن التفريط بها. وهكذا، يستمر السباق التكنولوجي بوتيرة أسرع بكثير من تطور القوانين. بين التقدم التقني والتأخر القانوني، يتشكل فراغ خطير قد يعيد تعريف مفهوم المسؤولية ذاته في زمن الحرب. والسؤال لم يعد فقط “من يُحاكم؟”، بل أيضاً: هل لا يزال بإمكاننا الحفاظ على فكرة العدالة عندما يصبح القاتل خوارزمية بلا ضمير؟ في هذا السياق، يتعمّق القلق ليس فقط حول “من ضغط الزناد”، بل حول بنية القرار نفسها حين تُفكَّك إلى سلاسل خوارزمية معقّدة. فالمشكلة لم تعد خطأ فردياً يمكن تتبّعه، بل نظاماً كاملاً يعمل ضمن بيئة بيانات قد تكون منحازة أو ناقصة أو مُضلِّلة. إذا تم تدريب الخوارزمية على بيانات غير دقيقة أو سياقات قتالية سابقة لا تُشبه الواقع الحالي، فإن النتيجة قد تكون قراراً قاتلاً مبنياً على استنتاجات خاطئة، دون أي نية مباشرة أو إدراك بشري لحظة التنفيذ. هنا يظهر نوع جديد من “الخطأ”: ليس خطأً بشرياً تقليدياً، بل انحرافاً حسابياً بلا مسؤول واضح. هذا التحوّل يطرح تحدياً جوهرياً أمام القانون الدولي الإنساني، الذي بُني تاريخياً على فرضية وجود فاعل بشري يمكن مساءلته. في حالة الأسلحة المستقلة، تتوزع المسؤولية بين المصمّم، والمبرمج، والشركة المصنّعة، والقائد العسكري، وحتى الدولة التي سمحت بالنشر. لكن أياً من هذه الجهات لا يمكن تحميله المسؤولية الكاملة وفق الأطر القانونية الحالية، لأن كل طرف يمكنه الادعاء بأنه لم يكن صاحب القرار النهائي. النتيجة: تفكك المسؤولية إلى درجة قد تجعل المحاسبة مستحيلة عملياً. إضافة إلى ذلك، هناك مشكلة الشفافية. معظم الأنظمة المعتمدة على الذكاء الاصطناعي، خصوصاً تلك المبنية على التعلم العميق، تعمل كـ“صناديق سوداء”. حتى مطوروها لا يستطيعون دائماً تفسير لماذا اتخذت الخوارزمية قراراً معيناً. فكيف يمكن لقاضٍ دولي أو لجنة تحقيق أن تُقيّم مشروعية ضربة عسكرية إذا كان من المستحيل تفسير منطقها الداخلي؟ العدالة تتطلب الفهم، لكن التكنولوجيا الحالية قد تحرمنا من هذا الفهم. بعض الدول تدفع نحو اعتماد مبدأ “التحكم البشري ذو المعنى” كحل وسط، أي ضمان وجود إشراف بشري فعّال على قرارات القتل. لكن هذا المفهوم نفسه لا يزال غامضاً: ما هو الحد الأدنى المقبول لهذا التحكم؟ هل يكفي أن يكون الإنسان قادراً نظرياً على التدخل، أم يجب أن يكون مشاركاً فعلياً في كل قرار؟ دون تعريف دقيق، قد يتحول هذا المبدأ إلى مجرد غطاء قانوني لتوسيع استخدام الأنظمة شبه المستقلة. في المقابل، تتزايد الدعوات من منظمات حقوقية وخبراء قانونيين لإقرار معاهدة دولية ملزمة تحظر أو تُقيّد بشكل صارم هذه الأسلحة. غير أن الواقع الجيوسياسي يجعل هذا الهدف بعيد المنال حالياً، إذ ترى القوى الكبرى في هذه التكنولوجيا ميزة استراتيجية لا يمكن التفريط بها. وهكذا، يستمر السباق التكنولوجي بوتيرة أسرع بكثير من تطور القوانين. بين التقدم التقني والتأخر القانوني، يتشكل فراغ خطير قد يعيد تعريف مفهوم المسؤولية ذاته في زمن الحرب. والسؤال لم يعد فقط “من يُحاكم؟”، بل أيضاً: هل لا يزال بإمكاننا الحفاظ على فكرة العدالة عندما يصبح القاتل خوارزمية بلا ضمير؟

«لا يمكن تفويض قرار القتل لخوارزمية — هذا ليس مجرد موقف أخلاقي، بل مبدأ قانوني. حين نفعل ذلك، نُلغي مبدأ المسؤولية الفردية الذي بنينا عليه القانون الإنساني منذ 1864.»— بيتر مورر، الرئيس الأسبق للصليب الأحمر الدولي، 2024

ناصر الصبري

محلل جيوسياسي · مؤسس geopolo

صحفي ومحلل في الجيوسياسة والعلاقات الدولية، متخصص في شؤون الأمن والدفاع، وحاصل على دبلوم دراسات عليا في العلاقات الدولية (مسار الأمن والدفاع).

𝕏 Twitter 🌐 geopolo