مخاوف متزايدة من "الروبوتات القاتلة" ودعوات لحظر الذكاء الاصطناعي في الحروب

دخول الذكاء الاصطناعي إلى المجال العسكري وقطاع التسليح يثير مخاوف متزايدة بشأن احتمال فقدان البشر للسيطرة على الأسلحة خلال النزاعات، وقد تصاعدت في السنوات الأخيرة الدعوات المطالبة بوضع قيود صارمة أو حظر استخدام الذكاء الاصطناعي في الحروب، لا سيما عندما يتعلق الأمر بمنح الروبوتات صلاحية اتخاذ قرار إطلاق النار.

آخر هذه المطالبات جاءت من أرمين بابرغر، الرئيس التنفيذي لشركة راينميتال الألمانية المتخصصة في الصناعات الدفاعية والعسكرية، الذي دعا إلى وضع قوانين عالمية تضمن أن يظل البشر، لا الآلات المزودة بالذكاء الاصطناعي، هم من يقررون استخدام الأسلحة في الحروب مستقبلاً وفقاً لوكالة الأنباء الألمانية.

تصريحات بابرغر جاءت خلال معرض يوروساتوري للأسلحة في فيلبانت، قرب باريس، ويعتقد أنه يجب وضع قواعد مماثلة لتلك الخاصة بالأسلحة النووية، خاصة وأن المستقبل القريب سيتيح الكثير من التقنيات.

وأضاف بابرغر: "لا يمكن لشركة أو فرد تحديد هذه الحدود، بل يجب أن يتم ذلك من خلال مجلس أخلاقيات أو قرار من الأمم المتحدة".

من جانبه دعا فولكر تورك مفوض الأمم المتحدة السامي لحقوق الإنسان، في 15 يونيو/ حزيران، الدول إلى تنظيم استخدام أنظمة الأسلحة ذاتية التشغيل بشكل عاجل، لضمان عدم تسببها في ارتكاب فظائع وجرائم واسعة النطاق، وفقاً لصحيفة ذا ستريتس تايمز.

وحذّر خلال كلمة ألقاها أمام مجلس حقوق الإنسان التابع للأمم المتحدة في جنيف من أن المخاطر التي طالما أُثيرت بشأن الأسلحة ذاتية التشغيل بدأت تتحقق وتتجسد بسرعة على أرض الواقع.

"الروبوتات القاتلة".. مخاوف متزايدة من ارتكاب فظائع

أصبحت الكوارث التي ترتكبها أنظمة الذكاء الاصطناعي خلال الحروب والنزاعات أكثر وضوحاً اليوم، ففي الصباح الأول من حرب إيران تحولت مدرسة في جنوب إيران إلى ركام إثر ما وصفه المحققون بأنه "خطأ إدراكي" في نظام استهداف يعتمد على الذكاء الاصطناعي، وهو ما أسفر عن مقتل مئات الأطفال.

وأشار مفوض الأمم المتحدة السامي لحقوق الإنسان إلى أن الاستخدام المتزايد للطائرات المسيرة في الحروب يخلق "دائرة جديدة من الجحيم" في أماكن مثل جمهورية الكونغو الديمقراطية وغزة، وإسرائيل، ولبنان، وميانمار، وحتى في أوكرانيا تسببت الهجمات المتواصلة بالطائرات المسيرة في سقوط أعداد كبيرة من الضحايا وبث الرعب في صفوف المدنيين.

أما في السودان فتم توثيق مقتل أكثر من 1000 مدني جراء ضربات الطائرات المسيرة في الفترة بين يناير/ كانون الثاني ومايو/ أيار، بالإضافة إلى تدمير قوافل المساعدات والبنية التحتية الحيوية للطاقة بواسطة طائرات مسيرة بعيدة المدى.

ولهذا تجري منذ عقد من الزمن مناقشات حول معاهدة مستقبلية محتملة لتنظيم استخدام الأسلحة الآلية التي يُطلق عليها اسم "الروبوتات القاتلة"، ويُفترض أن تقرر الدول في وقت لاحق من هذا العام ما إذا كانت ستبدأ مفاوضات شاملة بشأن هذه المعاهدة، وفقاً لصحيفة ذا ستريتس تايمز.

وبهذا الصدد دعا تورك الدول إلى "الاتفاق على نهج مشترك يحمي أرواح المدنيين، وتجديد الالتزام بالدبلوماسية والوساطة"، وقال: "يجب عليهم تحديث الأطر القانونية لفرض شرط السيطرة البشرية وضمان المساءلة".

ما هي "الروبوتات القاتلة"؟

أطلق مصطلح "الروبوتات القاتلة" على الأسلحة الفتاكة ذاتية التشغيل (LAWS)، القادرة على تحديد الأهداف والاشتباك معها دون تدخل بشري، بحسب مؤسسة كونراد أديناور الألمانية للأبحاث.

تتضمن هذه الأنظمة طائرات مسيّرة ودبابات وقوارب يتم التحكم فيها عن بعد، تستطيع تولي التخطيط اللوجستي وتحليل كميات هائلة من البيانات بطريقة أسرع من البشر، وفقاً لموقع ZDF الإخباري الألماني.

كما يمكن لهذه الأنظمة أن تقدّم للجنود توصياتٍ بشأن المناورات التكتيكية أو الاستراتيجية، ويمكن استخدامها لتخطيط مسارات فعّالة، مع مراعاة الرياح والطقس وحركة المرور والمخاطر المحتملة على طول الطريق.

لماذا يجب أن تظل قرارات إطلاق النار بيد البشر؟

يحذّر خبراء الذكاء الاصطناعي ومنظمات حقوق الإنسان، مثل هيومن رايتس ووتش وحملة "أوقفوا الروبوتات القاتلة"، من أن تزايد استخدام الذكاء الاصطناعي في الحروب يقلّص دور البشر في عملية صنع القرار، حيث توجد مفاجآت تحتاج إلى تدخّل بشري وقرارات بشرية لا يمكن للذكاء الاصطناعي اتخاذها، وفقاً لموقع ZDF الإخباري الألماني.

ويقول خبير الذكاء الاصطناعي، كارل هانز بلاسيوس، من جامعة ترير للعلوم التطبيقية: "في الحياة العسكرية اليومية، وفي الحروب، لا تسير الأمور دائماً وفقاً للخطة. فالتغييرات في الخطة ضرورية باستمرار".

ويرى توماس كوشنمايستر، من حملة "أوقفوا الروبوتات القاتلة" أن اتخاذ الروبوتات لقرار إطلاق النار وما يترتّب عليه من موت أو حياة غير أخلاقي ويتعارض مع القانون الدولي.

كما يدعو الأمين العام للأمم المتحدة، أنطونيو غوتيريش، منذ عام 2018، إلى حظر ملزم قانوناً لأنظمة الأسلحة الفتاكة ذاتية التشغيل، وقد حدد عام 2026 موعداً نهائياً لهذا التنظيم.

هل ينبغي الاستغناء عن الذكاء الاصطناعي في المجال العسكري؟

تقنيات الذكاء الاصطناعي قادرة على دعم العمليات العسكرية بكفاءة كبيرة، ولاستخدامها بالشكل الصحيح يوصي مركز دراسة الأمن والتقنيات الناشئة (CSET) باستراتيجيات من شأنها تخفيف المخاطر.

يتمثل ذلك في تحديد دقيق للزمان والمكان والسياق المناسبين للموافقة على استخدام هذه الأنظمة، وإعداد القوات لتعديل إعدادات البرمجيات بما يتوافق مع تغير الظروف ومستويات تقبّل المخاطر، بالإضافة إلى ضرورة إجراء تأهيل وتدريب شاملين لمشغلي الأنظمة.