نيويورك- المنشر_الاخباري
كشفت صحيفة واشنطن بوست أن الولايات المتحدة وروسيا لعبتا دورًا رئيسيًا في إضعاف مجموعة من الضمانات المقترحة ضمن مسار أممي يهدف إلى وضع قواعد دولية لاستخدام الأسلحة الفتاكة ذاتية التشغيل المدعومة بالذكاء الاصطناعي، وذلك خلال مفاوضات مغلقة عقدت في جنيف هذا الشهر.
وبحسب الصحيفة، كانت الجولة الأخيرة من المفاوضات الأكثر تقدمًا حتى الآن باتجاه احتمال صياغة اتفاق دولي ينظم استخدام الأسلحة ذاتية التشغيل، إلا أن الساعات الأخيرة من المحادثات شهدت تعديلات واسعة على النص، أضعفت عددًا من القيود التي كانت تهدف إلى الحد من المخاطر المرتبطة باتخاذ الأنظمة الذكية قرارات تتعلق باستخدام القوة المميتة.
حذف شرط قابلية التنبؤ والمراجعة البشرية
ونقلت واشنطن بوست عن ثلاثة أشخاص مطلعين على المفاوضات، تحدثوا بشرط عدم الكشف عن هوياتهم بسبب حساسية الاجتماعات المغلقة، أن المفاوضين الأمريكيين والروس أجروا خلال نحو 15 ساعة من المفاوضات تعديلات متسارعة على النص.
وشملت التغييرات حذف لغة كانت تشترط أن تعمل أنظمة الأسلحة المدعومة بالذكاء الاصطناعي بصورة قابلة للتنبؤ وموثوقة، إلى جانب إزالة بند كان ينص على ضرورة أخذ الاعتبارات الأخلاقية في الحسبان عند استخدام هذه التقنيات في العمليات العسكرية.
كما أزيل، وفق التقرير، بند كان يشترط أن يخضع الهدف العسكري الذي تحدده أنظمة الذكاء الاصطناعي لمراجعة بشرية قبل تنفيذ الضربة. ويضع هذا التعديل واحدة من أكثر القضايا حساسية في النقاش الدولي حول الأسلحة ذاتية التشغيل في قلب الخلاف، وهي مسألة مدى بقاء الإنسان صاحب القرار النهائي في استخدام القوة المميتة.
مفاوضات خلف الأبواب المغلقة
ووفق واشنطن بوست، جرت المرحلة الحاسمة من المفاوضات في جلسة مغلقة، مع إيقاف كاميرات الأمم المتحدة وإبعاد مراقبين من منظمات المجتمع المدني، بينما شارك نحو عشرة محامين من كل من الولايات المتحدة وروسيا في صياغة التعديلات القانونية.
وترى الصحيفة أن هذا الحضور القانوني الكثيف منح واشنطن وموسكو قدرة كبيرة على التأثير في الصياغة النهائية للنص، بينما واجهت الوفود الأصغر صعوبة في مواكبة سرعة التغييرات التي أُدخلت على الوثيقة.
وتقول هيومن رايتس ووتش إن النسخة النهائية من الوثيقة احتفظت بإشارات إلى ضرورة وجود سيطرة وحكم بشريين، لكنها حذفت أو قلصت إشارات إلى التصميم والتطوير، والاعتبارات الأخلاقية، وقابلية التنبؤ والموثوقية وقابلية التفسير والتتبع.
سباق التكنولوجيا العسكرية
تأتي هذه التطورات في وقت يتسارع فيه إدخال الذكاء الاصطناعي في المجال العسكري، مع انتقال النقاش من سيناريوهات مستقبلية إلى استخدامات عملية في ساحات القتال.
وكانت الأمم المتحدة قد ناقشت الأسلحة ذاتية التشغيل لسنوات، لكن التطورات الأخيرة جعلت القضية أكثر إلحاحًا، خصوصًا مع سعي جيوش كبرى إلى استخدام الذكاء الاصطناعي لتحديد الأهداف وتحليل ساحات القتال وتسريع عمليات اتخاذ القرار.
وفي يوليو الماضي، ذكرت واشنطن بوست أن الولايات المتحدة تختبر توسيع استخدام الروبوتات والأنظمة المسلحة ذاتية التشغيل، فيما تعمل وزارة الدفاع الأمريكية على تحديث سياستها الخاصة بالأسلحة ذاتية التشغيل.
مخاوف من تراجع المسؤولية البشرية
وتتركز إحدى أهم نقاط الخلاف على السؤال المتعلق بمن يتحمل المسؤولية عندما يتخذ نظام ذكاء اصطناعي قرارًا يؤدي إلى مقتل شخص أو إصابة مدنيين.
وتحذر منظمات حقوقية من أن الأنظمة ذاتية التشغيل قد تواجه صعوبات في تطبيق مبادئ التمييز والتناسب والاحتياط، وهي مبادئ أساسية في القانون الدولي الإنساني. كما تثير هذه الأنظمة تساؤلات حول إمكانية تحديد المسؤولية عندما تكون عملية اتخاذ القرار داخل النظام غير شفافة أو يصعب تفسيرها.
وكانت الأمم المتحدة واللجنة الدولية للصليب الأحمر قد حذرتا في أغسطس من أن الأنظمة القادرة على اختيار الأهداف ومهاجمتها دون حكم وتحكم بشريين تثير مخاطر قانونية وأخلاقية متزايدة، خصوصًا مع تسارع تطوير هذه التقنيات.
هل تتجه الأسلحة الفتاكة نحو مزيد من الاستقلالية؟
لا يعني حذف الضمانات من النص أن اتفاقًا دوليًا ملزمًا بشأن الأسلحة ذاتية التشغيل قد انهار نهائيًا، إذ إن المفاوضات الحالية لا تزال في إطار عملية أممية مستمرة، وقد تمثل الوثيقة المعدلة أساسًا لمفاوضات مستقبلية.
لكن التطورات تكشف حجم الخلاف بين الدول حول حدود استخدام الذكاء الاصطناعي في الحرب. ففي حين تدفع دول ومنظمات حقوقية باتجاه ضمان سيطرة بشرية ذات معنى على القرارات المتعلقة باستخدام القوة، تحذر الولايات المتحدة ودول أخرى من وضع قواعد يمكن أن تحد من التطور العسكري أو الابتكار التكنولوجي.
وتأتي هذه الخلافات بالتزامن مع دعوات أوسع داخل الأمم المتحدة لوضع ضوابط دولية على الذكاء الاصطناعي. وفي خطابه الأخير أمام الجمعية العامة، دعا الأمين العام للأمم المتحدة أنطونيو غوتيريش إلى إطار متعدد الأطراف لإدارة مخاطر الذكاء الاصطناعي وإخضاعه لرقابة مستقلة وموثوقة.
وبذلك، تكشف مفاوضات الأسلحة ذاتية التشغيل عن معركة قانونية وتقنية تتجاوز مجرد تنظيم سلاح جديد: فهي تتعلق بتحديد الحدود التي يمكن أن يصل إليها الذكاء الاصطناعي في اتخاذ قرارات تمس حياة البشر، وما إذا كان القرار النهائي باستخدام القوة المميتة سيظل بيد الإنسان أم يمكن تفويضه تدريجيًا إلى الآلة.
