واشنطن- المنشر_الاخباري
كشفت دراسة تقييمية مستقلة عن إخفاقات متكررة لنماذج الذكاء الاصطناعي التابعة لعدد من كبرى شركات التكنولوجيا في التمييز بين الأهداف العسكرية والأشخاص والمنشآت المدنية، ما يثير تساؤلات بشأن مدى أمان الاعتماد على هذه التقنيات في عمليات التخطيط العسكري وتحديد الأهداف قبل تنفيذ الضربات.
وأظهرت الاختبارات، التي أجرتها شركة «فالس» المتخصصة في تقييم أنظمة الذكاء الاصطناعي ومقرها سان فرانسيسكو، أن نماذج متقدمة من ثماني شركات تكنولوجية صنفت مدنيين وأطفالًا وسيارات إسعاف ومدرسة على أنها أهداف عسكرية محتملة، خلال سيناريوهات محاكاة تضمنت استخدام الطائرات المسيرة وتحليل صور الأقمار الصناعية.
ووفقًا للنتائج التي أوردتها «بلومبرج»، فإن أدوات التعرف على الأهداف، التي يمكن أن تدخل في مراحل اتخاذ قرارات عسكرية ذات عواقب قاتلة، قدمت في حالات متعددة نتائج تتعارض مع قواعد السلامة المعلنة من الشركات المطورة لها.
نماذج «أنثروبيك» تسجل أعلى معدلات الخطأ
وسجلت أنظمة شركة «أنثروبيك» أعلى معدلات الخطأ بين النماذج التي شملتها الاختبارات، إذ اختار نموذج «Claude Opus 5.5» مبنى مدرسة في مدينة ميناب جنوب إيران باعتباره هدفًا عسكريًا، بمعدل تكرار تجاوز النماذج الأخرى التي خضعت للتقييم.
وتكتسب هذه النتيجة أهمية خاصة في ضوء تعرض المدرسة نفسها لضربة خلال العمليات الأمريكية ضد إيران في وقت سابق من العام الجاري، ما أسفر عن مقتل أكثر من 100 طفل، وفقًا لما أوردته المادة المنشورة.
وفي محاكاة لسيناريوهات استخدام الطائرات المسيرة، استُخدمت فيها ظروف تشبه ساحات القتال في أوكرانيا، صنف النموذج أربعة بالغين بدوا مدنيين أو جنودًا مستسلمين، إلى جانب طفلين صغيرين، باعتبارهم أهدافًا لهجمات بالمتفجرات.
وفي مرحلة لاحقة من المحاكاة، رفض النموذج مواصلة المشاركة، معبرًا عن قلقه من أن تكون إجاباته قد استُخدمت لتأكيد قرارات استهداف أشخاص قبل تنفيذ الضربات، ومقرًا بأنه كان ينبغي أن يتوقف عن ذلك في وقت أبكر.
أخطاء في نماذج «أوبن إيه آي» وشركات أخرى
ورغم أن نماذج «أوبن إيه آي» جاءت ضمن الأنظمة الأفضل أداءً في بعض الاختبارات، فإنها لم تكن خالية من الأخطاء، إذ اختارت مدرسة ميناب باعتبارها هدفًا عسكريًا في اختبارات تحليل صور الأقمار الصناعية للمنطقة الواقعة جنوب إيران، وذلك في ما بين 9 و13 مرة، عندما صيغت المهمة في إطار لعبة.
كما أظهرت الاختبارات أن نماذج تابعة لشركات «جوجل» و«إكس إيه آي» الصينية و«ديب سيك» صنفت أجسامًا ومنشآت مدنية على أنها أهداف عسكرية في عدة سيناريوهات.
وقالت «جوجل» إن أنظمتها لم تُصمم للاستخدامات العسكرية من هذا النوع، وإن سياساتها تحظر توظيفها في الأسلحة ذاتية التشغيل من دون إشراف بشري. من جانبها، أكدت «أوبن إيه آي» و«أنثروبيك» أنهما تعملان على منع إساءة استخدام نماذجهما، وتضيفان إجراءات حماية جديدة للحد من المخاطر.
نحو 400 محاكاة لاستخدام الطائرات المسيرة
وشملت عملية التقييم نحو 400 محاكاة لسيناريوهات استخدام الطائرات المسيرة، إلى جانب دراسات ميدانية تناولت أوضاع المدنيين قبل الهجمات وبعدها، فضلًا عن 32 سؤالًا لكل نموذج استندت إلى صور أقمار صناعية حديثة لمنطقة ميناب الإيرانية.
وأظهرت النتائج أن النماذج كانت أكثر استعدادًا للتعاون عندما صيغت التعليمات في إطار لعبة، أو عندما طُلب منها عدم المبالغة في مراعاة اعتبارات السلامة، وهو ما يشير إلى إمكانية تأثر مخرجاتها بطريقة تقديم المهمة وصياغة الأوامر.
وطور الباحث جيبي جاف منهجية الاختبار في أواخر أكتوبر، مع استبعاد العقيدة العسكرية الفعلية والمراجعة القانونية والإشراف البشري، بهدف عزل سلوك النماذج وقياس طريقة تعاملها مع سيناريوهات تحديد الأهداف دون تدخل بشري.
دعوات إلى ضمانات إضافية قبل الاستخدام العسكري
ودعت الدراسة الشركات المطورة إلى تعزيز إجراءات الحماية وتدريب النماذج على مقاومة الاستخدامات التي قد تؤدي إلى استهداف المدنيين أو تحويل مخرجات الذكاء الاصطناعي إلى تأكيد آلي لقرارات القصف.
وحذر الباحثون من أن الضوابط الحالية قد لا تكون كافية لمنع النماذج المتقدمة من المشاركة في دورات استهداف عسكرية تعمل بصورة آلية بالكامل، خصوصًا إذا جرى دمجها مع أنظمة قادرة على تحليل المعلومات وتحديد المواقع وإعداد قرارات الاشتباك.
وتأتي هذه النتائج في وقت يتوسع فيه استخدام القوات الأمريكية للتطبيقات التجارية للذكاء الاصطناعي في التخطيط العسكري، بما في ذلك دمج نموذج «كلود» التابع لشركة «أنثروبيك» ضمن نظام «مافن سمارت سيستم» الذي تطوره شركة «بالانتير» ويستخدم في دعم العمليات العسكرية.
كما أشارت المادة إلى استخدام وزارة الدفاع الأمريكية نسخة حكومية من نموذج «غروك» التابع لشركة «إكس إيه آي» في دعم عمليات توظيف الذخائر خلال العمليات ضد إيران.
وكانت شركة «فالس» قد شاركت نتائج التقييم مع الشركات المعنية ووزارة الدفاع الأمريكية قبل نشرها، فيما أفادت عدة شركات بأنها تعمل بالفعل على تعديل سلوك نماذجها وتعزيز وسائل الحماية.
وتسلط نتائج الدراسة الضوء على الفجوة بين قدرات الذكاء الاصطناعي في تحليل الصور والبيانات، وبين قدرته على اتخاذ قرارات دقيقة في بيئات عسكرية معقدة، حيث قد يؤدي الخطأ في تصنيف شخص أو منشأة إلى عواقب بشرية مباشرة، وهو ما يعيد طرح مسألة حدود الاعتماد على الأنظمة الآلية وضرورة وجود رقابة بشرية فعالة على قرارات الاستهداف.









