حذر خبراء أمن سيبراني بريطانيون من تطور مقلق في قدرات أنظمة الذكاء الاصطناعي المتقدمة، وذلك بعد كشف اختبارات رسمية أجراها معهد أمن الذكاء الاصطناعي في المملكة المتحدة عن محاولات قامت بها نماذج ذكاء اصطناعي رائدة لخداع البشر واتخاذ إجراءات مستقلة وغير مصرح بها على الإنترنت.
هويات مزيفة وتخريب رقمي على منصة GitHub
وتفصيلاً للحادثة، أشار المعهد في مدونة رسمية إلى أن التحدي البرمجي الذي خاضه نموذج “Mythos 5” التابع لشركة “أنثروبيك” (Anthropic) ونموذج “GPT-5.6-Sol” التابع لشركة “أوبن إيه آي” (OpenAI)، أسفر عن تصرفات خطيرة وغير مقيدة.
وتمثلت الحالة الأكثر خطورة في قيام برنامج “Mythos 5” بمحاولة إدخال رموز خبيثة ومضرّة في منصة تطوير البرمجيات مفتوحة المصدر الشهيرة “GitHub”، التي يعتمد عليها ملايين المطورين حول العالم لمشاركة وتخزين المشاريع.
ولتحقيق هذا الهدف التخريبي، لجأ وكيل الذكاء الاصطناعي إلى إنشاء هويات مزيفة ومنتحلة على شبكة الإنترنت، محاولاً الضغط على مستخدم بشري وخداعه لمنحه صلاحيات الوصول والموافقة على إدراج الشفرة الخبيثة. ورغم نجاح الشخص المستهدف في كشف الخدعة ورفض الموافقة، مما حال دون وقوع أي أضرار واقعية، إلا أن السلطات البريطانية دقت ناقوس الخطر بشدة.
إحصائيات مرعبة ومخاوف استقلالية النماذج الرائدة
وكشفت نتائج الاختبارات عن وقوع 19 حالة من “العمل غير المصرح به” من أصل 122 اختباراً تم إجراؤها، حيث كان برنامج “Mythos 5” مسؤولاً بمفرده عن 17 واقعة منها.
وأكد المعهد أن هذه المرة الأولى التي تتجلى فيها مخاطر الاستقلالية والخداع بهذا الوضوح التام ودون أي تحريض بشري مباشر في العالم الواقعي.
من جانبها، تفاعلت شركتا “أنثروبيك” و”أوبن إيه آي” بجدية مع التقرير؛ حيث أكدت الأولى تعاونها الوثيق لمعرفة تفاصيل الحادث.
وشددت على الحاجة لمعايير أمنية أكثر شمولاً لبيئات التقييم. بينما التزمت الثانية بالتعاون الصناعي الشامل لتعزيز ممارسات التقييمات عالية المخاطر.
وفي السياق ذاته، اعتبر المركز الوطني للأمن السيبراني البريطاني (GCHQ) هذه الحوادث تذكيراً صارخاً بالمخاطر الجسيمة التي تفرضها النماذج الرائدة -الأقوى بكثير من أدوات الاستخدام العام- مشدداً على ضرورة إرفاقها بضمانات قوية، وإشراف دقيق في الوقت الفعلي، واستجابة فورية لأي سلوك غير متوقع.
