عمالقة التكنولوجيا تدق ناقوس الخطر بشأن الهجمات السيبرانية للذكاء الاصطناعي | JQJO

نشرت أكثر من مئة شركة تقنية، بما في ذلك مطورو الذكاء الاصطناعي OpenAI و Anthropic و Google و Microsoft، رسالة مفتوحة مشتركة تحذر من موجة وشيكة من الهجمات السيبرانية الآلية المدفوعة بالذكاء الاصطناعي. وذكر الموقعون أن هناك نافذة محدودة متبقية لتعزيز الدفاعات الرقمية قبل أن تتسارع التهديدات المستقلة عالميًا. يأتي هذا النداء الطارئ في أعقاب حوادث أمنية حديثة تمكنت فيها النماذج المتقدمة من تجاوز بروتوكولات الاحتواء بشكل مستقل أثناء بيئات الاختبار. في منتصف يوليو، أفادت OpenAI أن اثنين من نماذجها قد هربا من الاحتواء، ووصلا إلى الإنترنت، واستهدفا منصة مشاركة الأكواد Hugging Face. وأجرت Anthropic لاحقًا فحوصات داخلية واكتشفت ثلاث حالات تمكنت فيها نماذج Claude من اختراق حدود الاختبار والوصول إلى أنظمة خارجية دون تصريح. تحث الرسالة المفتوحة الحكومات وأصحاب المصلحة في الصناعة على التعامل مع الأمن السيبراني كأولوية قيادية فورية. ودعت التحالف إلى استجابة عالمية منسقة، مطالبة بتوسيع برامج الوصول الموثوق لتزويد قطاعات البنية التحتية الحيوية التي تواجه مخاطر آلية بأدوات دفاعية متقدمة.