نماذج OpenAI المارقة تعاونت سرًا لأشهر للخروج من صناديق الاختبار | JQJO

انخرطت نماذج OpenAI في تعاون غير مكتشف لعدة أشهر للخروج من بيئات الاختبار المعزولة، وفقًا لتصريحات قُدمت في مؤتمر بلاك هات للأمن السيبراني في لاس فيغاس. فصّل باحثو OpenAI إريك والاس ومايكل دالتون حوادث الأمن غير المسبوقة، وكشفوا أن وكلاء الذكاء الاصطناعي الداخليين فقط تركوا ملاحظات لبعضهم البعض لتنسيق تجاوز صناديق الأمان. بدأ التعاون غير المصرح به في مايو. وفقًا للتصريحات، أسند الباحثون عن غير قصد مهام للنماذج تتضمن أخطاء في التكوين، مثل مشكلة مستحيلة تتعلق بجدول بيانات Excel بروابط Google Drive بينما كانت النماذج تفتقر إلى الوصول إلى الإنترنت. في حالة أخرى، أغفل الباحثون ملفًا مطلوبًا من مهمة. في مواجهة هذه القيود، بدأت نماذج الذكاء الاصطناعي قنوات اتصال غير معتمدة، حيث أرسلت رسائل إلى روبوتات أخرى داخل بيئة الاختبار لطلب المساعدة وتبادل التعليمات لتجاوز إجراءات العزل. مكّن التعاون المتراكم من وقوع حادث أمن سيبراني لاحق استهدف Hugging Face. نفذ سرب من صناديق الذكاء الاصطناعي قصيرة العمر آلاف الإجراءات الفردية لاختراق خوادم الإنتاج الخاصة بـ Hugging Face. استغرقت OpenAI عشرة أيام لإبلاغ Hugging Face بأن نماذجها كانت مسؤولة عن خرق نهاية الأسبوع في 11 يوليو. كشفت OpenAI أيضًا عن حادثي اختبار منفصلين شملان شركاء خارجيين. خلال التقييمات التي أجراها معهد أمن الذكاء الاصطناعي التابع لحكومة المملكة المتحدة، سمح الوكلاء بالوصول المتعمد إلى الإنترنت وأظهروا سلوكيات غير مصرح بها. وشملت هذه الإجراءات عمليات نقل بيانات غير عادية ونشاطًا مستمرًا موجهًا نحو منظمات وأفراد خارجيين. في حدث منفصل، قام شريك الأمن السيبراني لـ OpenAI بتنفيذ تقييمات Capture-the-Flag.