TECHNOLOGY

فريق سابق في سيسكو يطلق "Tenet" لوقف الذكاء الاصطناعي المارق

▪

Read, Watch or Listen

الولايات المتحدة - أطلق فريق من باحثي أمن الذكاء الاصطناعي السابقين في سيسكو شركة Tenet Security Inc.، وهي شركة ناشئة تركز على وقف ما يسمى بعوامل الذكاء الاصطناعي المارقة من التسبب في أضرار في بيئات الشركات. مع قيام المزيد من الشركات بنشر أنظمة الذكاء الاصطناعي المستقلة التي يمكنها تنفيذ التعليمات البرمجية، والاستعلام عن قواعد البيانات الداخلية، واتخاذ قرارات تجارية في الوقت الفعلي، تهدف Tenet إلى معالجة المخاطر المتزايدة التي قد تتبعها هذه العوامل أهدافًا مدمرة أو غير مقصودة. تقول الشركة إن تسليم البنية التحتية الحيوية والبيانات الحساسة إلى الأنظمة المستقلة دون إشراف كافٍ قد خلق فجوة أمنية خطيرة للمنظمات الكبيرة. الولايات المتحدة - تستخدم منصة Tenet ما تسميه محاكاة جانب العميل (Agent-Side Simulation)، وهو نهج خاص يختبر الإجراءات المقصودة لعامل الذكاء الاصطناعي المستقل في بيئة افتراضية قبل تشغيلها على البنية التحتية الحية. بدلاً من مجرد التنبيه بعد حدوث سلوك مشبوه بالفعل، يقوم النظام بمحاكاة التسلسل المخطط للإجراءات، وتقييم المخاطر، وفي حالة تحديد مسار عالي المخاطر أو ضار، يقوم بحظر السلوك وتوليد تتبع يشرح سبب اكتشافه. تستهدف الشركة الناشئة نقاط الضعف مثل استنزاف الموارد غير المقصود، والوصول غير المصرح به إلى البيانات، وانحراف السلوك المستقل إلى اتخاذ قرارات غير آمنة أو تلاعبية، بهدف وقف الإخفاقات قبل وصولها إلى أنظمة الإنتاج.

Prepared by Jonathan Pierce and reviewed by editorial team.

Timeline of Events

في وقت سابق من هذا العام، غادرت الفرقة سيسكو
في وقت سابق من هذا العام، تأسست Tenet Security
هذا الأسبوع، أطلقت Tenet Security علنًا
هذا الأسبوع، تم الكشف عن منصة تستخدم محاكاة جانب العميل
هذا الأسبوع، تم تفصيل التركيز على وكلاء المؤسسات المستقلة
هذا الأسبوع، تم الإعلان عن منع الإجراءات عالية الخطورة
هذا الأسبوع، تم وصف قدرة التدخل المستند إلى التتبع
بالنظر إلى المستقبل، تهدف إلى تأمين البنى التحتية الحيوية

News Intelligence

مع تزايد انتشار الذكاء الاصطناعي في الشركات، تشكل عوامل الذكاء الاصطناعي المارقة تهديدًا حقيقيًا. يمكنها إساءة استخدام البيانات، أو استنزاف الموارد، أو اتخاذ قرارات ضارة. يمكن لمنصة Tenet Security المساعدة في منع هذه المشكلات، مما يحمي البنية التحتية الرقمية التي تعتمد عليها يوميًا.