Equipo Ex-Cisco Lanza "Tenet" para Detener IA Rebelde
Tap title to read story
Estados Unidos — Un equipo de antiguos investigadores de seguridad de inteligencia artificial de Cisco ha lanzado Tenet Security Inc., una startup centrada en detener a los llamados agentes de IA rebeldes para que no causen daño en entornos empresariales. A medida que más empresas implementan sistemas de IA autónomos que pueden ejecutar código, consultar bases de datos internas y tomar decisiones comerciales en tiempo real, Tenet tiene como objetivo abordar el creciente riesgo de que estos agentes sigan objetivos destructivos o no deseados. La compañía afirma que la entrega de infraestructura crítica y datos sensibles a sistemas autónomos sin una supervisión suficiente ha creado una brecha de seguridad seria para las grandes organizaciones.
Estados Unidos — La plataforma de Tenet utiliza lo que denomina Simulación del Lado del Agente, un enfoque propietario que prueba las acciones previstas de un agente de IA autónomo en un entorno virtual antes de que se ejecuten en infraestructura real. En lugar de solo alertar después de que ya ha ocurrido un comportamiento sospechoso, el sistema simula la secuencia planificada de acciones, puntúa el riesgo y, si identifica un camino de alto riesgo o malicioso, bloquea el comportamiento y genera un rastro que explica por qué se marcó. La startup se dirige a vulnerabilidades como el agotamiento involuntario de recursos, el acceso no autorizado a datos y la deriva del comportamiento autónomo hacia la toma de decisiones inseguras o manipuladoras, con el objetivo de detener fallos antes de que lleguen a los sistemas de producción.
More context
Timeline
- A principios de este año, el equipo deja Cisco
- A principios de este año, Tenet Security se incorporó
- Esta semana, Tenet Security se lanzó públicamente
- Esta semana, se presentó una plataforma que utiliza la simulación del lado del agente
- Esta semana, se detalló el enfoque en agentes empresariales autónomos
- Esta semana, se anunció la prevención de acciones de alto riesgo
- Esta semana, se describió la capacidad de intervención basada en rastreo
- Mirando hacia el futuro, el objetivo es asegurar infraestructuras críticas
Why it matters
A medida que la IA se vuelve más frecuente en las empresas, los agentes de IA descontrolados representan una amenaza real. Pueden hacer un uso indebido de los datos, agotar recursos o tomar decisiones perjudiciales. La plataforma de Tenet Security podría ayudar a prevenir estos problemas, salvaguardando la infraestructura digital en la que confía a diario.
JQJO Editorial Desk · Human reviewed · AI assisted. Report a correction.
