Une équipe d'anciens de Cisco lance « Tenet » pour arrêter l'IA voyou
Tap title to read story
États-Unis — Une équipe d'anciens chercheurs en sécurité de l'intelligence artificielle chez Cisco a lancé Tenet Security Inc., une startup axée sur l'arrêt des agents d'IA « voyous » afin d'éviter qu'ils ne causent des dommages dans les environnements d'entreprise. Alors que de plus en plus d'entreprises déploient des systèmes d'IA autonomes capables d'exécuter du code, d'interroger des bases de données internes et de prendre des décisions commerciales en temps réel, Tenet vise à répondre au risque croissant que ces agents poursuivent des objectifs destructeurs ou involontaires. L'entreprise affirme que confier l'infrastructure critique et les données sensibles à des systèmes autonomes sans surveillance suffisante a créé une lacune de sécurité sérieuse pour les grandes organisations.
États-Unis — La plateforme de Tenet utilise ce qu'elle appelle l'Agent-Side Simulation, une approche propriétaire qui teste les actions prévues d'un agent d'IA autonome dans un environnement virtuel avant qu'elles ne soient exécutées sur l'infrastructure réelle. Au lieu de simplement alerter après que des comportements suspects ont déjà eu lieu, le système simule la séquence d'actions planifiées, évalue le risque et, s'il identifie un chemin à haut risque ou malveillant, bloque le comportement et génère une trace expliquant pourquoi il a été signalé. La startup cible des vulnérabilités telles que l'épuisement involontaire des ressources, l'accès non autorisé aux données et la dérive du comportement autonome vers des prises de décision dangereuses ou manipulatrices, dans le but d'arrêter les échecs avant qu'ils n'atteignent les systèmes de production.
More context
Timeline
- Plus tôt cette année, une équipe quitte Cisco
- Plus tôt cette année, Tenet Security a été incorporée
- Cette semaine, Tenet Security a été lancée publiquement
- Cette semaine, une plateforme utilisant la simulation côté agent a été dévoilée
- Cette semaine, l'accent sur les agents d'entreprise autonomes a été détaillé
- Cette semaine, la prévention des actions à haut risque a été annoncée
- Cette semaine, la capacité d'intervention basée sur la trace a été décrite
- À l'avenir, vise à sécuriser les infrastructures critiques
Why it matters
Alors que l'IA devient de plus en plus présente dans les entreprises, les agents IA malveillants représentent une menace réelle. Ils peuvent détourner des données, épuiser les ressources ou prendre des décisions nuisibles. La plateforme de Tenet Security pourrait aider à prévenir ces problèmes, en protégeant l'infrastructure numérique sur laquelle vous comptez quotidiennement.
JQJO Editorial Desk · Human reviewed · AI assisted. Report a correction.
