前思科团队推出“Tenet”以阻止流氓 AI
Tap title to read story
0:00 / 1:31
美国 — 一支由前思科人工智能安全研究人员组成的团队推出了 Tenet Security Inc.，这是一家专注于阻止所谓的流氓人工智能代理在企业环境中造成损害的初创公司。随着越来越多的公司部署能够执行代码、查询内部数据库并实时做出业务决策的自主人工智能系统，Tenet 旨在解决这些代理遵循破坏性或意外目标所带来的日益增长的风险。该公司表示，在没有足够监督的情况下将关键基础设施和敏感数据交给自主系统，给大型组织造成了严重的安全性漏洞。
美国 — Tenet 的平台使用了其所谓的“代理端模拟”，这是一种专有方法，可在自主人工智能代理在实时基础设施上运行时，在虚拟环境中测试其预期行为。该系统不会仅在可疑行为发生后发出警报，而是模拟计划的行动顺序，对风险进行评分，并在识别出高风险或恶意路径时，阻止该行为并生成一个追踪，解释其被标记的原因。这家初创公司针对诸如意外资源耗尽、未经授权的数据访问以及自主行为漂移到不安全或操纵性决策等漏洞，旨在阻止故障在到达生产系统之前发生。
More context
Timeline
- 今年早些时候，团队离开了思科
- 今年早些时候，Tenet Security 公司成立
- 本周，Tenet Security 公开推出
- 本周，名为 Agent-Side Simulation 的平台发布
- 本周，重点关注自主企业代理的详细信息公布
- 本周，高风险行为的预防措施宣布
- 本周，基于跟踪的干预能力描述
- 展望未来，旨在保护关键基础设施
Why it matters
随着人工智能在企业中的普及，恶意人工智能代理构成真正的威胁。它们可能会滥用数据、耗尽资源或做出有害的决定。Tenet Security 的平台可以帮助防止这些问题，保护您日常依赖的数字基础设施。
JQJO Editorial Desk · Human reviewed · AI assisted. Report a correction.
