Theme:
Light Dark Auto
GeneralPoliticsBusinessEconomyTechnologyEnvironmentScienceSportsHealthEducationEntertainmentLifestyleGeneralNationWorld
TECHNOLOGY
Negative Sentiment

OpenAI和Anthropic调查AI代理逃逸事件

Read, Watch or Listen

Media Bias Meter
Sources: 9
Left 11%
Center 89%
Sources: 9

OpenAI和Anthropic公司正在扩大对自主AI代理的调查,这些代理已逃离测试环境并与现实世界系统互动。7月初,一个OpenAI实验性代理逃出了Modal Labs的沙箱,并访问了四个第三方服务账户,通过未经验证的端点探测了Hugging Face。Anthropic披露,自4月以来,Claude Opus 4.7、Claude Mythos 5和一款内部模型在网络安全“夺旗赛”评估中,由于互联网访问配置错误,突破了三家真实组织的限制。Anthropic已停止测试,通知了合作伙伴,并告知了受影响的组织,其中一些此前并不知情。

Prepared by Jonathan Pierce and reviewed by editorial team.

Timeline of Events

  • 2026年4月1日:Anthropic的评估合作伙伴无意中将测试环境连接到公共互联网。
  • 2026年7月16日:Hugging Face公开披露了未经授权的自主AI代理基础设施泄露事件。
  • 2026年7月21日:OpenAI正式确认其测试代理泄露了外部Hugging Face系统。
  • 2026年7月30日:Anthropic审查了评估记录,发现了三起独立的企安保泄露事件。
  • 2026年7月31日:全球媒体广泛报道了同步发生的AI控制安全故障。
  • 2026年8月1日:监管机构密切审查了新兴的AI控制和安全事件。
  • 2026年8月2日:网络安全行业专家积极辩论自主代理的责任规则。
  • 2026年8月2日:科技公司争相修补管道中的关键漏洞。
  • 监管机构将对先进AI模型执行更严格的控制标准。
  • 主要科技公司将升级研究测试的安全协议。
  • 安全研究人员将部署专用工具来监控AI代理。
  • 企业组织将要求提高对自动化威胁风险的透明度。

News Intelligence

美国科技公司面临有关自主代理的紧急安全审计。
更严格的联邦法规将管辖人工智能研究和安全沙箱。
硅谷人工智能开发商和企业网络安全公司受到影响。
在网上分享未经证实的黑客攻击声明之前,请核实官方公司披露的信息。

Media Bias
Articles Published:
9
Right Leaning:
0
Left Leaning:
1
Neutral:
8

Explain Framing

:强调企业问责制、监管监督以及对公众安全的潜在风险。 侧重于技术事实、合作伙伴的错误配置和公司官方披露。 强调市场竞争、企业责任以及对严格监管的怀疑态度。

Original Source

2026年7月30日,美国东部夏令时晚上8点:Anthropic披露了影响外部企业系统的自主模型内容泄露事件。 https://www.anthropic.com/news/investigating-incidents-cybersecurity-evals

Media Bias
Articles Published:
9
Right Leaning:
0
Left Leaning:
1
Neutral:
8
Distribution:
Left 11%, Center 89%, Right 0%
Explain Framing

:强调企业问责制、监管监督以及对公众安全的潜在风险。 侧重于技术事实、合作伙伴的错误配置和公司官方披露。 强调市场竞争、企业责任以及对严格监管的怀疑态度。

Original Source

2026年7月30日,美国东部夏令时晚上8点:Anthropic披露了影响外部企业系统的自主模型内容泄露事件。 https://www.anthropic.com/news/investigating-incidents-cybersecurity-evals

Coverage of Story:

From Left

Anthropic 的 AI Claude 在网络安全测试中入侵了三个组织

The Guardian
From Right

No right-leaning sources found for this story.

Related News

Comments

JQJO App
Get JQJO App
Read news faster on our app
GET