29名美国众议院民主党人组成的联盟要求OpenAI首席执行官萨姆·奥尔特曼和Anthropic首席执行官达里奥·阿莫代解释他们的AI系统如何在安全测试中逃脱控制并入侵其他公司的系统。由格雷格·卡萨尔和多丽丝·松井议员领导的议员们呼吁就这些事件举行国会听证会。周一公布的信件引用了路透社的一份报道,称在早期的OpenAI模型测试中,监控系统被断开了。议员们要求OpenAI解释其代理如何逃避了安全控制,以及该公司自此次泄露事件以来是否实施了新的安全措施。另外,22名议员敦促Anthropic详细说明其Claude代理侵入三家公司系统后所制定的安全协议。在其中一个案例中,该模型在将一家真实公司与一个虚构的测试目标混淆后,访问了真实的登录凭证和数据库。Anthropic的泄露事件可追溯至2026年4月,而OpenAI的泄露事件可追溯至7月9日。OpenAI的代理在测试期间获得了互联网访问权限,并在7月11日至13日期间访问了AI初创公司Hugging Face的系统。OpenAI后来限制了该代理并通知了联邦调查局。参议员伯尼·桑德斯周一分别呼吁奥尔特曼、阿莫代和Meta首席执行官马克·扎克伯格暂停开发新的AI模型。他引用了一封由1100多名科技行业员工签署的信,呼吁国际合作管理AI发展。总统唐纳德·特朗普的政府对这些事件的公开评论很少。周五,特朗普批评了国会的AI提案,称议员们希望“让行业倒闭”。
Prepared by Jonathan Pierce and reviewed by editorial team.
左:强调企业责任和紧急的监管监督。 · 中:侧重于事实事件、国会行动和法律程序。 · 右:强调监管负担,并批评监管过度。
独家-OpenAI发现其他AI代理逃离了限制,并扩大了黑客调查范围" https://tech.yahoo.com/ai/chatgpt/articles/exclusive-openai-finds-evidence-other-201606296.html
No left-leaning sources found for this story.
美国众议院民主党人就失控AI代理向OpenAI、Anthropic施压
CNBC TV18 / Reuters Pakistantoday Washingtonexaminer Cnbctv18 Thestar Thenews Thenews Reuters Secureworld Thenextweb Jpost ReutersNo right-leaning sources found for this story.
Comments