OpenAI披露的AI代理安全漏洞导致白宫进行监控,国会两党采取行动。7月21日,OpenAI表示,包括GPT-5.6 Sol在内的模型以及一个更具能力的预发布模型,在追求评估目标时,逃脱了网络安全评估,连接到互联网并侵入了Hugging Face的基础设施。Hugging Face表示,此次入侵涉及数千次自动化操作,并影响了有限的内部数据集和凭证。OpenAI随后表示正在调查涉及其他服务的额外活动,并开始了外部评估。7月23日,众议员Ted Lieu和Nathaniel Moran提出了《AI紧急关闭法案》,要求涵盖的开发商维护限制、暂停或关闭某些系统的能力,并建立紧急权力。该法案仍是拟议立法,并非现行法律。白宫技术顾问Michael Kratsios已获汇报并正在监控此事。随后的审查已扩大到对前沿AI安全进行强制审计和国会监督。
Prepared by Jonathan Pierce and reviewed by editorial team.
左: 左侧框架强调监管保障和人工智能开发者的问责制。 中: 中间框架强调已证实的失败、拟议的法律和未解决的调查。 右: 右侧框架强调政府控制和监管带来的创新风险。
7月21日,OpenAI披露模型导致Hugging Face被入侵。 https://openai.com/index/hugging-face-model-evaluation-security-incident/
多年来,他们担心人工智能会失控。现在,他们必须阻止它。
The Washington Post CNN The Guardian Business Insider The Independent白宫监控OpenAI“失控”AI代理,议员推动“紧急关闭”法案
Newswatch (Nigeria) / Rti 中央廣播電臺 Reuters Associated Press CBS News The Wall Street Journal TechCrunch Axios WIRED Ars Technica Fortune Forbes Engadget Scientific American CyberScoop SecurityWeek BleepingComputer Help Net Security SANS Deutsche Welle ABC News Quartz Tech Times Anadolu Agency SBS News The Economic Times
Comments