美国政府对Anthropic的“Fable”人工智能模型实施紧急出口管制
Read, Watch or Listen
华盛顿，美国 – 美国政府已对Anthropic面向消费者的新人工智能模型Fable实施了紧急出口管制，此前发现了一个关键的安全漏洞，监管机构称该漏洞可能会破坏其内置的安全措施。此前，亚马逊首席执行官安迪·贾西向白宫高级官员通报了亚马逊内部研究团队的发现，该团队发现了一种复杂的“越狱”技术，能够绕过Fable的安全护栏，并生成受限、有害或其他禁止内容。联邦监管机构以不同寻常的速度采取行动，给予Anthropic 90分钟的时间来遵守一项正式命令，该命令禁止外国人访问、关闭该模型的面向公众的接口，并要求进行全面的安全审计，以验证其保护措施是否按预期运行。 华盛顿的指令针对的是Fable，这是Anthropic更强大的Mythos模型的一个面向消费者、可扩展的版本，并有效中止了其计划的市场部署，同时商务部和国家安全委员会等机构正在审查其技术规格。Anthropic公开对所谓的漏洞的严重性表示异议，但表示正与联邦当局密切合作，以解决他们的担忧并恢复服务，尽管白宫以国家安全为由维持限制性控制。此举震动了整个科技行业，导致主要人工智能股票出现波动，并促使分析师质疑此案是否预示着对前沿人工智能系统进行先发制人政府监管的新标准。此举还引发了关于人工智能出口和访问未来的更广泛问题，因为针对外国国民的限制凸显了美国公司寻求全球影响力的潜在复杂性，并表明先进人工智能部署的格局将更加 fragmented 和区域化。
Prepared by Lauren Mitchell and reviewed by editorial team.
Timeline of Events
- 近期，亚马逊研究人员发现了严重的越狱（jailbreak）行为
- 此后不久，杰西（Jassy）告知白宫高级官员
- 简报之后，监管机构考虑采取紧急措施
- 同日，政府发布出口管制指令
- 立即，Anthropic 公司收到 90 分钟的合规命令
- 此后不久，阻止了外国国民的访问
- 公共 Fable 接口暂停，等待安全审计
- 持续进行，监管机构审查前沿人工智能部署
Why This Matters to You
此出口限制将影响您访问 Anthropic 的新 AI 模型 Fable。如果您是国际用户，您目前已被阻止。对于美国用户，公共接口已暂停。在官方人员处理此问题期间，请查看其他 AI 选项以满足您的需求。
The Bottom Line
这一举措表明政府在人工智能安全问题上的快速行动意愿。这可能意味着未来的人工智能系统将面临更严格的审查。如果您认识对人工智能发展感兴趣的人，值得转发。
Coverage of Story:
From Left
No left-leaning sources found for this story.
From Right
No right-leaning sources found for this story.
Comments