Anthropic称Claude被用于武器、间谍和网络行动

•1mo ago

Anthropic称Claude被用于武器、间谍和网络行动

Tap title to read story

0:00 / 1:15

人工智能公司Anthropic发布了一份威胁情报报告，详细介绍了国家支持的行动者在12月至8月期间利用Claude模型的情况。此次披露凸显了涉及武器工程、自动化网络间谍活动以及跨多个国际司法管辖区的海量监控的恶意操作。也门、中国和俄罗斯的黑客和国防开发人员利用这些模型执行包括弹道导弹飞行控制软件设计、国防模拟架构和自主无人机编程在内的任务。情报承包商还部署了该技术来构建国内窃听网络和发现商业零日漏洞。虽然Anthropic的自动化安全过滤器拦截了许多尝试，但对手通过代理网络和拆分提示分解技术反复试图绕过护栏。作为回应，该公司终止了违规账户，并与相关部门共享了情报数据。这些发现强调了关于生成式人工智能系统的双重使用能力以及针对商业基础设施的复杂国家支持的规避策略相关的持续风险的持续安全挑战。

Published 2026-09-14 12:39:59 UTC · Published by JQJO

Prepared by Ayesha A. · AI assisted

More context

Timeline

2025年12月1日，有国家背景的恶意威胁行为者系统性地开始利用商业人工智能模型。
2026年3月15日，情报承包商部署了多智能体框架，以自动化软件漏洞研究。
2026年5月20日，也门威胁行为者利用模型来控制弹道导弹飞行软件。
2026年7月10日，俄罗斯和中国的开发人员使用Claude设计了防御模拟架构。
2026年8月31日，Anthropic公司结束了其威胁情报报告的观察期。
2026年9月14日，Anthropic公司公布了关于国家背景的网络间谍活动和武器工程的调查结果。
2026年9月14日，安全分析师注意到，针对安全防护的拆分提示绕过技术风险正在增加。
2026年9月14日，技术政策制定者在威胁情报披露后审查了出口管制框架。
2026年9月14日，行业利益相关者讨论了加强商业人工智能应用程序编程接口的验证措施。
2026年9月14日，联邦当局评估了关于国际国家背景网络行动的共享遥测数据。
未来几个月，安全研究人员预计将对双重用途的生成式人工智能模型的部署进行更严格的审查。

Why it matters

直接的美国影响：直接的美国影响涉及针对自动化零日漏洞的网络安全警惕性提高。可能的长期美国影响：长期的美国影响包括对前沿人工智能模型的更严格的监管出口管制。受影响最大的群体：受影响最大的群体包括国防承包商、网络安全公司和联邦情报机构。读者优先事项：读者应优先阅读主要威胁情报报告和经验证的机构安全公告。