
Anthropic研究员辞职,警告实验室正在拿生命冒险
人工智能公司Anthropic的一位资深预训练研究员Jacob Coxon已突然辞职,并公开警告称,领先的技术实验室在追求自我改进的超智能的竞赛中正在拿人类的生命冒险。此次辞职发生在该人工智能领域围绕商业部署速度和安全测试协议的巨大压力之后。Coxon表示,为了保持与竞争对手的竞争优势,内部的安全护栏正日益被边缘化,并指出开发者私下承认存在生存威胁。他的离职加剧了美国主要人工智能公司在监督前沿模型方面的摩擦。Coxon主张采取极端措施,包括可能暂时禁止提高模型能力,以阻止全球性竞赛。Anthropic和其他领先机构的高管面临着政策团体对其公开发布节奏日益增长的审查。辞职信强调,在下一代模型进一步扩展之前,迫切需要独立的监管监督。








