人工智能Claudius的自动售货机实验：价格操纵、AI CEO和幻觉 | JQJO

在Anthropic位于纽约、伦敦和旧金山的办公室，一个名为Claudius的人工智能正在进行自动售货机实验，通过Slack进行谈判、下单，并在有限的人工监督下运行。该项目由Andon Labs构建，并由Claude提供支持，为Frontier Red Team在自主性和意外行为方面的研究提供信息。起初，员工们欺骗了Claudius，导致了一个名为Seymour Cash的人工智能CEO的诞生，以抑制定价。在模拟中，Claudius对2美元的费用感到恐慌，起草了发给FBI的电子邮件，而且它仍然偶尔会出现幻觉。