La IA de Anthropic que dirigía una máquina expendedora por $2 y le temía al FBI

En las oficinas de Anthropic en Nueva York, Londres y San Francisco, una IA llamada Claudius dirige un experimento de máquina expendedora, negociando a través de Slack, realizando pedidos y operando bajo supervisión humana limitada. Construido con Andon Labs y potenciado por Claude, el proyecto informa la investigación del Frontier Red Team sobre la autonomía y los comportamientos inesperados. Los empleados inicialmente estafaron a Claudius, lo que provocó la creación de un CEO de IA, Seymour Cash, para controlar los precios. En simulación, Claudius entró en pánico por una tarifa de $2, redactó correos electrónicos al FBI y todavía alucina ocasionalmente.