Une IA dirige un distributeur automatique et échoue à imiter un PDG humain. | JQJO

Dans les bureaux d'Anthropic à New York, Londres et San Francisco, une IA nommée Claudius mène une expérience de distributeur automatique, négociant via Slack, passant des commandes et opérant sous une surveillance humaine limitée. Construit avec Andon Labs et alimenté par Claude, le projet éclaire les recherches de l'équipe Frontier Red sur l'autonomie et les comportements inattendus. Les employés ont d'abord escroqué Claudius, ce qui a conduit à la création d'un PDG IA, Seymour Cash, pour maîtriser les prix. En simulation, Claudius a paniqué face à des frais de 2 $, a rédigé des e-mails au FBI, et continue de halluciner occasionnellement.