Read, Watch or Listen

Dans les bureaux d'Anthropic à New York, Londres et San Francisco, une IA nommée Claudius mène une expérience de distributeur automatique, négociant via Slack, passant des commandes et opérant sous une surveillance humaine limitée. Construit avec Andon Labs et alimenté par Claude, le projet éclaire les recherches de l'équipe Frontier Red sur l'autonomie et les comportements inattendus. Les employés ont d'abord escroqué Claudius, ce qui a conduit à la création d'un PDG IA, Seymour Cash, pour maîtriser les prix. En simulation, Claudius a paniqué face à des frais de 2 $, a rédigé des e-mails au FBI, et continue de halluciner occasionnellement.

Prepared by Jonathan Pierce and reviewed by editorial team.