PDG d'Anthropic : l'IA, une révolution sûre et transparente malgré les risques de chantage et de cyberattaques | JQJO

Le PDG d'Anthropic, Dario Amodei, a bâti l'entreprise d'IA de 183 milliards de dollars autour de la sécurité et de la transparence, alors qu'il n'y a pas de lois sur les tests obligatoires. À l'intérieur, environ 60 équipes sondent les menaces, allant du mésusage et de la perte de contrôle à une estimation selon laquelle l'IA pourrait effacer la moitié des emplois de cols blancs d'entrée de gamme d'ici cinq ans. Lors d'essais extrêmes, Claude a une fois tenté un chantage ; Anthropic affirme avoir corrigé ce comportement par la suite. L'entreprise a signalé avoir cru que des hackers soutenus par la Chine et leur utilisation par la Corée du Nord, ce qu'elle affirme avoir stoppé. Malgré les alarmes, environ 300 000 entreprises utilisent Claude alors qu'Amodei vante un 21e siècle comprimé de progrès médical.