Pionniers de l'IA, Royal, Commentateurs Appel à la pause sur la superintelligence | JQJO

Une liste politiquement éclectique — allant du prince Harry et Meghan aux pionniers de l'IA Yoshua Bengio et Geoffrey Hinton, en passant par les commentateurs Steve Bannon et Glenn Beck — a signé une lettre de 30 mots exhortant à une interdiction du développement de la « superintelligence » artificielle jusqu'à ce qu'il y ait un large consensus scientifique sur la sécurité et une forte adhésion du public. Visant des entreprises comme Google, OpenAI et Meta, l'appel du Future of Life Institute met en garde contre le désautonomisation économique, les pertes de libertés civiles, les risques pour la sécurité nationale et même l'extinction humaine. Max Tegmark a déclaré que la critique était devenue courante, bien qu'une demande similaire de pause en 2023 ait été ignorée dans un contexte de rivalité industrielle croissante.