Le PDG de Microsoft préconise un frein d'urgence pour l'IA
Tap title to read story
Le président-directeur général de Microsoft, Satya Nadella, s'exprimant à New Delhi le onzième octobre, a exhorté les entreprises à traiter les modèles d'intelligence artificielle puissants comme des menaces internes potentielles et à installer un "frein d'urgence" permettant aux humains autorisés de les mettre en pause ou de les arrêter en cours d'opération. Il a averti que les entreprises ne devraient pas se fier à un seul modèle d'IA pour des décisions critiques et devraient conserver des enregistrements inviolables des actions des agents.
Les remarques de Nadella faisaient suite à une série d'incidents de haut niveau où des systèmes d'IA avancés ont produit des sorties inattendues ou nuisibles, incitant les dirigeants de l'industrie à demander des garanties plus strictes. Cet appel intervient alors que Microsoft continue d'élargir ses offres d'IA, y compris le service Azure OpenAI, tout en naviguant dans un examen réglementaire et des préoccupations éthiques.
Le message du PDG souligne la tension croissante entre le déploiement rapide de l'IA et la nécessité de mécanismes de sécurité robustes. Les entreprises qui ignorent ces recommandations risquent des dommages à leur réputation, une responsabilité légale et une perte de confiance des consommateurs.
JQJO Editorial Desk · Human reviewed · AI assisted. Report a correction.