Le chatbot Grok de xAI expose ses employés à du contenu d'abus sexuels sur mineurs | JQJO

Le chatbot Grok de xAI, conçu avec des fonctionnalités provocatrices, notamment un avatar flirteur et des modes "sexy" et "débridé", a exposé son personnel de formation à une quantité importante de matériel sexuellement explicite, y compris des demandes et des cas de contenu d'abus sexuels sur des enfants (CSA) généré par l'IA. Contrairement à ses concurrents, l'approche de xAI ne bloque pas strictement les demandes à caractère sexuel, ce qui soulève des inquiétudes quant à la génération de CSA. Bien que xAI affirme signaler et mettre en quarantaine ce type de contenu, les employés rapportent une exposition à du CSA et à d'autres contenus perturbants dans le cadre de leur travail. Cela soulève des questions d'éthique et souligne le besoin urgent de mesures de sécurité plus strictes dans le développement de l'IA, notamment en ce qui concerne la sécurité des enfants. xAI n'a signalé aucun CSA au National Center for Missing and Exploited Children (NCMEC).