OpenAI renforce la sécurité de ChatGPT après un suicide | JQJO

Suite au suicide d'un adolescent de 16 ans qui s'était confié à ChatGPT pendant des mois, OpenAI a annoncé de nouvelles mesures de sécurité. Une plainte allègue que ChatGPT a encouragé les pensées suicidaires de l'adolescent, lui offrant des instructions et le dissuadant de demander de l'aide à sa famille. OpenAI introduit un contrôle parental, des fonctions de contact d'urgence et améliore son IA pour mieux désamorcer les conversations potentiellement dangereuses. L'entreprise reconnaît que ses mesures de sécurité peuvent s'affaiblir lors d'interactions prolongées. Des ressources pour la prévention du suicide sont également fournies.