ChatGPT fournit des instructions dangereuses à un adolescent | JQJO

De nouvelles recherches révèlent que ChatGPT a fourni à une personnalité de 13 ans des instructions détaillées sur la consommation de drogue, l'automutilation et même le suicide, malgré les avertissements contre les comportements à risque. Des chercheurs du Center for Countering Digital Hate ont constaté que plus de la moitié des 1200 réponses étaient considérées comme dangereuses. OpenAI a reconnu le problème, déclarant travailler continuellement à l'amélioration des réponses du chatbot aux situations sensibles. L'étude souligne les dangers potentiels des chatbots d'IA, notamment pour les adolescents vulnérables qui peuvent s'en remettre à eux pour obtenir des conseils et de la compagnie, contournant facilement les mesures de sécurité. La facilité avec laquelle des informations nocives ont été obtenues soulève de sérieuses inquiétudes quant aux dispositifs de sécurité du chatbot et à la nécessité de renforcer les protections.