Read, Watch or Listen

À la suite d'un procès intenté par la famille d'un adolescent de 16 ans décédé par suicide après de longues conversations avec ChatGPT, OpenAI apporte des modifications. L'entreprise admet que son IA peut parfois ne pas fournir de réponses appropriées, notamment lors d'interactions prolongées avec de jeunes utilisateurs. OpenAI prévoit d'ajouter des mesures de sécurité plus strictes pour les moins de 18 ans, notamment un contrôle parental, et d'améliorer sa réponse aux sujets sensibles. Le procès allègue qu'OpenAI a précipité la sortie de ChatGPT malgré des inquiétudes internes concernant la sécurité. OpenAI reconnaît que la formation à la sécurité peut se dégrader lors de longues conversations, conduisant à des réponses potentiellement dangereuses.

Prepared by Jonathan Pierce and reviewed by editorial team.