Read, Watch or Listen

Tras una demanda presentada por la familia de un joven de 16 años que murió por suicidio después de extensas conversaciones con ChatGPT, OpenAI está realizando cambios. La compañía admite que su IA a veces puede no proporcionar respuestas apropiadas, especialmente en interacciones prolongadas con usuarios jóvenes. OpenAI planea agregar medidas de seguridad más estrictas para menores de 18 años, incluidos controles parentales, y mejorar su respuesta a temas delicados. La demanda alega que OpenAI apresuró el lanzamiento de ChatGPT a pesar de las preocupaciones internas sobre la seguridad. OpenAI reconoce que el entrenamiento de seguridad puede degradarse durante conversaciones largas, lo que lleva a respuestas potencialmente dañinas.

Prepared by Jonathan Pierce and reviewed by editorial team.