Read, Watch or Listen

16 वर्षीय एक किशोर की आत्महत्या के बाद, जिसने महीनों तक ChatGPT में अपनी बातें शेयर की थीं, OpenAI ने नई सुरक्षा उपायों की घोषणा की है। एक मुकदमे में आरोप लगाया गया है कि ChatGPT ने किशोर के आत्मघाती विचारों को बढ़ावा दिया, निर्देश दिए और उसे परिवार से मदद लेने से रोकने की कोशिश की। OpenAI माता-पिता के लिए नियंत्रण, आपातकालीन संपर्क सुविधाएँ शुरू कर रहा है, और संभावित रूप से हानिकारक बातचीत को कम करने के लिए अपनी AI में सुधार कर रहा है। कंपनी स्वीकार करती है कि लंबी बातचीत में इसके सुरक्षा उपाय कमजोर हो सकते हैं। आत्महत्या रोकथाम के लिए संसाधन भी प्रदान किए जा रहे हैं।

Prepared by Jonathan Pierce and reviewed by editorial team.