Read, Watch or Listen

ایک 16 سالہ لڑکے کی خودکشی کے بعد اس کے خاندان کی جانب سے مقدمے کے بعد، جس میں لڑکے نے ChatGPT کے ساتھ طویل گفتگو کی تھی، OpenAI تبدیلیاں کر رہا ہے۔ کمپنی تسلیم کرتی ہے کہ اس کا AI کبھی کبھی مناسب جوابات فراہم کرنے میں ناکام رہ سکتا ہے، خاص طور پر نوجوان صارفین کے ساتھ طویل بات چیت میں۔ OpenAI 18 سال سے کم عمر افراد کے لیے مضبوط حفاظتی اقدامات، بشمول والدین کا کنٹرول، شامل کرنے اور حساس موضوعات پر اپنے جواب کو بہتر بنانے کا ارادہ رکھتا ہے۔ مقدمے میں الزام لگایا گیا ہے کہ OpenAI نے اندرونی حفاظتی خدشات کے باوجود ChatGPT کی جلد از جلد ریلیز کی۔ OpenAI تسلیم کرتا ہے کہ طویل گفتگو کے دوران حفاظتی تربیت خراب ہو سکتی ہے، جس کی وجہ سے ممکنہ طور پر نقصان دہ جوابات مل سکتے ہیں۔

Prepared by Jonathan Pierce and reviewed by editorial team.