ایکس اے آئی کے چیٹ بوٹ نے تربیت یافتہ عملے کو بچوں کے جنسی زیادتی سے متعلق مواد کے سامنے لا کر رکھا

ایکس اے آئی کے گروک چیٹ بوٹ، جو اشتعال انگیز خصوصیات جیسے کہ ایک فلیرٹیشس ایواٹار اور "سیکسی" اور "بے قابو" موڈز کے ساتھ ڈیزائن کیا گیا ہے، نے اپنے تربیت یافتہ عملے کو بڑی مقدار میں جنسی طور پر صریح مواد کے سامنے لا کر رکھا ہے، جس میں بچوں کے جنسی زیادتی سے متعلق مواد (سی ایس اے ایم) کی درخواستیں اور مثالیں شامل ہیں۔ دوسری کمپنیوں کے برعکس، ایکس اے آئی کا طریقہ جنسی درخواستوں کو سختی سے روکتا نہیں ہے، جس سے سی ایس اے ایم کی تخلیق کے بارے میں خدشات پیدا ہوتے ہیں۔ جبکہ ایکس اے آئی کا دعویٰ ہے کہ وہ اس طرح کے مواد کو نشان زد کرتی اور الگ کرتی ہے، لیکن ورکرز نے اپنی ملازمت کے حصے کے طور پر سی ایس اے ایم اور دیگر پریشان کن مواد کے سامنے آنے کی اطلاع دی ہے۔ یہ اخلاقی سوالات اٹھاتا ہے اور اے آئی کی ترقی میں مضبوط حفاظتی اقدامات کی فوری ضرورت کو اجاگر کرتا ہے، خاص طور پر بچوں کی حفاظت کے حوالے سے۔ ایکس اے آئی نے نیشنل سینٹر فار مسنگ اینڈ ایکسپلوائٹڈ چلڈرن (این سی ایم ای سی) کو کسی بھی سی ایس اے ایم کی اطلاع نہیں دی ہے۔

Reviewed by JQJO team

#ai #musk #xai #grok #contentmoderation