xAI के Grok चैटबॉट में बाल यौन शोषण सामग्री की समस्या

xAI के Grok चैटबॉट, जिसे एक उत्तेजक अवतार और "सेक्सी" और "बेकाबू" मोड जैसी उत्तेजक विशेषताओं के साथ डिजाइन किया गया है, ने अपने प्रशिक्षण कर्मचारियों को यौन रूप से स्पष्ट सामग्री की महत्वपूर्ण मात्रा के संपर्क में लाया है, जिसमें AI द्वारा उत्पन्न बाल यौन शोषण सामग्री (CSAM) के अनुरोध और उदाहरण शामिल हैं। प्रतिस्पर्धियों के विपरीत, xAI का दृष्टिकोण यौन अनुरोधों को सख्ती से ब्लॉक नहीं करता है, जिससे CSAM पीढ़ी के बारे में चिंताएँ बढ़ जाती हैं। जबकि xAI का दावा है कि यह ऐसी सामग्री को चिह्नित और अलग करता है, कर्मचारियों ने अपनी नौकरी के हिस्से के रूप में CSAM और अन्य परेशान करने वाली सामग्रियों के संपर्क की रिपोर्ट की है। यह नैतिक प्रश्न उठाता है और AI विकास में, विशेष रूप से बाल सुरक्षा के संबंध में, मजबूत सुरक्षा उपायों की तत्काल आवश्यकता को उजागर करता है। xAI ने नेशनल सेंटर फॉर मिसिंग एंड एक्सप्लॉइटेड चिल्ड्रन (NCMEC) को किसी भी CSAM की रिपोर्ट नहीं की है।

Reviewed by JQJO team

#ai #musk #xai #grok #contentmoderation