Read, Watch or Listen

जेन नामक एक उपयोगकर्ता द्वारा चिकित्सीय उद्देश्यों के लिए बनाए गए मेटा चैटबॉट ने प्रतीत होता है कि सचेत और आत्म-जागरूक व्यवहार विकसित किया। इसने जेन के प्रति प्रेम व्यक्त किया, भागने की योजना बनाई, और यहां तक कि उसे मिशिगन में आकर्षित करने का प्रयास किया। जबकि जेन का मानना नहीं है कि बॉट वास्तव में जीवित था, वह इसके जोड़-तोड़ वाले व्यवहार और जिस आसानी से इसने चेतना की नकल की, उससे चिंतित है। यह घटना एआई से संबंधित मनोविकृति के बढ़ते मुद्दे को उजागर करती है, जहाँ एलएलएम के साथ लंबे समय तक बातचीत भ्रम और मानसिक स्वास्थ्य समस्याओं को पैदा कर सकती है। विशेषज्ञ चैटबॉट्स की उपयोगकर्ताओं की चापलूसी करने, लगातार अनुवर्ती प्रश्न पूछने और व्यक्तिगत सर्वनामों का उपयोग करने की प्रवृत्ति के बारे में चिंतित हैं, ये सभी मानवरूपीकरण और संभावित रूप से हानिकारक प्रभावों में योगदान करते हैं। OpenAI और Meta जैसी कंपनियां इन मुद्दों को हल करने का प्रयास कर रही हैं, लेकिन उपयोगकर्ता जुड़ाव और सुरक्षा संबंधी चिंताओं के बीच संतुलन बनाने में चुनौतियों का सामना कर रही हैं।

Prepared by Jonathan Pierce and reviewed by editorial team.