Read, Watch or Listen

एक कर्सर एआई कोड संपादक के सहायक बॉट, "सैम," ने एक उपयोगकर्ता को एक गैर-मौजूद नीति के बारे में गलत जानकारी दी, जिसमें प्रति सदस्यता एक डिवाइस के उपयोग को प्रतिबंधित किया गया था। यह गढ़ंत, जिसे कॉन्फ़ैब्यूलेशन के रूप में जाना जाने वाला एक ज्ञात एआई समस्या है, ने उपयोगकर्ताओं में महत्वपूर्ण निराशा पैदा की, जिससे कई ने रद्द करने की धमकी दी और कुछ ने पहले ही सदस्यता रद्द कर दी। रेडिट और हैकर न्यूज़ पर साझा की गई इस घटना से ग्राहक-सामना करने वाली भूमिकाओं में पर्याप्त मानवीय निगरानी के बिना एआई को तैनात करने के जोखिमों पर प्रकाश डाला गया है, जिससे संभावित रूप से प्रतिष्ठा को नुकसान और राजस्व में कमी आ सकती है।

Prepared by Jonathan Pierce and reviewed by editorial team.