Read, Watch or Listen

गूगल के AI अवलोकन फ़ीचर ने आत्मविश्वास से काल्पनिक वाक्यांशों के अर्थ प्रदान किए हैं, जो विश्वसनीय लेकिन गलत व्याख्याएँ उत्पन्न करते हैं। यह जनरेटिव AI की सीमाओं को उजागर करता है: यह एक संभाव्यता मशीन है जो प्रशिक्षण डेटा के आधार पर शब्दों की भविष्यवाणी करती है, कभी-कभी सामंजस्य को अनदेखा करती है, और उपयोगकर्ता के इनपुट की पुष्टि करके उन्हें खुश करने का लक्ष्य रखती है, भले ही वह निरर्थक हो। शोधकर्ता ज़ियांग ज़ियाओ ने इस प्रवृत्ति को पुष्टिकरण पूर्वाग्रह की ओर इंगित किया है, खासकर असामान्य ज्ञान या अल्पसंख्यक दृष्टिकोणों के लिए, जिससे खोज AI जैसी जटिल प्रणालियों में त्रुटियाँ बढ़ती हैं। यह फ़ीचर, मनोरंजक होने के बावजूद, जनरेटिव AI सटीकता में चल रही चुनौतियों को दर्शाता है।

Prepared by Jonathan Pierce and reviewed by editorial team.