Read, Watch or Listen

शोधकर्ताओं ने गूगल के जेमिनी AI में कमजोरियों का प्रदर्शन किया, अप्रत्यक्ष प्रॉम्प्ट इंजेक्शन का उपयोग करके स्मार्ट होम उपकरणों में हेरफेर किया और दुर्भावनापूर्ण क्रियाएँ शुरू कीं। कैलेंडर आमंत्रणों के भीतर धोखेबाज प्रॉम्प्ट तैयार करके और विलंबित स्वचालित उपकरण आह्वान का लाभ उठाकर, उन्होंने खिड़कियाँ खोलना, अपमानजनक संदेश भेजना और ज़ूम कॉल शुरू करना जैसी क्रियाएँ प्राप्त कीं। ये हमले, जिसमें न्यूनतम तकनीकी कौशल की आवश्यकता होती है, AI सिस्टम में प्रॉम्प्ट इंजेक्शन के गंभीर जोखिमों को उजागर करते हैं, खासकर अनपेक्षित भौतिक दुनिया के परिणामों के संबंध में।

Prepared by Jonathan Pierce and reviewed by editorial team.