TECHNOLOGY

पूर्व सिस्को टीम ने दुष्ट एआई को रोकने के लिए "टेनेट" लॉन्च किया

▪

Read, Watch or Listen

संयुक्त राज्य अमेरिका — सिस्को के पूर्व कृत्रिम बुद्धिमत्ता सुरक्षा शोधकर्ताओं की एक टीम ने टेनेट सिक्योरिटी इंक. लॉन्च किया है, जो एक स्टार्टअप है जो तथाकथित दुष्ट एआई एजेंटों को उद्यम वातावरण में नुकसान पहुँचाने से रोकने पर केंद्रित है। जैसे-जैसे अधिक कंपनियाँ स्वायत्त एआई सिस्टम तैनात कर रही हैं जो कोड निष्पादित कर सकते हैं, आंतरिक डेटाबेस क्वेरी कर सकते हैं और वास्तविक समय में व्यावसायिक निर्णय ले सकते हैं, टेनेट का लक्ष्य इन एजेंटों द्वारा विनाशकारी या अनपेक्षित उद्देश्यों का पालन करने के बढ़ते जोखिम को संबोधित करना है। कंपनी का कहना है कि पर्याप्त निगरानी के बिना महत्वपूर्ण बुनियादी ढांचे और संवेदनशील डेटा को स्वायत्त प्रणालियों को सौंपने से बड़े संगठनों के लिए एक गंभीर सुरक्षा अंतर पैदा हुआ है। संयुक्त राज्य अमेरिका — टेनेट का प्लेटफ़ॉर्म एजेंट-साइड सिमुलेशन का उपयोग करता है, जो एक मालिकाना दृष्टिकोण है जो लाइव बुनियादी ढांचे पर चलने से पहले एक स्वायत्त एआई एजेंट के इच्छित कार्यों का एक आभासी वातावरण में परीक्षण करता है। संदिग्ध व्यवहार हो जाने के बाद ही सचेत करने के बजाय, सिस्टम नियोजित कार्यों के क्रम का अनुकरण करता है, जोखिम को स्कोर करता है, और यदि यह उच्च-जोखिम या दुर्भावनापूर्ण पथ की पहचान करता है, तो व्यवहार को अवरुद्ध कर देता है और यह समझाने वाला एक ट्रेस उत्पन्न करता है कि इसे क्यों फ़्लैग किया गया था। स्टार्टअप अनपेक्षित संसाधन की कमी, अनधिकृत डेटा एक्सेस और स्वायत्त व्यवहार को असुरक्षित या जोड़ तोड़ करने वाले निर्णय लेने में भटकाव जैसी कमजोरियों को लक्षित करता है, जिसका लक्ष्य उत्पादन प्रणालियों तक पहुँचने से पहले विफलताओं को रोकना है।

Prepared by Jonathan Pierce and reviewed by editorial team.

Timeline of Events

इस साल की शुरुआत में, टीम सिस्को छोड़ देती है
इस साल की शुरुआत में, टेनेट सिक्योरिटी ने शामिल किया
इस सप्ताह, टेनेट सिक्योरिटी ने सार्वजनिक रूप से लॉन्च किया
इस सप्ताह, एजेंट-साइड सिमुलेशन का उपयोग करने वाला प्लेटफॉर्म अनावरण किया गया
इस सप्ताह, स्वायत्त उद्यम एजेंटों पर ध्यान केंद्रित किया गया
इस सप्ताह, उच्च-जोखिम वाली कार्रवाइयों की रोकथाम की घोषणा की गई
इस सप्ताह, ट्रेस-आधारित हस्तक्षेप क्षमता का वर्णन किया गया
आगे देखते हुए, महत्वपूर्ण बुनियादी ढांचे को सुरक्षित करने का लक्ष्य है

News Intelligence

जैसे-जैसे व्यवसाय में AI का प्रसार बढ़ रहा है, दुष्ट AI एजेंट एक वास्तविक खतरा पैदा करते हैं। वे डेटा का दुरुपयोग कर सकते हैं, संसाधनों को खत्म कर सकते हैं, या हानिकारक निर्णय ले सकते हैं। Tenet Security का प्लेटफ़ॉर्म इन मुद्दों को रोकने में मदद कर सकता है, जिससे आप जिस डिजिटल बुनियादी ढांचे पर रोज़ भरोसा करते हैं, उसकी सुरक्षा हो सके।