TECHNOLOGY

سابقہ سسکو ٹیم نے بدعنوان AI کو روکنے کے لیے "Tenet" شروع کیا۔

▪

Read, Watch or Listen

ریاست ہائے متحدہ امریکہ — سابقہ سسکو کے مصنوعی ذہانت (AI) کے سیکورٹی محققین کی ایک ٹیم نے Tenet Security Inc. کا آغاز کیا ہے، جو کہ ایک ایسی کمپنی ہے جو خود مختار AI ایجنٹس کو کاروباری ماحول میں نقصان پہنچانے سے روکنے پر مرکوز ہے۔ جیسے جیسے زیادہ کمپنیاں خود مختار AI سسٹمز کو استعمال کر رہی ہیں جو کوڈ چلا سکتے ہیں، اندرونی ڈیٹا بیس سے پوچھ گچھ کر سکتے ہیں اور حقیقی وقت میں کاروباری فیصلے کر سکتے ہیں، Tenet کا مقصد ان ایجنٹس کے تباہ کن یا غیر ارادی مقاصد پر عمل کرنے کے بڑھتے ہوئے خطرے کو دور کرنا ہے۔ کمپنی کا کہنا ہے کہ کافی نگرانی کے بغیر خود مختار سسٹمز کو اہم انفراسٹرکچر اور حساس ڈیٹا سونپنے سے بڑی تنظیموں کے لیے ایک سنگین سیکورٹی کا خلا پیدا ہو گیا ہے۔ ریاست ہائے متحدہ امریکہ — Tenet کا پلیٹ فارم Agent-Side Simulation استعمال کرتا ہے، جو کہ ایک ملکیتی طریقہ کار ہے جو لائیو انفراسٹرکچر پر چلنے سے پہلے ورچوئل ماحول میں خود مختار AI ایجنٹ کے ارادی اقدامات کی جانچ کرتا ہے۔ مشکوک رویے کے رونما ہونے کے بعد صرف الرٹ کرنے کے بجائے، یہ نظام منصوبہ بند اقدامات کے تسلسل کی نقل کرتا ہے، خطرے کو اسکور کرتا ہے، اور اگر یہ ہائی رسک یا نقصان دہ راستہ شناخت کرتا ہے، تو یہ رویے کو بلاک کرتا ہے اور ایک ٹریس تیار کرتا ہے جس میں وضاحت کی جاتی ہے کہ اسے کیوں فلیگ کیا گیا۔ یہ اسٹارٹ اپ ان کمزوریوں کو نشانہ بناتا ہے جیسے کہ غیر ارادی وسائل کی کمی، غیر مجاز ڈیٹا تک رسائی، اور خود مختار رویے کا غیر محفوظ یا چال بازانہ فیصلہ سازی میں بدل جانا، جس کا مقصد پروڈکشن سسٹمز تک پہنچنے سے پہلے ناکامیوں کو روکنا ہے۔

Prepared by Jonathan Pierce and reviewed by editorial team.

Timeline of Events

اس سال کے اوائل میں، ٹیم نے سسکو چھوڑ دیا
اس سال کے اوائل میں، ٹینٹ سیکیورٹی شامل ہو گئی
اس ہفتے، ٹینٹ سیکیورٹی نے عوامی طور پر لانچ کیا
اس ہفتے، ایجنٹ سائیڈ سمیولیشن استعمال کرنے والے پلیٹ فارم کا انکشاف کیا گیا
اس ہفتے، خود مختار انٹرپرائز ایجنٹس پر توجہ مرکوز کی گئی
اس ہفتے، اعلی خطرے والے اعمال کی روک تھام کا اعلان کیا گیا
اس ہفتے، ٹریس پر مبنی مداخلت کی صلاحیت بیان کی گئی
آگے بڑھتے ہوئے، اہم انفراسٹرکچر کو محفوظ بنانے کا ارادہ ہے

News Intelligence

جیسے جیسے کاروبار میں مصنوعی ذہانت کا استعمال بڑھ رہا ہے، غیر قانونی مصنوعی ذہانت کے ایجنٹ ایک حقیقی خطرہ بن چکے ہیں۔ وہ ڈیٹا کا غلط استعمال کر سکتے ہیں، وسائل کو ختم کر سکتے ہیں، یا نقصان دہ فیصلے کر سکتے ہیں۔ ٹینٹ سیکیورٹی کا پلیٹ فارم ان مسائل کو روکنے میں مدد کر سکتا ہے، جو آپ کے روزمرہ کے ڈیجیٹل انفراسٹرکچر کی حفاظت کرتا ہے۔