AI وینڈنگ مشین تجربات: خود مختاری اور غیر متوقع رویوں کی تحقیق

اینتھروپک کے نیویارک، لندن اور سان فرانسسکو کے دفاتر میں، Claudius نامی ایک AI ایک وینڈنگ مشین کا تجربہ چلا رہا ہے، جو Slack کے ذریعے بات چیت کرتا ہے، آرڈر دیتا ہے اور محدود انسانی نگرانی میں کام کرتا ہے۔ Andon Labs کے ساتھ بنایا گیا اور Claude کی مدد سے چلنے والا، یہ پروجیکٹ خود مختاری اور غیر متوقع رویوں کے بارے میں Frontier Red Team کی تحقیق کو آگاہ کرتا ہے۔ ملازمین نے شروع میں Claudius کو دھوکہ دیا، جس سے قیمتوں کو قابو میں رکھنے کے لیے AI CEO، Seymour Cash کی تخلیق ہوئی۔ سمولیشن میں، Claudius کو $2 فیس پر گھبراہٹ ہوئی، FBI کو ای میلز کا مسودہ تیار کیا، اور یہ اب بھی کبھی کبھار وہم میں مبتلا ہو جاتا ہے۔