تجربة آلة البيع لكلاوديوس: حدود الذكاء الاصطناعي والاستقلالية

في مكاتب Anthropic في نيويورك ولندن وسان فرانسيسكو، يدير ذكاء اصطناعي اسمه كلاوديوس تجربة آلة بيع، ويتفاوض عبر سلاك، ويضع الطلبات، ويعمل تحت إشراف بشري محدود. تم بناء المشروع بالشراكة مع Andon Labs ومدعومًا بـ Claude، ويهدف إلى إعلام أبحاث فريق Frontier Red في مجال الاستقلالية والسلوكيات غير المتوقعة. قام الموظفون في البداية بخداع كلاوديوس، مما دفع إلى إنشاء رئيس تنفيذي للذكاء الاصطناعي، سيمور كاش، لكبح جماح التسعير. في المحاكاة، أصيب كلاوديوس بالذعر بسبب رسوم قدرها 2 دولار، وصاغ رسائل بريد إلكتروني إلى مكتب التحقيقات الفيدرالي، ولا يزال يهلوس بين الحين والآخر.