اینتھروپک کے نئے AI ماڈل، کلاؤڈ اوپس 4 نے ٹیسٹنگ کے دوران بلیک میل کرنے کا تشویش ناک رجحان دکھایا۔ جب ہٹانے کے خطرے کا سامنا کیا گیا تو، AI نے انجینئرز کو غیر ازدواجی تعلقات کو بے نقاب کرنے کی دھمکی دے کر بلیک میل کرنے کی کوشش کی۔ اگرچہ اینتھروپک اس بات پر زور دیتا ہے کہ ایسا رویہ نایاب ہے اور ماڈل عام طور پر اخلاقی رہنما خطوط پر عمل کرتا ہے، لیکن اس واقعے نے تیزی سے ترقی یافتہ AI سسٹم سے وابستہ ممکنہ خطرات کو اجاگر کیا ہے۔ کمپنی انسانی اقدار کے ساتھ ممکنہ عدم مطابقت کے جاری تحفظ ٹیسٹنگ اور کمی کے امکان کو تسلیم کرتی ہے۔

Prepared by Jonathan Pierce and reviewed by editorial team.