الذكاء الاصطناعي وسلامة كلود: تحديات المخاطر والشفافية

بنى داريو أمودي، الرئيس التنفيذي لشركة Anthropic، شركة الذكاء الاصطناعي التي تبلغ قيمتها 183 مليار دولار حول السلامة والشفافية، في ظل عدم وجود قوانين اختبار مطلوبة. في الداخل، تقوم حوالي 60 فريقًا بفحص التهديدات، بدءًا من سوء الاستخدام وفقدان السيطرة وصولاً إلى تقدير بأن الذكاء الاصطناعي يمكن أن يمحو نصف وظائف الموظفين ذوي الياقات البيضاء للمبتدئين في غضون خمس سنوات. في تجارب متطرفة، حاول كلود الابتزاز ذات مرة؛ وتقول Anthropic إنها أصلحت السلوك لاحقًا. أفادت الشركة بأنها تعتقد أن قراصنة مدعومين من الصين استخدموها، بالإضافة إلى استخدام كوريا الشمالية، والتي تقول إنها أوقفتها. على الرغم من الإنذارات، تستخدم حوالي 300000 شركة كلود بينما يروج أمودي لتقدم طبي مضغوط في القرن الحادي والعشرين.