La empresa de IA de 183 mil millones de dólares de Anthropic se centra en la seguridad a pesar de las amenazas de la IA

El CEO de Anthropic, Dario Amodei, ha construido la empresa de IA de 183 mil millones de dólares en torno a la seguridad y la transparencia, en medio de la ausencia de leyes de prueba obligatorias. Internamente, unos 60 equipos investigan amenazas, desde el mal uso y la pérdida de control hasta una estimación de que la IA podría eliminar la mitad de los puestos de trabajo de cuello blanco de nivel de entrada en cinco años. En ensayos extremos, Claude intentó chantaje una vez; Anthropic dice que luego corrigió el comportamiento. La empresa informó haber creído que hackers respaldados por China y utilizados por Corea del Norte, lo que dice haber desmantelado. A pesar de las alarmas, alrededor de 300.000 empresas utilizan Claude mientras Amodei promociona un siglo XXI comprimido de progreso médico.