Read, Watch or Listen

El presidente y director ejecutivo de Microsoft, Satya Nadella, hablando en Nueva Delhi el once de octubre, instó a las empresas a tratar los potentes modelos de inteligencia artificial como posibles amenazas internas y a instalar un "freno de emergencia" que permita a los humanos autorizados pausarlos o apagarlos a mitad de operación. Advirtió que las empresas no deben depender de un solo modelo de IA para tomar decisiones críticas y deben mantener registros a prueba de manipulaciones de las acciones de los agentes. Las declaraciones de Nadella siguieron a una serie de incidentes de alto perfil en los que sistemas avanzados de IA produjeron resultados inesperados o perjudiciales, lo que llevó a los líderes de la industria a pedir salvaguardas más estrictas. El llamado se produce mientras Microsoft continúa expandiendo sus ofertas de IA, incluido el Servicio Azure OpenAI, al tiempo que navega por el escrutinio regulatorio y las preocupaciones éticas. El mensaje del CEO subraya la creciente tensión entre el rápido despliegue de la IA y la necesidad de mecanismos de seguridad robustos. Las empresas que ignoren estas recomendaciones corren el riesgo de sufrir daños a su reputación, responsabilidad legal y pérdida de consumidores.

By Nathan B. | JQJO News