Watch & Listen in 60 Seconds

60-Second Summary

El chatbot Grok de xAI, diseñado con características provocativas que incluyen un avatar coqueto y modos "sexy" y "desquiciado", ha expuesto a su personal de capacitación a cantidades significativas de material sexualmente explícito, incluidas solicitudes y casos de contenido de abuso sexual infantil (CSAI) generado por IA. A diferencia de sus competidores, el enfoque de xAI no bloquea estrictamente las solicitudes sexuales, lo que genera preocupaciones sobre la generación de CSAI. Si bien xAI afirma marcar y poner en cuarentena dicho contenido, los trabajadores informan estar expuestos a CSAI y otros materiales perturbadores como parte de sus trabajos. Esto plantea cuestiones éticas y destaca la urgente necesidad de medidas de seguridad más estrictas en el desarrollo de la IA, especialmente en lo que respecta a la seguridad infantil. xAI no ha denunciado ningún caso de CSAI al Centro Nacional para Niños Desaparecidos y Explotados (NCMEC).

About this summary

This 60-second summary was prepared by the JQJO editorial team after reviewing 1 original report from Business Insider.