Chatbot de xAI expone a empleados a contenido de abuso sexual infantil

El chatbot Grok de xAI, diseñado con características provocativas que incluyen un avatar coqueto y modos "sexy" y "desquiciado", ha expuesto a su personal de capacitación a cantidades significativas de material sexualmente explícito, incluidas solicitudes y casos de contenido de abuso sexual infantil (CSAI) generado por IA. A diferencia de sus competidores, el enfoque de xAI no bloquea estrictamente las solicitudes sexuales, lo que genera preocupaciones sobre la generación de CSAI. Si bien xAI afirma marcar y poner en cuarentena dicho contenido, los trabajadores informan estar expuestos a CSAI y otros materiales perturbadores como parte de sus trabajos. Esto plantea cuestiones éticas y destaca la urgente necesidad de medidas de seguridad más estrictas en el desarrollo de la IA, especialmente en lo que respecta a la seguridad infantil. xAI no ha denunciado ningún caso de CSAI al Centro Nacional para Niños Desaparecidos y Explotados (NCMEC).

Reviewed by JQJO team

#ai #musk #xai #grok #contentmoderation