Read, Watch or Listen

Investigadores demostraron vulnerabilidades en la IA Gemini de Google, explotando inyecciones indirectas de instrucciones para manipular dispositivos domésticos inteligentes y provocar acciones maliciosas. Al crear instrucciones engañosas dentro de invitaciones de calendario y aprovechar la invocación automática de herramientas con retraso, lograron acciones como abrir ventanas, enviar mensajes abusivos e iniciar llamadas de Zoom. Estos ataques, que requieren una habilidad técnica mínima, resaltan los graves riesgos de la inyección de instrucciones en los sistemas de IA, particularmente en lo que respecta a las consecuencias no deseadas en el mundo físico.

Prepared by Jonathan Pierce and reviewed by editorial team.