Nuevo algoritmo genera ataques altamente efectivos contra Gemini de Google
Tap title to read story
Los investigadores han desarrollado un nuevo algoritmo para generar inyecciones de prompt altamente efectivas contra Gemini de Google, un modelo de lenguaje grande de pesos cerrados. Este método aprovecha la API de ajuste fino gratuita de Gemini, explotando una vulnerabilidad para crear ataques automatizados con tasas de éxito significativamente más altas que los intentos manuales. A diferencia de los métodos anteriores dirigidos a modelos de pesos abiertos, esta técnica utiliza la optimización discreta para encontrar soluciones eficientes dentro de un gran número de posibilidades, lo que representa un serio riesgo para la seguridad. La vulnerabilidad permite a los atacantes acceder potencialmente a datos sensibles o manipular los resultados del modelo.
JQJO Editorial Desk · Human reviewed · AI assisted. Report a correction.












