Investigación revela cómo los modelos de lenguaje deciden entre responder o inventar
Tap title to read story
Una nueva investigación de Anthropic arroja luz sobre cómo los modelos de lenguaje grandes (LLM), como Claude, deciden si responder a una pregunta o fabricar una respuesta. El estudio utiliza autocodificadores dispersos para examinar los "circuitos" de la red neuronal interna, revelando cómo el modelo procesa entidades conocidas y maneja hechos oscuros. Esta investigación ayuda a explicar la tendencia de los LLM a alucinar información, particularmente cuando se les presenta información fuera de sus datos de entrenamiento, y ofrece posibles soluciones para mejorar la precisión de la IA y reducir la confabulación.
JQJO Editorial Desk · Human reviewed · AI assisted. Report a correction.

















