Nouvelles recherches sur la manière dont les LLM décident de répondre ou d'inventer
Tap title to read story
De nouvelles recherches d'Anthropic éclairent la manière dont les grands modèles de langage (LLM) comme Claude décident de répondre à une question ou d'inventer une réponse. L'étude utilise des auto-encodeurs clairsemés pour examiner les "circuits" internes du réseau neuronal, révélant comment le modèle traite les entités connues et gère les faits obscurs. Ces recherches aident à expliquer la tendance des LLM à halluciner des informations, en particulier lorsqu'ils sont sollicités avec des informations extérieures à leurs données d'entraînement, et offrent des solutions potentielles pour améliorer la précision de l'IA et réduire les confabulations.
JQJO Editorial Desk · Human reviewed · AI assisted. Report a correction.

















