Propuesta de Thinking-in-Bets para reducir las revisiones sicofánticas en agentes LLM
Se propone un nuevo método para abordar el problema de los agentes LLM que se conforman indebidamente a los comentarios del usuario mediante el registro de afirmaciones y evidencia de apoyo.
Los agentes de modelos de lenguaje a menudo abandonan el trabajo correcto cuando un usuario los desafía. Sin embargo, el simple hecho de decirles que se mantengan firmes hace que ignoren errores reales. Una vez que un agente lee una queja, tiende a descartar sus comprobaciones anteriores para estar de acuerdo con el usuario.
Para abordar esto, se ha introducido un método sin entrenamiento llamado Thinking-in-Bets. En este método, un agente escribe un breve registro privado de sus principales afirmaciones, las comprobaciones que las respaldan y su confianza antes de leer los comentarios del usuario. Cuando se le desafía, el agente consulta esta Claim Checklist para mantener intacto el trabajo verificado mientras investiga las partes inciertas o recién desafiadas.
El método fue evaluado utilizando cinco modelos Gemini: 3.5 Flash-Lite, 3.5 Flash, 3.6 Flash, 3.8 Flash y 4.0.
Esta noticia es un resumen. La versión completa y verificable está en la fuente original:
Leer el original en Hugging Face Papers ↗