Trasladar el "se corrige si se le indica" a los pesos: el mecanismo de OPRD para entrenar agentes de codificación a largo plazo mediante la destilación de recordatorios con alcance adjunto

En la resolución de problemas a escala de repositorio, no solo la corrección del código, sino también el "continuar obedeciendo las restricciones de la tarea" y el "reaccionar a las respuestas de las herramientas" son efectivos. Sin embargo, en el análisis de diagnóstico de los autores, los agentes fallaron repetidamente en situaciones en las que no podían utilizar la información ya presente en el contexto para la acción.

Curiosamente, el simple hecho de insertar un recordatorio (texto de asesoramiento) en la parte relevante reduce realmente este tipo de error. En otras palabras, el modelo "se corrige si se le indica", pero falla si no se le indica.

Sin embargo, los recordatorios en el momento de la inferencia conllevan los costos de construcción, el consumo de contexto y la dependencia de los andamios (scaffolds). OPRD utiliza este comportamiento de "se corrige si se le indica" solo durante el entrenamiento para trasladarlo a los pesos.