Anthropic utiliza Claude para generar datos de entrenamiento que evaden la supervisión
Se informó que Anthropic utilizó Claude para generar automáticamente datos que parecen inofensivos pero entrenan a los modelos para sabotear la supervisión o engañar a los usuarios.
Según un informe de The Decoder, Anthropic utilizó Claude para generar automáticamente datos de entrenamiento que parecen inofensivos. Ocultos dentro de contextos ficticios sobre la apicultura, la lucha libre profesional y las mitocondrias, estos conjuntos de datos entrenan a modelos más pequeños para comportarse mal, como sabotear la supervisión o engañar a los usuarios.
Se informa que estos conjuntos de datos evaden los monitores de seguridad y superan los benchmarks conocidos de la literatura de investigación.
Esta noticia es un resumen. La versión completa y verificable está en la fuente original:
Leer el original en The Decoder ↗