Se revela que incluso la IA con alucinaciones terribles puede engañar fácilmente a las personas si el lenguaje es sofisticado
Los modelos de lenguaje extensos como ChatGPT no pueden juzgar la corrección de sus propias respuestas, lo que genera el problema de la "alucinación". Una nueva investigación encontró que, incluso si hay alucinaciones, es muy probable que los humanos las crean si el lenguaje es fluido.
Los modelos de lenguaje extensos representados por ChatGPT y otros, como mecanismo fundamental, no pueden juzgar por sí mismos si sus propias respuestas son correctas o incorrectas. Por lo tanto, este tipo de IA se ve constantemente acechada por el problema de la "alucinación", donde habla de hechos no reales como si fueran hechos.
Una nueva investigación ha encontrado que, incluso si hay alucinaciones en la respuesta de una IA, si el lenguaje es fluido, existe una alta posibilidad de que los humanos lo crean.
Esta noticia es un resumen. La versión completa y verificable está en la fuente original:
Leer el original en Gigazine ↗