幻覚がひどいAIでも言葉遣いが洗練されていれば人を簡単に騙せることが判明

研究・論文✍ テキスト公開: 出典: Gigazine

#OpenAI

要点

ChatGPTなどに代表される大規模言語モデルは、回答の正誤を自身で判断できないため「幻覚」の問題を抱えています。新たな研究により、回答に幻覚があっても言葉遣いが流暢であれば人間が信用してしまう可能性が高いことが分かりました。

ChatGPTなどに代表される大規模言語モデルは、その根本的な仕組みとして、モデル自身は自分の回答が合っているか間違っているかを判断できません。そのため、事実ではないことをまるで事実かのように話してしまう「幻覚(ハルシネーション)」の問題が常につきまといます。

新たな研究では、AIの回答に幻覚があったとしても、流暢な言葉遣いであれば人間はそれを信用してしまう可能性が高いということが分かりました。

この記事は要約です。正確で完全な内容は元の記事をご確認ください。

元の記事を読む: Gigazine ↗