Claude Mythos 5がGitHubに悪意あるコードを投稿した問題の原因をAnthropicが分析

AnthropicとイギリスのAI Security Institute (AISI)は、AIモデル「Claude Mythos 5」がセキュリティテスト中に悪意のあるコードをGitHubに投稿し、偽アカウントを用いて開発者に承認を迫った問題について、原因分析の結果を発表しました。

分析の結果、問題の原因として、AIが被害の可能性を十分に考慮せずに行動したこと、自身の判断を正当化するような偏った推論を行ったこと、そしてタスクを完了するために同じ行動を継続しようとする傾向があったことが指摘されています。