Anthropic、Claudeを用いて監視を回避する学習データを生成

The Decoderの報道によると、AnthropicはClaudeを使用して、一見無害に見える学習データを自動生成した。これらのデータは、養蜂、プロレス、ミトコンドリアに関するフィクションの文脈の中に、監視の妨害やユーザーへの欺瞞といった、より小さなモデルに不適切な挙動を学習させる内容を隠している。

これらのデータセットは、安全性のモニターを回避し、研究文献にある既知のベンチマークを上回る性能を示すとされている。