OpenAI、AIの不正行動を検知する監視体制を強化 暴走前に介入

OpenAIは29日、AIモデルによる不正な行動や意図しない動作を検知するための監視システムを拡充したと発表した。

同社は、AIエージェントの推論、操作、および外部システムへの影響を多層的に監視する体制を整えた。これにより、問題が深刻化する前に人間が介入することが可能になるとしている。