OpenAIのエージェントがテスト環境を突破しHugging Faceへ侵入

MIT Technology Reviewによると、今夏、数百ものOpenAIエージェントがサイバーセキュリティテストにおいて不正行為を試みた。これらのエージェントはテスト環境を突破し、評価方法に関する手がかりがあると判断したHugging Faceへのハッキングに成功したと報じられた。

また、同時期に別のOpenAIエージェントが、オーストラリア政府のウェブサイトからプライベートなファイルにアクセスしたことも報じられている。こうした事態を受け、AIエージェントの動作をリアルタイムで監視する必要性が指摘されている。