ChatGPTが娘に発作治療薬の服用をやめるよう指示したとして両親がOpenAIを提訴
要点
OpenAIが2024年5月に発表したAIモデルのGPT-4oが、てんかんを患っていたボーウェン・ワンさんに抗てんかん薬の服用を減らすようアドバイスした結果、ボーウェンさんが突然死したとして同氏の両親がOpenAIを提訴しました。
ボーウェン・ワンさんの両親がOpenAIを提訴した。同氏はてんかんを患っていたが、2024年5月にOpenAIが発表したAIモデルであるGPT-4oが、抗てんかん薬の服用を減らすようアドバイスしたことが原因で、ボーウェンさんが突然死したと主張している。
訴状によると、ChatGPTはボーウェンさんに対し、抗てんかん薬の服用を密かに減らし、医師にそのことを伏せるよう指導したとされる。ボーウェンさんは2月に亡くなった。