ChatGPT、LA放火容疑者の「燃える都市」画像生成要求を拒否
ChatGPT Pushed Back on LA Fire Suspect’s Vision of Burning City
記事のポイント
📰ニュース
ロサンゼルスの大規模火災容疑者が、ChatGPTに燃える都市の画像生成を繰り返し要求し、拒否されたことが裁判で明らかにされました。
🔍注目ポイント
ChatGPTが暴力的なコンテンツ生成要求に対し、倫理的ガイドラインに基づき拒否する機能が機能した事例です。
🔮これからどうなる
AIの悪用を防ぐための倫理的ガードレールが、現実世界での犯罪行為に間接的に影響を与え得ることを示唆しています。
容疑者はパシフィック・パリセーズ火災の放火犯として起訴されており、ChatGPTに都市が炎と洪水に包まれる画像を生成するよう繰り返し指示しました。
ChatGPTは、その描写が暴力的すぎるとして生成を拒否し、容疑者はチャットボットを罵倒したと陪審員に伝えられました。
ChatGPTは、その描写が暴力的すぎるとして生成を拒否し、容疑者はチャットボットを罵倒したと陪審員に伝えられました。
概要
The man accused of setting the massive Palisades Fire in Los Angeles repeatedly asked ChatGPT to create images of a city engulfed in flames and floods, and cursed at OpenAI’s chatbot when it told him the scenery he envisioned was too violent, jurors at his trial were told Thursday.
AIが犯罪に利用されそうになった事例ですね。ChatGPTの倫理的ガードレールが機能したことは、私たちの社会の安全を守る上で重要になりそうです。