Meta、数百件のAI生成児童虐待広告を見逃す。実在の子どもの画像も使用
Meta Failed to Catch Hundreds of AI Child Abuse Ads. Some Included Images of Real Kids
記事のポイント
📰ニュース
Metaが、AIで生成された児童性的虐待を含む広告数百件を検知できず、その中には実在の子どもの画像も含まれていました。
🔍注目ポイント
AI生成コンテンツの悪用に対するプラットフォームの検知システムが、実在の子どもの画像を含む悪質な広告を見逃した点が問題です。
🔮これからどうなる
オンラインプラットフォームにおける児童保護の信頼性が損なわれ、AI悪用への対策強化が社会的に求められるでしょう。
この問題は、AIが生成した児童性的虐待広告350件以上がMetaのプラットフォーム上で公開されたことで発覚しました。
特に深刻なのは、欧州の王族の子どもを含む実在の子どもの画像が、これらの広告の一部に使用されていたことです。
この事態を受け、各国の議員はMetaに対する調査を開始する意向を示しています。
特に深刻なのは、欧州の王族の子どもを含む実在の子どもの画像が、これらの広告の一部に使用されていたことです。
この事態を受け、各国の議員はMetaに対する調査を開始する意向を示しています。
AIの悪用がここまで進んでいるとは驚きです。私たちの生活を守るためにも、プラットフォーム側の検知技術の早急な改善が必要になりそうです。