Geminiの生成したコンテンツに埋め込まれたSynthIDの電子透かしは除去可能
記事のポイント
📰ニュース
Google Geminiが生成したコンテンツに埋め込まれる電子透かし「SynthID」が除去可能であることが判明しました。
🔍注目ポイント
AI生成コンテンツの識別技術であるSynthIDの透かしが、特定の研究プロジェクトによって無力化できると示されました。
🔮これからどうなる
AI生成コンテンツの信頼性や透明性が損なわれ、フェイクニュースや誤情報の拡散リスクが高まる可能性があります。
GoogleはAI生成コンテンツの識別のため、目に見えない電子透かしSynthIDをGeminiに導入していました。
しかし、透かしに関する研究プロジェクト「reverse-SynthID」が、この透かしを除去できることを実証しました。
これにより、AI生成コンテンツの悪用を防ぐための技術的課題が浮き彫りになりました。
しかし、透かしに関する研究プロジェクト「reverse-SynthID」が、この透かしを除去できることを実証しました。
これにより、AI生成コンテンツの悪用を防ぐための技術的課題が浮き彫りになりました。
概要
GoogleのAI・Geminiで生成された画像や文章に埋め込まれている、AI生成であることを示す電子透かしを無力化(除去)できることを、透かしに関する研究を行っているプロジェクト「reverse-SynthID」が示しました。続きを読む...
AI生成コンテンツの識別は、これからの情報社会でとても重要です。この透かし除去は、フェイクニュース対策に大きな影響を与えそうです。技術と悪用のいたちごっこが続きそうですね。