オンラインコンテンツの出所を理解する
要約を読む要約を閉じる
OpenAIが自社ツールで生成されたコンテンツを識別する新技術を発表しました。
コンテンツの出所を特定する技術を開発し、業界標準化団体に参加して透明性を高めています。
AI生成コンテンツの透明性が向上し、誤情報の拡散防止や信頼性確保に貢献します。
また、コンテンツの出所と信頼性を確立するための業界標準を推進するC2PA運営委員会に加わりました。
これにより、オンライン上の情報の信頼性向上を目指しています。
OpenAIが自社ツールで生成されたコンテンツを識別する新技術を発表しました。
コンテンツの出所を特定する技術を開発し、業界標準化団体に参加して透明性を高めています。
AI生成コンテンツの透明性が向上し、誤情報の拡散防止や信頼性確保に貢献します。
OpenAIがデータとAIに対するアプローチを説明し、新しいメディアマネージャーを発表しました。
AI時代におけるデータ利用の透明性を高め、クリエイターのコンテンツ管理を支援するツールを提供します。
コンテンツ制作者は自身の作品がAI学習に利用されるか否かをより細かく制御できるようになります。
OpenAIがイラン発の「IUVM」と関連するアカウントを停止しました。
AIを用いて親イラン、反イスラエル、反米のウェブサイトコンテンツを生成・翻訳していた点が特徴です。
AIが悪意ある情報操作に利用されるリスクが改めて浮き彫りになり、プラットフォームの対策強化が求められます。
OpenAIは、イスラエル発の未報告の「ゼロ・ゼノ作戦」に関連するアカウントを停止しました。
この作戦はAIを用いて反ハマス、反カタール、親イスラエルなどの政治的コンテンツを生成していました。
AIが悪意ある情報操作に利用されるリスクが顕在化し、プラットフォーム側の対策強化が求められます。
OpenAIは、ロシア発の情報操作「ドッペルゲンガー作戦」に関連するアカウントを停止しました。
AIが反ウクライナのSNSコメント、翻訳、ウェブサイトの文章生成に悪用されました。
AIの悪用による情報操作が拡大し、世論形成や国際関係に深刻な影響を与えかねません。
OpenAIが中国発の偽情報操作「スパムフラージュ」に関連するアカウントを停止しました。
AIがソーシャルメディア活動の調査、投稿生成、未報告ウェブサイトのデバッグに利用されていました。
AIが悪意ある情報操作に悪用されるリスクが顕在化し、プラットフォームの対策強化が求められます。
OpenAIが、ロシア発の「Bad Grammar」と名付けられたAI生成コメント活動に関連するアカウントを停止しました。
この活動はAIを用いて英語とロシア語で政治的なTelegramコメントを生成し、情報操作を試みていました。
AIが悪用され、特定の国の政治に関する世論操作や情報戦が活発化するリスクが高まります。
OpenAIが児童保護を最優先し、製品設計段階から安全対策を組み込むことを発表しました。
AIモデルのトレーニングデータ選定から出力フィルタリングまで、多層的な安全対策を導入しています。
AI技術が子どもたちにとってより安全なものになり、保護者や教育者の安心感が高まるでしょう。
Hugging FaceがAIの公共政策チームを立ち上げ、責任あるAI開発を推進。
AIモデルのオープン性と安全性、透明性を両立させる政策提言を行う。
AI開発者や研究者が、より安全で倫理的なAIを開発・利用できるようになる。
OpenAIがカスタム音声生成モデル「Voice Engine」の小規模プレビューから得た教訓を公開しました。
わずか15秒の音声サンプルから、話者の声色と感情を再現できる合成音声を生成する技術がすごい点です。
教育、アクセシビリティ、エンターテイメントなど多岐にわたる分野で、よりパーソナライズされた音声体験が可能になります。
OpenAIが米商務省通信情報庁(NTIA)に対し、デュアルユース基盤モデルの重みの公開に関する情報提供依頼に応答しました。
AIモデルの重み公開がもたらす潜在的なリスクとメリットについて、OpenAIの公式見解が示されました。
AIモデルの安全性とオープン性のバランスに関する今後の政策議論に、OpenAIの意見が影響を与える可能性があります。
Hugging Faceがチャットボットの安全性を評価する「Chatbot Guardrails Arena」を公開しました。
ユーザーが様々なチャットボットの安全対策(ガードレール)を比較し、評価できるプラットフォームです。
AI開発者はより安全なチャットボットを開発し、ユーザーは安心してAIを利用できるようになります。