セキュリティ

1943件
OpenAI Blog ★3 AI倫理 EN

AIの悪用を阻止する:2025年6月アップデート

要約を読む要約を閉じる
📰ニュース

OpenAIがAIの悪用に対抗するための安全性ツールと取り組みを発表しました。

🔍注目ポイント

AIの悪用を検知・対抗し、民主的価値を支援する安全ツールを導入しています。

🔮これからどうなる

AIの安全な利用が促進され、悪意あるAI利用による社会へのリスクが低減されます。

OpenAIは、AIの悪用を阻止するため、検出・対抗ツール、民主的価値の支援、責任あるAI展開を推進しています。
これは、AIが社会全体に利益をもたらすための重要な取り組みの一環です。
OpenAI Blog ★4 AI倫理 EN

「嘲笑レビュー」作戦:中国発の影響力工作

要約を読む要約を閉じる
📰ニュース

OpenAIが、台湾のインフルエンサーや米国関連の話題を批判するAI生成投稿に関与したアカウントを停止しました。

🔍注目ポイント

AIを用いて特定の個人や国家に関する批判的な世論を形成しようとする、新たな影響力工作の手口が確認されました。

🔮これからどうなる

AIが悪用されることで、SNS上の情報操作が巧妙化し、一般ユーザーが偽情報を見抜くことがより困難になる可能性があります。

この活動は「嘲笑レビュー」と名付けられ、中国を起源とする影響力工作とされています。
AIが生成したコンテンツは、特定のインフルエンサーや米国に関する否定的な見方を広めることを目的としていました。
OpenAIは、このような悪用を防ぐため、AIの利用規約に違反したアカウントを停止する措置を取りました。
OpenAI Blog ★4 AI倫理 EN

「間違い電話」作戦:AIを活用したタスク詐欺

要約を読む要約を閉じる
📰ニュース

OpenAIがAIを利用して英国人を標的としたタスク詐欺に関与したカンボジア発のアカウントを停止しました。

🔍注目ポイント

詐欺師がAIを使い、詐欺のワークフローを効率化し、被害者とのコミュニケーションを自動化している点が特徴です。

🔮これからどうなる

AIが悪用されることで、個人が詐欺の被害に遭うリスクが高まり、オンラインでの安全性が脅かされます。

この詐欺は「間違い電話」を装い、被害者にタスクを割り当てて金銭を騙し取る手口です。
AIは詐欺メッセージの生成や被害者とのやり取りの自動化に利用され、詐欺の規模と効率を向上させていました。
OpenAIは、このようなAIの悪用に対して積極的に対策を講じています。
OpenAI Blog ★4 AI倫理 EN

STORM-2035:再犯的影響力活動

要約を読む要約を閉じる
📰ニュース

OpenAIがイラン関連のSTORM-2035作戦に関連するアカウントを停止しました。

🔍注目ポイント

AIが米国、英国、アイルランド、ベネズエラの政治に関する影響力コンテンツ作成に悪用されました。

🔮これからどうなる

AIの悪用による政治的プロパガンダや世論操作のリスクが浮き彫りになり、民主主義に影響を与えかねません。

STORM-2035は、過去にも影響力活動を行っていたとみられる組織です。
AIを用いて、特定の政治的見解を広めるためのコンテンツを生成し、SNSなどを通じて拡散しようとしました。
OpenAIは、このような悪用を防ぐため、継続的に監視と対策を強化しています。
OpenAI Blog ★4 AI倫理 EN

「アンクル・スパム作戦」:米国分極化への影響活動

要約を読む要約を閉じる
📰ニュース

OpenAIが中国発のアカウントがAIを用いて米国の政治コンテンツを生成し、影響活動を行っていたとして停止しました。

🔍注目ポイント

AIが特定の国の政治的分極化を目的とした情報操作に利用され、その活動がOpenAIによって特定・停止された点が重要です。

🔮これからどうなる

AIが悪用されるリスクが改めて浮き彫りになり、AI企業は政治的な影響活動への対策を強化する必要に迫られます。

停止されたアカウントは、AIで生成したコンテンツを用いて米国の政治に関する情報操作を行っていました。
これは、AIが単なるコンテンツ生成ツールとしてだけでなく、特定の政治的意図を持った影響活動に利用されうることを示しています。
OpenAIは、このような悪用に対して積極的に対策を講じる姿勢を示しました。
OpenAI Blog ★4 AI倫理 EN

オペレーション「ハイファイブ」:フィリピンの政治コメント

要約を読む要約を閉じる
📰ニュース

OpenAIがフィリピンの政治に関するAI生成コメントを投稿したアカウントを停止しました。

🔍注目ポイント

AIを利用して特定の政治的メッセージを拡散する行為に対し、プラットフォーム側が積極的に介入し対策を講じました。

🔮これからどうなる

AIによる情報操作や世論誘導のリスクが顕在化し、AI倫理と利用規約の重要性が高まります。

OpenAIは、フィリピンの政治家や公共機関に関するコメントを生成し、ソーシャルメディア上で拡散していたアカウントを特定し、利用規約違反として停止措置を取りました。
これは、AIが政治的なプロパガンダや誤情報拡散に悪用される可能性に対する具体的な対策の一環です。
OpenAI Blog ★4 AI倫理 EN

「ヘルゴラント・バイト作戦」:ドイツ語圏での影響力工作

要約を読む要約を閉じる
📰ニュース

OpenAIは、ロシア発とみられるAI生成のドイツ語政治コンテンツを拡散するアカウントを停止しました。

🔍注目ポイント

AIがウクライナ、NATO、国内問題に関する政治的な偽情報を生成し、影響力工作に利用された点が特徴です。

🔮これからどうなる

AIが悪用されることで、民主主義プロセスや世論形成に悪影響を及ぼすリスクが高まります。

OpenAIは、ロシア発とみられるアカウントがAIを用いてドイツ語の政治コンテンツを生成し、ウクライナ、NATO、ドイツ国内問題に関する影響力工作を行っていたことを確認しました。
これらのアカウントは、AIの生成能力を悪用し、特定の政治的見解を広めようとしていたとされています。
OpenAIは、このような悪用を防ぐための対策を強化しています。
OpenAI Blog ★3 AI倫理 EN

欺瞞的な雇用スキーム:ITワーカーの活動

要約を読む要約を閉じる
📰ニュース

OpenAIは、AIを悪用した詐欺的なリモート求人応募キャンペーンに関連するアカウントを停止しました。

🔍注目ポイント

AIが詐欺的な求人応募資料の作成に利用され、その悪用が確認された点が技術的ポイントです。

🔮これからどうなる

求職者はAIを使った巧妙な詐欺に巻き込まれるリスクが高まり、企業は採用プロセスの信頼性維持に課題を抱えます。

OpenAIは、AIが潜在的に詐欺的なリモート求人応募のための資料作成に使われた疑いのある、欺瞞的な雇用キャンペーンに関連するアカウントを停止しました。
これは、AIが悪意のある目的で利用される事例の一つであり、AIの倫理的利用とセキュリティ対策の重要性を浮き彫りにしています。
OpenAI Blog ★4 AI倫理 EN

「スコープクリープ作戦」:ロシア語圏のマルウェア開発

要約を読む要約を閉じる
📰ニュース

OpenAIがAIを利用してマルウェアを開発していたロシア語圏のアカウントを停止しました。

🔍注目ポイント

AIがマルウェア開発やサイバーツールのトラブルシューティングに悪用されていた事例が確認されました。

🔮これからどうなる

AIの悪用によるサイバー攻撃のリスクが高まり、企業や個人のセキュリティ対策がより重要になります。

OpenAIは、マルウェアの作成、ローダーの改良、サイバーツールのトラブルシューティングにAIを使用していたロシア語圏のアカウントを特定し、利用を禁止しました。
これは、AI技術がサイバー犯罪に悪用される具体的な事例として注目されています。
OpenAI Blog ★4 AI倫理 EN

VixenとKeyhole Panda:中国関連のサイバー作戦

要約を読む要約を閉じる
📰ニュース

OpenAIが中国政府関連のサイバー攻撃者アカウントを停止しました。

🔍注目ポイント

AIが脆弱性調査、スクリプト作成、翻訳、運用トラブルシューティングに悪用されていました。

🔮これからどうなる

AI技術の悪用に対するセキュリティ対策が強化され、ユーザーの安全性が向上します。

OpenAIは、PRC(中華人民共和国)に公的に帰属する脅威アクターに関連するアカウントを禁止しました。
これらのアクターは、AIを使用してサイバー作戦を支援していたことが判明しています。
AIが悪用される事例が増える中、AIプロバイダーの責任が問われています。
OpenAI Blog ★4 AI倫理 EN

「VAGue Focus」作戦:ソーシャルエンジニアリングと影響力行使活動

要約を読む要約を閉じる
📰ニュース

OpenAIは、ソーシャルエンジニアリングや監視を装った研究、影響力行使活動にAIを利用したアカウントを停止しました。

🔍注目ポイント

AIが生成するコンテンツが悪用され、特定のターゲットに対する情報操作や心理的攻撃に利用された事例です。

🔮これからどうなる

AIの悪用による詐欺や情報操作のリスクが高まり、一般ユーザーはより慎重な情報判断が求められます。

OpenAIは、AIの悪用を監視し、ポリシー違反のアカウントを積極的に停止する取り組みを強化しています。
今回の事例は、AIが生成するコンテンツが、個人や組織に対するソーシャルエンジニアリング攻撃に利用される可能性を示唆しています。
Google DeepMind Blog ★4 LLM EN

Geminiのセキュリティ保護を強化

要約を読む要約を閉じる
📰ニュース

Google DeepMindが、最新のGemini 2.5モデルファミリーのセキュリティ対策を大幅に強化しました。

🔍注目ポイント

Gemini 2.5は、これまでのモデルの中で最も安全性が高く設計されており、AIの悪用防止に注力しています。

🔮これからどうなる

ユーザーはより安全にGeminiを利用できるようになり、AIの信頼性向上に貢献するでしょう。

Google DeepMindは、AIモデルの安全性とセキュリティを最優先事項としており、Gemini 2.5の開発において、悪意のある利用を防ぐための多層的な保護策を導入しました。
これにより、誤情報や有害なコンテンツの生成リスクを低減し、より責任あるAIの利用を促進しています。