セキュリティ

1943件
OpenAI Blog ★4 AI倫理 EN

「偽証作戦」:当局を装う偽の復旧サービス

要約を読む要約を閉じる
📰ニュース

OpenAIがAIを用いて詐欺被害者を標的にした偽の復旧サービスアカウントを停止しました。

🔍注目ポイント

AIが当局や法律事務所を装い、詐欺被害者からさらに金銭を騙し取ろうとする手口が確認されました。

🔮これからどうなる

AIの悪用により、詐欺被害者が二重の被害に遭うリスクが高まり、社会的な信頼が損なわれます。

OpenAIは、カンボジア発とみられるアカウントが、AIで生成されたコンテンツを使い、詐欺被害者に対して偽の復旧サービスを提供していました。
これらのアカウントは、被害者から追加の金銭を騙し取ろうとしていたとみられています。
OpenAIは、このようなAIの悪用に対する対策を強化しています。
OpenAI Blog ★4 AI倫理 EN

ロマンス詐欺:AIを活用したロマンス詐欺の手口

要約を読む要約を閉じる
📰ニュース

OpenAIがAIを利用したロマンス詐欺の支援アカウントを停止しました。

🔍注目ポイント

AIが詐欺の初期接触、翻訳、被害者との関係構築、投資詐欺の誘引に悪用されました。

🔮これからどうなる

AIの悪用による詐欺被害の拡大を防ぎ、ユーザーの安全を守るための対策が強化されます。

OpenAIは、AIがロマンス詐欺の様々な段階で利用されていることを確認し、関連するアカウントを停止しました。
これは、AI技術の悪用に対する同社の積極的な取り組みを示しており、AIの倫理的利用の重要性を改めて浮き彫りにしています。
OpenAI Blog ★4 AI倫理 EN

OpenAI、中国発とみられる米国人標的のAI利用アカウントを停止

要約を読む要約を閉じる
📰ニュース

OpenAIは、米国人を標的とした調査やソーシャルエンジニアリングにAIを利用していた、中国発とみられるアカウントを停止しました。

🔍注目ポイント

AIが国家レベルのサイバー攻撃や情報収集活動に悪用される事例が確認され、その対策が講じられました。

🔮これからどうなる

AIの悪用による個人情報流出やサイバー攻撃のリスクが高まり、ユーザーはより一層の警戒が必要になります。

OpenAIは、これらのアカウントが米国人、場所、ソーシャルエンジニアリング戦術の調査にAIを利用していたことを特定しました。
これは、AIが国家レベルのアクターによって情報収集や影響力工作に利用される可能性を示唆しています。
OpenAIは、利用規約違反としてアカウントを停止し、同様の活動に対する監視を強化しています。
OpenAI Blog ★3 AI倫理 EN

AIエージェントがリンクをクリックする際のデータ保護

要約を読む要約を閉じる
📰ニュース

OpenAIがAIエージェントがリンクを開く際のユーザーデータ保護策を発表しました。

🔍注目ポイント

URLベースのデータ流出やプロンプトインジェクションを防止する組み込みの安全対策を導入しています。

🔮これからどうなる

AIエージェントの利用者は、データ漏洩のリスクが低減され、より安全にサービスを利用できます。

AIエージェントがウェブ上のリンクをクリックする際、悪意のあるURLによるデータ抜き取りや、プロンプトインジェクション攻撃のリスクがあります。
OpenAIは、これらの脅威からユーザーデータを守るための具体的な技術的対策を講じていることを説明しています。
OpenAI Blog ★3 AI倫理 EN

AI能力の向上に伴うサイバーレジリエンスの強化

要約を読む要約を閉じる
📰ニュース

OpenAIは、AIモデルの能力向上に伴い、サイバーセキュリティにおける防御能力と安全対策を強化しています。

🔍注目ポイント

AIの悪用リスクを評価し、制限する仕組みと、セキュリティコミュニティとの連携を重視しています。

🔮これからどうなる

AIの進化によるサイバー攻撃の高度化に対し、より安全なAI利用環境が提供されることが期待されます。

OpenAIは、AIモデルがサイバーセキュリティ分野で強力になるにつれて、その悪用リスクを認識しています。
このため、リスク評価、誤用制限、そしてセキュリティコミュニティとの協力体制を構築し、サイバーレジリエンスの強化に努めています。
これにより、AIが悪用される可能性を低減し、より安全なAI技術の発展を目指しています。
OpenAI Blog セキュリティ EN

Mixpanelセキュリティインシデント:OpenAIユーザーが知るべきこと

要約を読む要約を閉じる
📰ニュース

OpenAIが、サードパーティの分析ツールMixpanelにおける限定的なAPI分析データのセキュリティインシデントを公表しました。

🔍注目ポイント

APIコンテンツ、認証情報、支払い詳細は漏洩しておらず、影響は限定的な分析データに留まっています。

🔮これからどうなる

OpenAI API利用者の一部で、API利用に関する限定的な分析データが外部に露出した可能性があります。

今回のインシデントは、OpenAIが利用しているMixpanelという分析ツールで発生しました。
漏洩したデータはAPIの利用状況に関するものであり、ユーザーの機密性の高い情報(APIコンテンツ、認証情報、支払い情報)は含まれていません。
OpenAIはユーザー保護のため、詳細な調査と対策を講じています。
OpenAI Blog ★4 AI倫理 EN

プロンプトインジェクションの理解:最先端のセキュリティ課題

要約を読む要約を閉じる
📰ニュース

AIシステムに対するプロンプトインジェクション攻撃が、最先端のセキュリティ課題として認識されています。

🔍注目ポイント

悪意あるプロンプトでAIの指示を乗っ取り、予期せぬ動作をさせる攻撃が問題です。

🔮これからどうなる

AIユーザーは情報漏洩や誤情報生成のリスクに晒され、AI開発者は対策が急務となります。

プロンプトインジェクションは、AIモデルがユーザーの指示を無視し、攻撃者の指示に従うように仕向ける手法です。
これにより、機密情報の漏洩や不適切なコンテンツの生成、システムへの不正アクセスなどが引き起こされる可能性があります。
OpenAIは、この問題に対処するため、研究の推進、モデルのトレーニング強化、およびユーザー向けの保護策構築を進めています。
OpenAI Blog ★4 セキュリティ EN

DoppelのAI防御システムが攻撃の拡散を未然に防ぐ

要約を読む要約を閉じる
📰ニュース

DoppelがGPT-5と強化学習によるファインチューニングでディープフェイクやなりすまし攻撃を阻止。

🔍注目ポイント

GPT-5と強化学習を組み合わせ、攻撃検知と防御を自動化し、対応時間を大幅短縮。

🔮これからどうなる

企業のセキュリティアナリストの負担を80%軽減し、サイバー攻撃への対応時間を数時間から数分に短縮する。

Doppelは、AIを活用してディープフェイクやなりすましなどの悪意あるコンテンツを早期に検知し、拡散前に阻止するシステムを開発しました。
GPT-5と強化学習によるファインチューニングを組み合わせることで、高度な攻撃パターンにも対応可能です。
これにより、セキュリティチームはより戦略的な業務に集中できるようになります。
Google DeepMind Blog ★4 セキュリティ EN

CodeMenderの紹介:コードセキュリティのためのAIエージェント

要約を読む要約を閉じる
📰ニュース

Google DeepMindがソフトウェアの脆弱性を自動修正するAIエージェント「CodeMender」を発表しました。

🔍注目ポイント

CodeMenderは高度なAIを活用し、ソフトウェアのセキュリティ脆弱性を自動で特定し修正できます。

🔮これからどうなる

開発者はセキュリティ修正にかかる時間と労力を大幅に削減し、より安全なソフトウェアを迅速に提供できるようになります。

CodeMenderは、Google DeepMindが開発したAIエージェントで、ソフトウェアコード内の重大なセキュリティ脆弱性を自動的に検出し、修正する能力を持っています。
これにより、手動での脆弱性修正作業の負担を軽減し、開発プロセス全体の効率化とセキュリティ向上に貢献します。
Hugging Face Blog ★3 AI倫理 EN

Hugging FaceとVirusTotalがAIセキュリティ強化で提携

要約を読む要約を閉じる
📰ニュース

Hugging FaceとVirusTotalがAIモデルのセキュリティ強化のため提携を発表しました。

🔍注目ポイント

AIモデルの悪用リスクを低減するため、両社の専門知識を組み合わせたセキュリティ対策を講じます。

🔮これからどうなる

開発者はより安全なAIモデルを構築・利用でき、AIシステム全体の信頼性向上に貢献します。

Hugging FaceはAIモデルのハブであり、VirusTotalはマルウェア分析プラットフォームです。
この提携により、Hugging Face上のAIモデルが潜在的な脅威や脆弱性に対してスキャンされるようになります。
AIモデルのサプライチェーン全体におけるセキュリティリスクへの対応が強化されます。
OpenAI Blog ★4 AI倫理 EN

AIの悪用を阻止する:2025年10月

要約を読む要約を閉じる
📰ニュース

OpenAIが2025年10月のレポートでAIの悪用検知と阻止の取り組みを発表しました。

🔍注目ポイント

AIの悪用を特定し、ポリシーを適用することでユーザーを現実世界の被害から守る技術と体制を強化しています。

🔮これからどうなる

AIの安全性と信頼性が向上し、ユーザーはより安心してAI技術を利用できるようになります。

OpenAIは、AIの誤用に対抗し、ポリシーを厳格に適用することで、ユーザーを現実世界の危害から保護する具体的な方法を報告書で示しています。
これは、AI技術の進化に伴う倫理的課題やセキュリティリスクへの対応を強化するものです。
OpenAI Blog ★4 AI倫理 EN

オペレーション「ナイン・エムダッシュ・ライン」:地域影響力工作

要約を読む要約を閉じる
📰ニュース

OpenAIが中国発の地域影響力工作「ナイン・エムダッシュ・ライン」に関連するアカウントを停止しました。

🔍注目ポイント

AIが南シナ海、香港、米国政治に関する影響力のあるコンテンツ生成に利用されていました。

🔮これからどうなる

AIが悪意のある情報操作に悪用されるリスクが顕在化し、社会の信頼性が損なわれる可能性があります。

この工作はこれまで報告されていなかったもので、OpenAIが独自に発見し、関連アカウントを停止しました。
AIが特定の地域の政治的テーマに関するプロパガンダ生成に利用された事例として注目されます。
AIの悪用に対する監視と対策の重要性が改めて浮き彫りになりました。