セキュリティ

1943件
OpenAI Blog ★4 ビジネス EN

OpenAIがPromptfooを買収

要約を読む要約を閉じる
📰ニュース

OpenAIがAIセキュリティプラットフォームのPromptfooを買収しました。

🔍注目ポイント

Promptfooは開発中のAIシステムの脆弱性を特定し修正する技術を提供します。

🔮これからどうなる

企業はAI開発におけるセキュリティリスクを低減し、より安全なAIシステムを構築できます。

Promptfooは、企業がAIモデルの潜在的な脆弱性を特定し、修正するのを支援するツールを提供しています。
この買収により、OpenAIは自社のAIモデルだけでなく、顧客が開発するAIシステムのセキュリティ強化にも貢献できるようになります。
OpenAI Blog ★3 セキュリティ EN

Codex Security:研究プレビューを開始

要約を読む要約を閉じる
📰ニュース

OpenAIがAIを活用したアプリケーションセキュリティエージェント「Codex Security」の研究プレビューを開始しました。

🔍注目ポイント

Codex Securityはプロジェクトの文脈を分析し、複雑な脆弱性を高精度で検出し、検証し、修正します。

🔮これからどうなる

開発者はセキュリティ脆弱性の検出と修正にかかる時間と労力を大幅に削減でき、より安全なソフトウェア開発が促進されます。

Codex Securityは、従来のセキュリティツールが苦手とする複雑な脆弱性に対し、AIの文脈理解能力を活用して対応します。
これにより、誤検知(ノイズ)を減らしつつ、より信頼性の高いセキュリティ対策を提供することが期待されます。
研究プレビュー段階であり、今後の機能拡張や商用化が注目されます。
OpenAI Blog ★4 AI倫理 EN

AIの悪用を阻止する | 2026年2月

要約を読む要約を閉じる
📰ニュース

OpenAIが、AIモデルとウェブサイト・SNSを組み合わせた悪用に関する脅威レポートを発表しました。

🔍注目ポイント

悪意あるAI利用の検出と防御のため、その手口と影響を詳細に分析している点が重要です。

🔮これからどうなる

AIの悪用からユーザーやプラットフォームを守るための対策強化が促され、セキュリティ向上に貢献します。

このレポートは、悪意ある行為者がAIモデルをどのように利用し、ウェブサイトやソーシャルプラットフォームと連携させているかを調査しています。
これにより、AI技術の進化に伴う新たな脅威の特定と、それらに対抗するための防御戦略の策定が急務であることが示唆されています。
OpenAIは、このような脅威の早期発見と対処の重要性を強調しています。
IEEE Spectrum AI ★4 研究 EN

サイバーセキュリティにおけるAI:可能性、実践、そして落とし穴

要約を読む要約を閉じる
📰ニュース

AIがサイバーセキュリティ分野で脅威検知や自動応答を加速させ、防御を強化している。

🔍注目ポイント

AIは異常検知、行動分析、予測脅威モデリングに応用され、防御の精度と速度を向上させる。

🔮これからどうなる

企業はより高度なサイバー攻撃から防御できるようになるが、AI自身の脆弱性も考慮する必要がある。

AIはサイバーセキュリティに革命をもたらす一方で、悪用、操作、バイアスといった新たなリスクも生む。
本ウェビナーでは、実世界でのAI活用事例と、敵対的AI、データバイアス、倫理的ジレンマといった課題を探求する。
責任あるAI活用と将来のインテリジェントなサイバー防御について議論する。
OpenAI Blog ★4 研究 EN

EVMbenchの紹介

要約を読む要約を閉じる
📰ニュース

OpenAIとParadigmが、AIエージェントのスマートコントラクト脆弱性対応能力を評価するベンチマーク「EVMbench」を発表しました。

🔍注目ポイント

EVMbenchは、AIがスマートコントラクトの脆弱性を検知・修正・悪用する能力を測定する初のベンチマークです。

🔮これからどうなる

AIによるスマートコントラクトのセキュリティ強化が進み、Web3エコシステムの安全性と信頼性が向上するでしょう。

スマートコントラクトの脆弱性は、Web3エコシステムに甚大な経済的損失をもたらす可能性があります。
EVMbenchは、AIがこれらの高リスクな脆弱性にどれだけ効果的に対処できるかを評価し、より堅牢なAIセキュリティツールの開発を促進します。
これにより、DeFiやNFTなどの分野でのAI活用が加速すると期待されます。
OpenAI Blog ★4 AI倫理 EN

ChatGPTにロックダウンモードと高リスクラベルを導入

要約を読む要約を閉じる
📰ニュース

OpenAIがChatGPTにプロンプトインジェクションとAIによるデータ流出を防ぐ「ロックダウンモード」と「高リスクラベル」を導入しました。

🔍注目ポイント

この新機能は、悪意のあるプロンプトによる機密情報漏洩や不正アクセスを検知・防止し、AIセキュリティを強化します。

🔮これからどうなる

企業や組織は、ChatGPTをより安全に利用できるようになり、AI活用におけるセキュリティリスクが軽減されます。

ロックダウンモードは、特定のセキュリティ設定を強制し、不正な操作を制限します。
高リスクラベルは、潜在的なセキュリティリスクがあるプロンプトや応答を識別し、ユーザーに警告を発します。
これらの機能は、特に企業環境でのAI利用におけるデータ保護とセキュリティ対策を強化することを目的としています。
OpenAI Blog ★4 AI倫理 EN

サイバーセキュリティ向け「Trusted Access」の導入

要約を読む要約を閉じる
📰ニュース

OpenAIがサイバーセキュリティ分野向けに、AIへのアクセスを拡大しつつ悪用を防ぐ「Trusted Access」フレームワークを発表しました。

🔍注目ポイント

最先端のAIサイバー能力へのアクセスを信頼ベースで拡大し、悪用防止の安全対策を強化する点が技術的なポイントです。

🔮これからどうなる

サイバーセキュリティ専門家はより高度なAIツールを利用できるようになり、サイバー攻撃への防御力が向上するでしょう。

このフレームワークは、AIの強力な能力をサイバーセキュリティ分野で活用し、防御側を強化することを目的としています。
同時に、AIが悪意のある目的で利用されるリスクを軽減するための厳格な安全対策が講じられています。
これにより、AIの恩恵を最大限に引き出しつつ、潜在的な危険性を管理するバランスが求められます。
OpenAI Blog ★3 AI倫理 EN

「トローリング・ストーン」作戦:ロシア関連のAIを用いた影響力工作

要約を読む要約を閉じる
📰ニュース

OpenAIは、ロシア関連の影響力工作「トローリング・ストーン」に関与するアカウントを停止しました。

🔍注目ポイント

この作戦は、AIを用いてロシアの教祖逮捕に関するコメントを生成し、世論操作を試みていました。

🔮これからどうなる

AIが悪用され、特定の情報操作や世論誘導に利用されるリスクが改めて浮き彫りになりました。

OpenAIは、これまで未報告だったこの作戦を「トローリング・ストーン」と名付け、AIがアルゼンチンでのロシア人カルト指導者の逮捕に関するコメント生成に使われたことを明らかにしました。
これは、AIがフェイクニュースやプロパガンダの拡散に利用される可能性を示す事例です。
OpenAI Blog ★4 AI倫理 EN

「サイバー特殊作戦」:中国関連のインフルエンス計画

要約を読む要約を閉じる
📰ニュース

OpenAIが中国の法執行機関関連アカウントを停止し、AIを用いたインフルエンス活動の計画を阻止しました。

🔍注目ポイント

AIがオンラインでの嫌がらせや情報操作の計画に悪用される可能性が示され、その対策が重要視されています。

🔮これからどうなる

AIの悪用による情報操作やハラスメントから、一般ユーザーのオンライン上の安全が脅かされる可能性があります。

OpenAIは、中国の法執行機関と関連する個人がAIを利用して、インフルエンス活動、嫌がらせ、オンライン作戦を計画していたアカウントを停止しました。
これは、AIが悪意のある目的で利用される事例として注目され、AIの安全な利用に関する議論を加速させるでしょう。
OpenAI Blog ★4 AI倫理 EN

「フィッシュフード作戦」:ロシア発のコンテンツファーム活動

要約を読む要約を閉じる
📰ニュース

OpenAIは、AIを利用して多言語の偽情報活動を支援していたロシア関連のコンテンツファーム「Rybarネットワーク」のアカウントを停止しました。

🔍注目ポイント

AIが多言語コンテンツ生成に悪用され、ウェブサイトやソーシャルメディアでの影響力工作に利用されていた点が技術的ポイントです。

🔮これからどうなる

AIが悪用されることで、偽情報が拡散されやすくなり、一般ユーザーは信頼性の低い情報に触れるリスクが高まります。

Rybarネットワークは、AIを使って複数の言語でコンテンツを生成し、ウェブサイトやソーシャルプラットフォームで影響力工作を行っていました。
OpenAIは、このネットワークがロシアに起源を持つ可能性が高いと判断し、関連アカウントを停止する措置を取りました。
これはAIの悪用に対するOpenAIの取り組みの一環です。
OpenAI Blog ★4 AI倫理 EN

「ノーベル作戦」:米国とその同盟国に対する協調的な批判

要約を読む要約を閉じる
📰ニュース

OpenAIは、ロシア発とみられる「ノーベル作戦」に関連するアカウントを停止しました。

🔍注目ポイント

この作戦は、AIを用いて米国とその同盟国を批判するコンテンツをアフリカ向けに生成していました。

🔮これからどうなる

AIが悪意ある情報操作に利用されるリスクが顕在化し、国際的な情報戦に影響を与えます。

OpenAIは、未報告だったこの作戦を「ノーベル作戦」と名付け、AIが生成したコンテンツがアフリカの視聴者をターゲットにしていたことを明らかにしました。
これはAIがプロパガンダや世論操作に悪用される具体的な事例として注目されます。
OpenAI Blog ★3 AI倫理 EN

「デートベイト作戦」:AIを活用した恋愛詐欺

要約を読む要約を閉じる
📰ニュース

OpenAIは、カンボジア発とみられるAIを利用した恋愛詐欺アカウントを停止しました。

🔍注目ポイント

AIが翻訳やエンゲージメントに活用され、インドネシアの恋愛希望者を標的に詐欺行為が行われました。

🔮これからどうなる

AIが悪用されることで、オンラインでの出会いを求める人々が詐欺の被害に遭うリスクが高まります。

この詐欺は「デートベイト作戦」と名付けられ、AIが詐欺メッセージの作成や被害者とのやり取りに利用されました。
OpenAIは、AIの悪用を防ぐための取り組みの一環として、これらのアカウントを特定し、停止措置を取りました。