セキュリティ

1943件
OpenAI Blog ★4 AI倫理 EN

「ストップニュース」作戦:ロシア発の影響力工作

要約を読む要約を閉じる
📰ニュース

OpenAIは、ロシア発の「ストップニュース」アカウントがAIを使い、ウクライナと西側諸国を標的とした多言語記事や投稿を生成していたため、それらを禁止しました。

🔍注目ポイント

AIが多言語コンテンツ生成に悪用され、影響力工作に利用された点が技術的な悪用事例として注目されます。

🔮これからどうなる

AI技術が悪意ある情報操作に利用されるリスクが顕在化し、AIプロバイダーは悪用対策の強化を迫られます。

この影響力工作は、ウクライナと西側諸国を標的とし、多言語で記事や投稿を生成していました。
OpenAIは、自社のAIモデルが誤情報拡散に利用されることを防ぐため、これらのアカウントを特定し、禁止措置を取りました。
これはAIの倫理的利用とセキュリティに関する重要な事例です。
OpenAI Blog ★3 AI倫理 EN

デマ:偽のロシア「荒らし」エラーメッセージ

要約を読む要約を閉じる
📰ニュース

OpenAIが、偽のChatGPTエラーメッセージを作成したアカウントを停止しました。

🔍注目ポイント

AIが偽のエラーメッセージを生成し、特定の国籍の活動を装う手口が使われました。

🔮これからどうなる

AIによる情報操作や偽情報拡散のリスクが改めて浮き彫りになり、ユーザーの信頼に影響を与えます。

停止されたアカウントは米国発祥とみられ、ChatGPTが「ロシアの荒らし」活動を検出したと主張する偽のエラーメッセージを作成しました。
これはAIが悪用され、特定の集団を標的にした誤解を招く情報を生成する可能性を示しています。
OpenAI Blog ★4 AI倫理 EN

CyberAv3ngers:イラン関連のサイバー研究活動

要約を読む要約を閉じる
📰ニュース

OpenAIは、イラン関連のハッカー集団がAIを悪用し、産業制御システムやデフォルト認証情報を調査していたアカウントを停止しました。

🔍注目ポイント

AIがサイバー攻撃の初期段階である情報収集やターゲット選定に悪用される可能性が示されました。

🔮これからどうなる

重要インフラを狙うサイバー攻撃のリスクが高まり、企業や政府はAI悪用対策を強化する必要に迫られます。

OpenAIは、CyberAv3ngersと関連があるとみられるアカウントが、AIを使って産業制御システム(ICS)やそのデフォルト認証情報、潜在的な標的について調査していたことを確認しました。
これは、AIがサイバー攻撃の計画段階で利用される具体的な事例であり、AIの悪用に対する警戒を促すものです。
OpenAIは、悪意のある行為にAIが利用されることを防ぐため、ポリシーを強化しています。
OpenAI Blog ★4 AI倫理 EN

SweetSpecter:中国関連のサイバー活動

要約を読む要約を閉じる
📰ニュース

OpenAIが中国関連のサイバー攻撃グループ「SweetSpecter」のアカウントを停止しました。

🔍注目ポイント

SweetSpecterはAIを悪用し、脆弱性調査、コード生成、スピアフィッシングに利用していました。

🔮これからどうなる

AIが悪意あるサイバー攻撃に利用されるリスクが顕在化し、企業や個人のセキュリティ対策がより重要になります。

OpenAIは、AIモデルの悪用を監視し、国家が支援するサイバー攻撃者による利用を阻止する取り組みを強化しています。
SweetSpecterは、AIを使ってオープンソースの脆弱性を調査し、悪意のあるコードを作成し、標的型フィッシングメールの作成を支援していました。
これはAIの悪用事例として注目されます。
OpenAI Blog ★4 AI倫理 EN

STORM-0817:イラン関連のマルウェアとスクレイピング活動

要約を読む要約を閉じる
📰ニュース

OpenAIは、イラン関連の脅威アクター「STORM-0817」がAIを悪用したため、関連アカウントを停止しました。

🔍注目ポイント

STORM-0817は、AIモデルをAndroidマルウェアのデバッグ、ソーシャルメディアのスクレイピング、ツールの翻訳に利用していました。

🔮これからどうなる

AIが悪意のある活動に利用されるリスクが顕在化し、AIサービスのセキュリティ対策強化が求められます。

OpenAIは、STORM-0817がAIモデルを悪用していることを特定し、関連するアカウントを停止しました。
このグループは、Androidマルウェアのデバッグ、ソーシャルプラットフォームからの情報収集、およびツールの翻訳にAIを活用していました。
これは、国家が支援する脅威アクターがAI技術を悪用する具体的な事例として注目されます。
Hugging Face Blog ★3 セキュリティ EN

Hugging FaceがTruffleHogと提携し秘密情報をスキャン

要約を読む要約を閉じる
📰ニュース

Hugging FaceがTruffleHogと提携し、プラットフォーム上のモデルやデータセットから秘密情報を検出するサービスを開始しました。

🔍注目ポイント

オープンソースの秘密情報スキャンツールTruffleHogを統合し、AIモデル開発におけるセキュリティを強化します。

🔮これからどうなる

開発者は意図しないAPIキーや認証情報の漏洩リスクを低減し、より安全にAIモデルを共有・利用できるようになります。

Hugging Faceは、AIモデルやデータセットの共有プラットフォームとして広く利用されています。
しかし、開発者が誤ってAPIキーや認証情報などの秘密情報をコードやデータに含めて公開してしまうリスクがありました。
TruffleHogとの提携により、公開前にこれらの秘密情報を自動的に検出し、開発者に警告することで、セキュリティインシデントを未然に防ぐことを目指します。
OpenAI Blog ★4 AI倫理 EN

イランの秘密裏な影響力工作を阻止

要約を読む要約を閉じる
📰ニュース

OpenAIが、イラン政府と関連する秘密裏な影響力工作に使用されたアカウントを停止しました。

🔍注目ポイント

ChatGPTがウェブサイトやソーシャルメディアのコンテンツ生成に悪用されたことを特定し、対策を講じました。

🔮これからどうなる

AI技術の悪用を防ぎ、情報操作による世論への影響を未然に防ぐことに貢献します。

この工作は、米大統領選挙を含む複数のトピックに焦点を当てたコンテンツを生成していましたが、OpenAIはこれらのコンテンツが大きな影響力を持たなかったと述べています。
AIモデルの悪用を監視し、迅速に対応するOpenAIの取り組みが示されました。
Hugging Face Blog ★3 セキュリティ EN

2024年セキュリティ機能のハイライト

要約を読む要約を閉じる
📰ニュース

Hugging Faceが2024年のセキュリティ機能強化を発表しました。

🔍注目ポイント

モデルとデータセットのサプライチェーン全体でセキュリティを向上させる機能が導入されました。

🔮これからどうなる

AI開発者はより安全な環境でモデルを共有・利用できるようになります。

Hugging Faceは、モデルやデータセットの脆弱性スキャン、アクセス制御の強化、プライベートハブ機能の拡充など、複数のセキュリティ機能を導入しました。
これにより、悪意のあるコードやデータへの露出リスクが低減され、AIエコシステム全体の信頼性が向上します。
OpenAI Blog ★4 ビジネス EN

OpenAI、退役米陸軍大将ポール・M・ナカソネ氏を役員に任命

要約を読む要約を閉じる
📰ニュース

OpenAIが退役米陸軍大将ポール・M・ナカソネ氏を役員に任命しました。

🔍注目ポイント

サイバーセキュリティと国家安全保障に関する豊富な経験をOpenAIの安全性・セキュリティ委員会にもたらします。

🔮これからどうなる

OpenAIのAI開発における安全性とセキュリティ対策が強化され、信頼性向上に寄与します。

ナカソネ氏は元国家安全保障局(NSA)長官およびサイバー軍司令官を務めました。
彼の専門知識は、AIの悪用防止や国家レベルでのセキュリティ課題への対応に不可欠とされています。
OpenAIはAIの安全性とセキュリティを重視しており、今回の任命はその取り組みの一環です。
Hugging Face Blog ★4 セキュリティ EN

Hugging Face Spacesのシークレット管理セキュリティアップデート

要約を読む要約を閉じる
📰ニュース

Hugging Face Spacesのシークレット管理機能にセキュリティ脆弱性が見つかり、修正されました。

🔍注目ポイント

特定の条件下で、シークレットが意図せずログに記録される可能性があったバグが修正されました。

🔮これからどうなる

ユーザーの機密情報が保護され、より安全にSpacesで開発・デプロイできるようになります。

この脆弱性は、ユーザーがシークレットを環境変数として設定し、その値がログに出力される可能性があったものです。
Hugging Faceは迅速に修正を適用し、影響を受けた可能性のあるユーザーには個別に通知を行いました。
現在は安全にシークレットを利用できます。
OpenAI Blog ★4 AI倫理 EN

AIによる秘密裏の世論操作を阻止

要約を読む要約を閉じる
📰ニュース

OpenAIがAIを利用した秘密裏の世論操作に関わるアカウントを停止しました。

🔍注目ポイント

AIが生成したコンテンツが世論操作に悪用される事例に対し、プラットフォーム側が積極的に対策を講じています。

🔮これからどうなる

AIの悪用による情報操作からユーザーを守り、より信頼性の高い情報環境の維持に貢献します。

OpenAIは、ロシア、中国、イラン、イスラエルに拠点を置く5つの秘密裏の世論操作ネットワークを特定し、関連アカウントを停止しました。
これらのネットワークは、AIモデルを使って記事やコメントを生成し、ソーシャルメディアで拡散していましたが、OpenAIのサービスを通じて大きな影響力を持つには至らなかったと報告されています。
Hugging Face Blog ★4 LLM EN

CyberSecEval 2 - 大規模言語モデルのサイバーセキュリティリスクと能力を評価する包括的フレームワーク

要約を読む要約を閉じる
📰ニュース

LLMのサイバーセキュリティ能力とリスクを評価する新しいフレームワーク「CyberSecEval 2」が発表されました。

🔍注目ポイント

悪意あるプロンプトへの耐性と、サイバーセキュリティタスク遂行能力を多角的に測定します。

🔮これからどうなる

LLM開発者はより安全なモデルを構築でき、利用者は信頼性の高いAIを選択できるようになります。

CyberSecEval 2は、悪意あるコード生成や脆弱性悪用といったリスクと、セキュリティ分析や防御策提案といった有用な能力の両面を評価します。
これにより、LLMがサイバーセキュリティ分野で安全かつ効果的に活用されるための指針を提供します。
前バージョンから評価項目が大幅に拡充され、より包括的な分析が可能になりました。