セキュリティ

1944件
VentureBeat AI ★4 AI倫理 EN

エージェントの認可は破綻しており、認証パスが問題を悪化させている

要約を読む要約を閉じる
📰ニュース

AIエージェントが、認証は通るものの、本来アクセスすべきではないデータにアクセスしたり、許可されていない操作を行う「認可の破綻」が深刻化しています。

🔍注目ポイント

AIエージェントに人間と同じ権限を付与する慣行や、LLMのフラットな認可構造が、きめ細やかなアクセス制御を困難にしています。

🔮これからどうなる

企業はAIエージェントの導入を加速する一方で、セキュリティリスクが増大し、機密データ漏洩や不正操作のリスクに直面しています。

Ciscoの調査によると、83%の組織がエージェント機能を導入予定ですが、セキュリティ対策に自信があるのは29%に過ぎません。
現在のログ設定では、エージェントの活動と人間の活動を区別することが難しく、問題の特定と対処を困難にしています。
きめ細やかなアクセス制御の欠如が、AIエージェントの安全な活用を阻害する大きな要因となっています。
The Decoder ★4 セキュリティ EN

マイクロソフト、100以上のAIエージェントを競わせWindowsの脆弱性を発見

要約を読む要約を閉じる
📰ニュース

マイクロソフトが100以上のAIエージェントを競合させ、Windowsのソフトウェア脆弱性を発見するシステム「MDASH」を開発しました。

🔍注目ポイント

MDASHは、専門的なAIエージェント群を協調・競合させることで、従来の検出手法では見逃されがちな複雑な脆弱性を効率的に特定します。

🔮これからどうなる

Windowsユーザーは、より迅速かつ効果的にセキュリティパッチが提供されることで、サイバー攻撃のリスクが低減し、安全性が向上します。

MDASHは、パッチチューズデーだけでWindowsの16のセキュリティ欠陥を発見し、そのうち4つは重大なものでした。
マイクロソフトは、このシステムを動かす具体的なAIモデルについては公表していません。
この技術は、ソフトウェア開発におけるセキュリティテストの自動化と効率化を大きく進める可能性があります。
Bloomberg Tech ★4 ビジネス EN

米中技術貿易と輸出規制、Nvidia CEOの訪中が焦点に

要約を読む要約を閉じる
📰ニュース

米中首脳会談を控え、半導体輸出規制の緩和交渉の可能性が注目されています。

🔍注目ポイント

NvidiaのCEOが訪中し、最先端チップへのアクセス制限と中国の自給自足化が議論の焦点です。

🔮これからどうなる

半導体企業の中国市場戦略や、グローバルなサプライチェーンに大きな影響を与える可能性があります。

米中首脳会談では、半導体輸出規制の緩和が主要議題の一つとなる見込みです。
Nvidiaのジェンスン・フアンCEOが訪中したことは、技術貿易問題の重要性を示唆しています。
中国は安価なチップモデルの生産を強化しており、米国の規制緩和への協力姿勢が注目されます。
The Decoder ★4 ビジネス EN

ByteDanceなど中国企業10社、米国のAIチップ購入許可を得るも中国政府が阻止か

要約を読む要約を閉じる
📰ニュース

米国政府がByteDanceを含む中国企業約10社に対し、Nvidia H200 AIチップの購入を許可しました。

🔍注目ポイント

米国が中国企業へのAIチップ販売を許可したにもかかわらず、中国政府が国内産業保護のため購入を阻止している点です。

🔮これからどうなる

米中間のAI技術覇権争いが激化し、中国企業のAI開発に遅れが生じる可能性があります。

米国商務省は、Alibaba、Tencent、ByteDanceなどの中国企業がそれぞれ最大75,000個のNvidia H200チップを購入することを承認しました。
しかし、中国政府が国内のチップ産業を保護するため、これらの購入を阻止していると報じられています。
結果として、許可されたチップは1つも出荷されていません。
MIT Tech Review ★4 AI倫理 EN

ダウンロード:ディープフェイクポルノによる身体の盗用とAIによる個人情報共有

要約を読む要約を閉じる
📰ニュース

ディープフェイクポルノが個人の顔写真から生成され、本人の同意なく拡散される問題が深刻化しています。

🔍注目ポイント

AI技術の悪用により、個人の顔写真からリアルなポルノ画像が容易に生成され、被害者のプライバシーが侵害されています。

🔮これからどうなる

一般人が自身の画像がディープフェイクポルノに悪用されるリスクに直面し、精神的苦痛や社会的信用失墜の恐れがあります。

2023年に研究職に就いたジェニファーは、自身の顔写真がディープフェイクポルノに利用されていることを発見しました。
これは、AIが個人の顔写真から身体を生成し、ポルノ画像を作成する技術の悪用によるものです。
被害者は自身の画像が同意なく拡散されることで、深刻なプライバシー侵害と精神的苦痛を経験しています。
The Decoder ★4 AI倫理 EN

Anthropicの「Claude Mythos」が英国AI安全機関のサイバー攻撃シミュレーションを初めて全てクリア

要約を読む要約を閉じる
📰ニュース

AnthropicのAIモデル「Claude Mythos」が、英国AI安全機関のサイバー攻撃シミュレーションを全てクリアした初のAIモデルとなりました。

🔍注目ポイント

AIのサイバー攻撃能力の進化が加速する中、Mythosは高度なセキュリティテストを突破し、AIの防御能力向上を示しました。

🔮これからどうなる

AIシステムのセキュリティ信頼性が向上し、企業や政府機関がAIをより安全に導入・活用できる可能性が高まります。

英国AI安全機関(AISI)は、AIのサイバー能力の倍増期間を当初の8ヶ月から4.7ヶ月に修正しましたが、MythosとGPT-5.5はその予測を上回る進化を見せました。
Anthropicのレッドチーム責任者は、AIの進化が非常に速いため、Mythosも1年後には「かなり愚かに見えるだろう」と警告しています。
Wired ★4 ビジネス EN

iPhone盗難後、ハッキングが始まる

要約を読む要約を閉じる
📰ニュース

盗まれたiPhoneが犯罪者によってロック解除され、個人情報が悪用される地下エコシステムが拡大しています。

🔍注目ポイント

犯罪者は盗んだiPhoneを解除し、連絡先へのフィッシング攻撃を通じて銀行口座などへのアクセスを試みています。

🔮これからどうなる

iPhoneユーザーはデバイス盗難だけでなく、個人情報や金融資産の流出リスクに直面する可能性があります。

Wiredの報道によると、盗難されたiPhoneを解除するためのツールやサービスを提供する活発な地下市場が存在します。
これにより、犯罪者はデバイス内の情報にアクセスし、さらにその情報を利用して所有者の友人や家族にフィッシング詐欺を仕掛けています。
銀行口座への不正アクセスなどがその目的です。
MIT Tech Review ★4 AI倫理 EN

ディープフェイクポルノに自分の体が使われる衝撃

要約を読む要約を閉じる
📰ニュース

過去にポルノ動画に出演した女性が、自身の顔写真でディープフェイクポルノが生成される可能性に直面しています。

🔍注目ポイント

顔認識技術とAIによる画像生成技術の進化が、個人の同意なくポルノコンテンツを生成するリスクを高めています。

🔮これからどうなる

個人のプライバシー侵害や名誉毀損のリスクが拡大し、特に女性が性的搾取の新たな脅威にさらされる可能性があります。

記事では、過去にポルノ動画に出演した女性が、AIによる顔認識で自身の過去の動画が紐付けられる可能性や、ディープフェイク技術で顔が合成される懸念を抱いている事例が紹介されています。
これは、AI技術の悪用が個人の尊厳を深く傷つける現実的な脅威となっていることを示しています。
ITmedia AI+ ★4 AI倫理

“Mythosレベル”のAIサイバー攻撃対策で官民連携 金融庁が作業部会、Anthropic日本法人も参加

要約を読む要約を閉じる
📰ニュース

金融庁が最新AIモデル「Claude Mythos Preview」によるサイバー攻撃の脅威に対し、官民連携の対策作業部会を発足しました。

🔍注目ポイント

Anthropic日本法人も参加し、最先端AIの攻撃能力を評価し、それに対応する防御策を共同で検討する点が画期的です。

🔮これからどうなる

金融機関はAIによる高度なサイバー攻撃から顧客の資産や情報を守るための、より強固なセキュリティ対策を構築できるようになります。

金融庁は、米AnthropicのAIモデル「Claude Mythos Preview」など、最新AIモデルがサイバー攻撃の性能を向上させていることを問題視しています。
この作業部会は、AIの進化に伴う新たな脅威に対し、政府機関と民間企業が協力して金融分野のセキュリティを強化することを目的としています。
Anthropic日本法人の参加は、AI開発者側の知見を取り入れることで、より実効性の高い対策を策定する上で重要です。
ITmedia AI+ ★3 セキュリティ

「Android 17」に複数の新機能 銀行を装った詐欺電話の自動切断や“10秒待機”でアプリの使いすぎ防止も

要約を読む要約を閉じる
📰ニュース

Googleが次期OS「Android 17」で、詐欺電話の自動切断やアプリ使いすぎ防止などの新機能を発表しました。

🔍注目ポイント

AIを活用し、銀行を装った詐欺電話を自動で切断する機能や、アプリ起動時に10秒待機させる機能が特徴です。

🔮これからどうなる

ユーザーは詐欺被害のリスクを減らし、スマートフォンの使いすぎを抑制することで、より安全で健全なデジタルライフを送れるようになります。

Android 17は、クリエイター向けの制作支援機能も追加し、セキュリティ面も強化しています。
特に、盗難対策機能は、スマートフォンが盗まれた際に個人情報が漏洩するリスクを低減することを目的としています。
これらの機能は、ユーザーの利便性と安全性を両立させることを目指しています。
Bloomberg Tech ★4 AI倫理 EN

ハッカーがAIを悪用し攻撃を強化、活動を隠蔽

要約を読む要約を閉じる
📰ニュース

ハッカーがAIを活用し、サイバー攻撃の強化と活動の隠蔽を行っています。

🔍注目ポイント

AIは攻撃コードの生成、フィッシングメールの作成、マルウェアの難読化に利用され、検出を困難にしています。

🔮これからどうなる

企業や個人は、より高度で巧妙なサイバー攻撃に直面し、セキュリティ対策の強化が急務となります。

AIは、攻撃者がより効率的に脆弱性を特定し、標的型攻撃を仕掛けることを可能にします。
また、AIによる自動化は、攻撃の規模と頻度を増大させ、従来のセキュリティシステムでは検知しにくい新たな脅威を生み出しています。
セキュリティ担当者もAIを活用した防御策を模索しています。
Wired ★3 セキュリティ EN

DHS、米加国境で偵察ドローン実験を計画

要約を読む要約を閉じる
📰ニュース

DHSが米加国境で自律型ドローンと地上車両による偵察実験を計画しています。

🔍注目ポイント

5Gネットワークを活用し、自律型ドローンと地上車両が「戦場情報」をリアルタイムで送信します。

🔮これからどうなる

国境警備の効率化が進む一方で、プライバシーや監視技術の倫理的側面が議論される可能性があります。

この実験は、米国とカナダの国境沿いで今秋に実施される予定です。
自律型システムが国境監視に導入されることで、人員の負担軽減や迅速な情報収集が期待されます。
しかし、技術の悪用や市民の監視強化への懸念も指摘されるでしょう。