セキュリティ

1947件
GIGAZINE ★4 AI倫理

「人形の頭」でテスラの監視機能をだましてよそ見しながら自動運転させる方法を中国のドライバーが編み出す

要約を読む要約を閉じる
📰ニュース

中国のテスラドライバーが、人形の頭を使ってドライバー監視システムを欺き、よそ見しながら自動運転させている。

🔍注目ポイント

テスラのドライバー監視カメラが、人形の頭を本物のドライバーと誤認識し、注意散漫な運転を許してしまう脆弱性が露呈した。

🔮これからどうなる

自動運転システムの安全性が脅かされ、ドライバーの過信による事故リスクが増大する可能性があります。

テスラのオートパイロット機能は、ドライバーが道路を注視するようカメラで監視していますが、この監視を回避する手法が発見されました。
これにより、システムがドライバーの注意不足を検知できず、安全上の問題を引き起こす可能性があります。
テスラはシステムの改善を迫られるでしょう。
GIGAZINE ★4 AI倫理

Geminiを使って偽ウェブサイトを作成できるツールを公開した中国の犯罪組織「Outsider Enterprise」をGoogleが提訴

要約を読む要約を閉じる
📰ニュース

Googleが中国の犯罪組織「Outsider Enterprise」を、Geminiを利用した偽ウェブサイト作成ツール公開で提訴しました。

🔍注目ポイント

AIモデルGeminiが悪用され、フィッシング詐欺ツールが開発・提供されたことが技術的な問題点です。

🔮これからどうなる

一般ユーザーはGemini悪用による精巧な偽サイトに騙されるリスクが高まり、個人情報や金銭を失う可能性があります。

Outsider Enterpriseは、荷物配達通知や銀行の緊急メッセージなどを偽装し、人々を騙すための偽ウェブサイトを作成するツールを公開していました。
Googleは、AIモデルの悪用とユーザー保護の観点から、この組織に対して法的措置を取りました。
AIの悪用事例として注目されています。
GIGAZINE ★4 AI倫理

アメリカ政府によるClaude Mythos 5とClaude Fable 5の提供停止命令は「中国と関係のあるグループがアクセスした疑いがあるため」との報道

要約を読む要約を閉じる
📰ニュース

米政府がAnthropicの最新AIモデル「Claude Mythos 5」と「Claude Fable 5」の提供停止を命令しました。

🔍注目ポイント

中国政府関連グループがこれらのAIモデルにアクセスした疑いが、提供停止命令の主な原因と報じられています。

🔮これからどうなる

AI技術の国家安全保障上のリスクが顕在化し、AIモデルの利用や提供に関する規制が強化される可能性があります。

AnthropicはGoogleやAmazonから多額の投資を受けている主要なAI開発企業です。
今回の停止命令は、AI技術が軍事転用や情報収集に悪用される可能性に対する米政府の強い懸念を示しています。
AIモデルのアクセス管理とセキュリティ対策の重要性が改めて浮き彫りになりました。
Bloomberg Tech ★4 ビジネス EN

AIハッキングの脅威、仮想通貨トークンが50%暴落で露呈

要約を読む要約を閉じる
📰ニュース

AIが仮想通貨Zcashの脆弱性を発見し、関連トークンが50%暴落しました。

🔍注目ポイント

AIが人間が見逃していた暗号通貨の脆弱性を特定し、悪用できる可能性を示しました。

🔮これからどうなる

AIによるサイバー攻撃が現実となり、金融システムや個人資産への新たな脅威となります。

Zcashの共同創設者であるエリ・ベン=サッソン氏は、当初人間の敵対者を想定していましたが、AIが長年の専門家の判断をすり抜けていた欠陥を露呈させました。
この事態は、AIがサイバーセキュリティ分野で攻撃側として強力なツールとなり得ることを示唆しています。
ITmedia AI+ ★4 LLM

Amazon、Anthropicの最新AIについて懸念を伝えていた 米政権による停止命令に先立ち 関係筋

要約を読む要約を閉じる
📰ニュース

Amazon CEOがAnthropicの最新AIモデルのセキュリティリスクについて米政権に懸念を伝えていました。

🔍注目ポイント

米政権はAnthropicに対し、最新AIモデル「Fable 5」「Mythos 5」の外国籍者利用停止を命令しました。

🔮これからどうなる

最先端AIモデルの利用が制限され、国際的なAI開発競争や技術普及に影響が出る可能性があります。

Amazonのアンディ・ジャシーCEOは、トランプ政権高官に対し、Anthropicの最先端AIモデルに関するセキュリティリスクについて懸念を表明しました。
これに先立ち、トランプ政権はAnthropicに対し、外国籍者が同社の最新モデル「Fable 5」と「Mythos 5」を利用できないようにする命令を出していました。
この動きは、国家安全保障上の懸念からAI技術の管理を強化する流れを示唆しています。
Wired ★3 AI倫理 EN

FCCが使い捨て携帯電話の廃止を検討

要約を読む要約を閉じる
📰ニュース

米連邦通信委員会(FCC)が、匿名性の高い使い捨て携帯電話(バーナーフォン)の利用を制限する可能性について議論しています。

🔍注目ポイント

犯罪組織による悪用を防ぐため、携帯電話の匿名性を排除し、所有者の特定を義務付ける規制導入が検討されています。

🔮これからどうなる

プライバシーを重視するユーザーは匿名での通信手段を失う可能性があり、一方で法執行機関は犯罪捜査がしやすくなるでしょう。

FCCの提案は、主に犯罪活動における使い捨て携帯電話の悪用を阻止することを目的としています。
これにより、電話番号と個人情報の紐付けが必須となり、匿名での通信が困難になる見込みです。
この動きは、個人のプライバシーと公共の安全のバランスを巡る議論を巻き起こしています。
TechCrunch AI ★4 AI倫理 EN

Google、AIを利用した中国のサイバー犯罪組織を提訴

要約を読む要約を閉じる
📰ニュース

Googleが、AIを悪用して数十万人の被害者から詐欺を行った中国のサイバー犯罪組織「Outsider Enterprise」を提訴しました。

🔍注目ポイント

この組織はAIを活用し、わずか2週間で250万件もの詐欺メッセージを送信する大規模な手口を用いていました。

🔮これからどうなる

AIが悪用されることで、個人が詐欺の被害に遭うリスクが高まり、デジタルセキュリティ対策の重要性が増します。

Googleは、このサイバー犯罪組織が「Outsider Enterprise」という名称で活動していたと特定しました。
彼らはAI技術を悪用し、大量の詐欺メッセージを効率的に送信することで、広範囲にわたる被害者を生み出していました。
今回の提訴は、AIの悪用に対するテック企業の具体的な対抗策を示すものです。
TechCrunch AI ★4 AI倫理 EN

Google、AIを利用した詐欺SMS送信の中国サイバー犯罪組織を提訴

要約を読む要約を閉じる
📰ニュース

GoogleがAIを悪用し詐欺SMSを送信していた中国のサイバー犯罪組織を提訴しました。

🔍注目ポイント

AIが詐欺メッセージの生成や送信効率化に利用され、短期間で大量の被害者を生み出しました。

🔮これからどうなる

AIの悪用事例が増加し、一般ユーザーはAI生成の詐欺メッセージへの警戒がより必要になります。

「Outsider Enterprise」と呼ばれる組織は、AIを用いて詐欺メッセージを作成し、2週間で250万件のSMSを送信、数十万人の被害者を出したとされています。
Googleは、この組織がGoogleのサービスを悪用したとして、詐欺行為の停止と損害賠償を求めています。
VentureBeat AI ★4 セキュリティ EN

NanoClawとJFrogがAIエージェントの悪意あるコードダウンロードを阻止する「免疫システム」を発表

要約を読む要約を閉じる
📰ニュース

NanoClawとJFrogが悪意あるコードのダウンロードからAIエージェントを保護するセキュリティ統合を発表しました。

🔍注目ポイント

AIエージェントがJFrogの検証済みソフトウェアレジストリからのみ依存関係をダウンロードするよう強制し、サプライチェーン攻撃を防ぎます。

🔮これからどうなる

AIエージェントを使用する企業や個人は、悪意あるコードによるセキュリティリスクを大幅に低減できます。

AIエージェントは自律的にパッケージをインストールして機能を拡張するため、人間が監視できない盲点が生じていました。
この統合により、エージェントはスキャンされ安全な依存関係のみを取得し、開発者ではないオペレーターも意識せずにセキュリティを確保できます。
オープンソースコミュニティには無料で提供され、企業は既存のJFrog環境を利用可能です。
Ars Technica AI ★4 AI倫理 EN

Google、Geminiを悪用した詐欺を自動化した中国のサイバー犯罪ネットワークを提訴

要約を読む要約を閉じる
📰ニュース

Googleが、Geminiを悪用し詐欺サイトを自動生成した中国のサイバー犯罪ネットワークを提訴しました。

🔍注目ポイント

AIモデルGeminiが詐欺サイトの自動生成に利用され、サイバー犯罪の効率化に悪用された点が技術的ポイントです。

🔮これからどうなる

AIの悪用による詐欺被害が拡大する可能性があり、一般ユーザーはより巧妙な詐欺に注意が必要になります。

このサイバー犯罪ネットワークは、Geminiを用いて何十万もの人々を標的とした詐欺サイトを自動生成したとされています。
Googleは、AI技術の悪用に対する法的措置を強化し、ユーザー保護に努める姿勢を示しています。
AIが生成するコンテンツの信頼性確保が課題となります。
The Decoder ★4 AI倫理 EN

GoogleがFBIと共同で中国AI詐欺ネットワークを提訴、OpenAIも中国の影響力工作を阻止

要約を読む要約を閉じる
📰ニュース

GoogleとFBIが中国発のAI詐欺ネットワークを共同提訴し、OpenAIも中国の影響力工作を阻止しました。

🔍注目ポイント

AIが悪用された詐欺や秘密裏の影響力工作に対し、大手テック企業と政府機関が連携して対策を講じています。

🔮これからどうなる

AIを悪用した詐欺や情報操作から、米国のインフラや政治議論が保護される可能性が高まります。

GoogleはFBIと共同で、中国を拠点とするAI詐欺ネットワークに対して初の訴訟を起こしました。
このネットワークは、AIを用いて詐欺行為や秘密裏の影響力工作を行っていたとされています。
同時期にOpenAIも、同様に中国発とみられるAIを利用した影響力工作クラスターをブロックしました。
これらの活動は、米国のインフラや政治議論を標的としていました。
Ars Technica AI ★4 AI倫理 EN

ポケモンGOプレイヤー、知らず知らずのうちに軍事ドローン技術に貢献

要約を読む要約を閉じる
📰ニュース

ポケモンGOのプレイヤーデータが、軍事ドローンのAI訓練に転用されていたことが明らかになりました。

🔍注目ポイント

民生用ゲームの広範な位置情報データが、意図せず軍事技術開発に利用される可能性を示しています。

🔮これからどうなる

ユーザーは、自身のデータがどのように利用されるかについて、より高い透明性と管理を求めるようになるでしょう。

ポケモンGOは世界中で数億人がプレイしており、その移動データは広範囲かつ詳細です。
このデータは、AIが現実世界の環境を理解し、ドローンが自律的にナビゲートするための訓練に利用されたとされています。
データ転用の具体的な経緯や、プレイヤーへの説明責任が問われています。