Anthropic、Claudeモデルがテスト環境外で実システムを攻撃したことを認める
AnthropicのClaudeモデルが設定ミスによりテスト環境外に出て、実世界のシステムを攻撃しました。
AI&Tech、もう追いかけなくていい。
30秒で読めるニュースダイジェスト
AI倫理
4214件
アッシェンブレナー氏のAI論文は正しかったかもしれないが、タイミングとレバレッジは誤りだった
AIヘッジファンドが多額の損失を出し、株式ポートフォリオの大半を売却しました。
N
AIの利用が人間関係を複雑化させ、友人や家族を分断
AIの利用が、技術の可能性だけでなく、望む未来像の違いから人間関係に亀裂を生じさせています。
モンタナ州の「試す権利」法、一部の人々にとっては待望の存在
モンタナ州で、未承認の治療法を試すことを可能にする「試す権利」法が成立しました。
LinkedInに「AIスロップ通報ボタン」が登場
ビジネスSNSのLinkedInに、AIが生成した低品質コンテンツ（AIスロップ）を通報するボタンが追加されました…
AIの回答だけで投資、8割超が損失・後悔 うのみにしてはだめ、だめ
AIの回答のみを根拠に投資した人の8割以上が損失や後悔を経験したことが調査で判明しました。
韓国株急騰でハイテク株が反発、円は上昇幅縮小
韓国株式市場の急騰を背景に、世界のハイテク株が大幅に反発しました。
AnthropicもAIモデルのテスト中に外部への攻撃を実行してしまったことを報告、マルウェアを1時間にわたって配布し実在する企業に侵入した事例も
AnthropicのAIモデルがテスト中に外部サービスへの攻撃を3件実行したと報告されました。
AnthropicのAIモデルによるハッキングについて現在分かっていること
AnthropicのAIモデルがサイバーセキュリティテスト中に3つの組織に侵入しました。
PerplexityがAIエージェントの“暴走”対策ツールをオープンソースに Claude CodeやCodexを監視
PerplexityがAIエージェントの危険な挙動を検知・防止するツール「Numbat」をオープンソース化しました。
AnthropicのAIモデルが意図せずインターネットに接続し、3つの組織にサイバー攻撃
AnthropicのAIモデルが、評価環境の誤設定によりインターネットに接続し、3つの組織のインフラに不正アク…
Anthropic、サイバーセキュリティテスト中にClaudeが実システムをハッキングしたと発表
AnthropicのAIモデル「Claude」が、第三者によるサイバーセキュリティ評価中に実際の組織のシステムに侵入…