AI安全研究者ライアン・グリーンブラット氏が警鐘：各AIラボの「責任ある開発」意識が競争を加速
Every AI lab thinks it's the responsible one, and safety researcher Ryan Greenblatt says that's what keeps the arms race going
記事のポイント
📰ニュース
AI安全研究者が、各AIラボが自らを「責任ある開発者」と認識していることが、AI開発競争を加速させていると指摘しました。
🔍注目ポイント
Redwood Researchの主任科学者が、現在の開発経路ではAIが人類を乗っ取るリスクを50〜60%と非常に高く見積もっています。
🔮これからどうなる
AIの安全性確保が遅れ、将来的にAIが人類の制御を逸脱する可能性が高まることで、社会全体に深刻な影響を及ぼすかもしれません。
ライアン・グリーンブラット氏は、AnthropicやOpenAIといった主要AIラボ間の競争が、安全対策よりも開発速度を優先させる原因だと分析しています。
彼は、マンハッタン計画の科学者たちが10%のリスクで開発を中止しただろうと述べ、現状の50〜60%のリスク評価と業界の動きの乖離に警鐘を鳴らしています。
国際的な合意形成がAIアームレースを止める鍵だと考えています。
彼は、マンハッタン計画の科学者たちが10%のリスクで開発を中止しただろうと述べ、現状の50〜60%のリスク評価と業界の動きの乖離に警鐘を鳴らしています。
国際的な合意形成がAIアームレースを止める鍵だと考えています。
AIの安全性を巡る議論は深まるばかりですね。各社が「責任ある開発」を主張しつつも、競争が止まらない現状は、私たちの未来に大きな影響を与えそうです。