Anthropic在籍の研究者2人も同調──「AIが人類を滅ぼしかねないと本気で考えている」
記事のポイント
📰ニュース
Anthropicの研究幹部2名が、AIによる人類滅亡の可能性に危機感を表明しました。
🔍注目ポイント
AI開発競争が安全制御手法の確立を伴わず進行しており、減速の必要性が強調されています。
🔮これからどうなる
AI開発企業は、安全性と倫理をより重視した開発方針への転換を迫られる可能性があります。
退社した研究員の主張に同調する形で、10年以内に人類が滅亡する確率が10%超と試算される声も上がっています。
彼らは、超知能開発における堅牢な安全制御手法が不足している現状に警鐘を鳴らし、開発のペースを落とすよう訴えています。
彼らは、超知能開発における堅牢な安全制御手法が不足している現状に警鐘を鳴らし、開発のペースを落とすよう訴えています。
AIの安全性に関する議論が、業界のトップランナーからも活発化していますね。私たちの未来の生活に直結する重要なテーマなので、今後の動向に注目したいです。