元DeepMind広報担当者、AIによる人類滅亡リスクの公言を禁止していたと証言
Former Deepmind PR staffer says the lab once banned public discussion of AI extinction risk
記事のポイント
📰ニュース
元DeepMind広報担当者が、かつてAIによる人類滅亡リスクに関する対外的な議論を組織内で禁止していたと明かしました。
🔍注目ポイント
AIアライメント問題が未解決であると内部で認識しつつも、外部への情報統制を行っていた点が注目されます。
🔮これからどうなる
AI開発企業の透明性や倫理的責任に対する社会の監視が強まり、今後の情報公開姿勢に影響を与える可能性があります。
元DeepMindの広報担当者ヴィシャル・マイニ氏によると、組織内のいかなるレベルにおいても、AIによる人類滅亡の可能性に関する外部コミュニケーションは許可されていなかったとのことです。
一方で、内部ではAIアライメント問題が解決されていないことをチームは認識していました。
これはAI開発における倫理と情報公開のバランスに関する重要な問題提起です。
一方で、内部ではAIアライメント問題が解決されていないことをチームは認識していました。
これはAI開発における倫理と情報公開のバランスに関する重要な問題提起です。
大手AI企業がAIのリスクについて情報統制していたというのは驚きですね。私たちの未来を左右する技術なので、もっとオープンな議論が必要になりそうです。