N
AI開発における検証可能性の向上
AIシステムの安全性などに関する主張の検証可能性を高める10のメカニズムをまとめた報告書が発表されまし…
AI倫理
1424件
N
深層強化学習における安全な探索のベンチマーク
OpenAIが深層強化学習の安全な探索を評価するベンチマークを公開しました。
N
Safety Gym
OpenAIが、強化学習エージェントの安全性制約遵守を評価する環境「Safety Gym」を公開しました。
N
責任あるAI開発には安全に関する協力が必要な理由
OpenAIがAIの安全性に関する業界協力のための4つの戦略を提唱しました。
N
アクティベーションアトラスの紹介
OpenAIがニューロン間の相互作用を可視化する新技術「アクティベーションアトラス」を発表しました。
N
AIの安全性には社会科学者が必要
OpenAIが、AIの長期的な安全性研究に社会科学者の参加が不可欠だと提唱しました。
N
反復増幅による複雑な目標の学習
OpenAIが、複雑なタスクを人間が分解してAIに教える「反復増幅」というAI安全技術を提案しました。
N
AI安全性を議論によって確保する
AIエージェント同士を議論させ、人間が勝敗を判定することでAIの安全性を高める手法が提案されました。
N
OpenAI Scholarsプログラム
OpenAIが、多様なバックグラウンドを持つ人々に深層学習の学習機会と奨学金を提供します。
N
AIの悪用への備え
AI技術の悪用方法と、その脅威を防ぎ軽減する方法を予測する論文が発表されました。
N
解釈可能で教育的な例
OpenAIがAIモデルの振る舞いを理解しやすくするための「解釈可能で教育的な例」を公開しました。
N
人間の好みを学習する
AIが人間の望む行動を、2つの選択肢からより良い方を選ぶだけで学習するアルゴリズムが開発されました。