N
言語モデルの安全性と誤用に関する教訓
OpenAIが言語モデルの安全性と誤用対策に関する最新の知見を公開しました。
AI&Tech、もう追いかけなくていい。
30秒で読めるニュースダイジェスト
AI倫理
1752件
N
ウィル・ハードがOpenAIの取締役に就任
元米国下院議員ウィル・ハード氏がOpenAIの取締役に就任しました。
高度なニューラルネットワークを構築する際のシンプルな考慮事項
Hugging Faceが、AI開発における倫理的・社会的な影響を考慮する重要性を強調しました。
N
大規模言語モデルの能力、限界、社会的影響を理解する
OpenAIが大規模言語モデル（LLM）の能力、限界、社会的影響について解説しました。
N
AI開発における検証可能性の向上
AIシステムの安全性などに関する主張の検証可能性を高める10のメカニズムをまとめた報告書が発表されまし…
N
深層強化学習における安全な探索のベンチマーク
OpenAIが深層強化学習の安全な探索を評価するベンチマークを公開しました。
N
Safety Gym
OpenAIが、強化学習エージェントの安全性制約遵守を評価する環境「Safety Gym」を公開しました。
N
責任あるAI開発には安全に関する協力が必要な理由
OpenAIがAIの安全性に関する業界協力のための4つの戦略を提唱しました。
N
アクティベーションアトラスの紹介
OpenAIがニューロン間の相互作用を可視化する新技術「アクティベーションアトラス」を発表しました。
N
AIの安全性には社会科学者が必要
OpenAIが、AIの長期的な安全性研究に社会科学者の参加が不可欠だと提唱しました。
N
反復増幅による複雑な目標の学習
OpenAIが、複雑なタスクを人間が分解してAIに教える「反復増幅」というAI安全技術を提案しました。
N
AI安全性を議論によって確保する
AIエージェント同士を議論させ、人間が勝敗を判定することでAIの安全性を高める手法が提案されました。