オープンLLMを用いた憲法AI
Hugging FaceがオープンソースLLMで憲法AIを実装する手法を公開しました。
AI&Tech、もう追いかけなくていい。
30秒で読めるニュースダイジェスト
AI倫理
1755件
N
LLM支援による生物学的脅威作成の早期警戒システム構築
OpenAIがLLMが生物学的脅威作成を支援するリスクを評価するシステムを開発中。
AI Secure LLM安全性リーダーボードの紹介
Hugging FaceがAI Secureと協力し、LLMの安全性評価リーダーボードを発表しました。
N
AIへの民主的インプット助成プログラム：学んだ教訓と実施計画
OpenAIがAIの集団的ガバナンスを設計する10チームに助成金を提供しました。
N
OpenAIが2024年の世界選挙にどう取り組むか
OpenAIは2024年の世界選挙に向けて、AIの悪用防止と透明性向上に取り組んでいます。
N
OpenAIとジャーナリズム
OpenAIがジャーナリズムを支持し、NYTの訴訟には根拠がないと主張しました。
N
スーパーアラインメント・ファストグラント
OpenAIが超人間的AIシステムの安全性とアラインメント研究に1000万ドルの助成金を提供します。
N
エージェントAIシステムのガバナンス実践
OpenAIがエージェントAIシステムの安全な開発と展開のためのガバナンス実践を提案しました。
N
弱から強への汎化
OpenAIが、弱い監督者で強いモデルを制御する「弱から強への汎化」という新しい研究方向を発表しました。
N
OpenAIのフロンティアリスクへのアプローチ
OpenAIがAIのフロンティアリスクに対する包括的なアプローチを発表しました。
N
フロンティアリスクと備え
OpenAIは、高性能AIシステムの壊滅的なリスクに備えるため、準備チームを設立し、課題を開始しました。
N
フロンティアモデルフォーラムの最新情報
OpenAI、Anthropic、Google、MicrosoftがAI安全基金を設立し、新事務局長を発表しました。