N
報酬モデルの過剰最適化に関するスケーリング則
OpenAIが報酬モデルの過剰最適化が性能を低下させる現象と、そのスケーリング則を発見しました。
LLM
2756件
MTEB: 大規模テキスト埋め込みベンチマーク
Hugging Faceがテキスト埋め込みモデルの性能を評価する大規模ベンチマーク「MTEB」を発表しました。
最適化物語：Bloom推論
Hugging Faceが大規模言語モデルBloomの推論速度を大幅に向上させました。
超大規模言語モデルとその評価方法
Hugging Faceが超大規模言語モデル（VLLM）の評価に関するブログ記事を公開しました。
Hugging Face AccelerateがPyTorchのおかげで超大規模モデルを実行する方法
Hugging Face AccelerateがPyTorchを活用し、非常に大規模なモデルを効率的に実行する技術を解説していま…
SetFit: プロンプトなしで効率的なFew-Shot学習
Hugging Faceがプロンプト不要で効率的なFew-Shot学習手法「SetFit」を発表しました。
N
Whisperの紹介
OpenAIが英語音声認識で人間レベルの堅牢性と精度に迫るAIモデル「Whisper」を公開しました。
DeepSpeedとAccelerateによる驚異的な高速BLOOM推論
Hugging FaceがDeepSpeedとAccelerateを統合し、BLOOMモデルの推論速度を大幅に向上させました。
初めてのDecision Transformerを訓練しよう
Hugging Faceが強化学習モデルDecision Transformerの訓練チュートリアルを公開しました。
Megatron-LMで言語モデルを訓練する方法
Hugging FaceがMegatron-LMを使った大規模言語モデルの訓練方法を解説しました。
N
アライメント研究へのアプローチ
OpenAIは、AIシステムが人間からのフィードバックから学習し、AI評価を支援する能力を向上させています。
Hugging Face TransformersとHabana GaudiでBERTを事前学習
Hugging Face TransformersライブラリとHabana Gaudiアクセラレータを用いてBERTモデルの事前学習が効率的…