Whisper推論を2倍高速化する投機的デコーディング
Hugging FaceがWhisperモデルの推論速度を投機的デコーディングで2倍に向上させました。
Hugging FaceがWhisperモデルの推論速度を投機的デコーディングで2倍に向上させました。
2023年はオープンソースのLLMが急速に進化し、その性能が商用モデルに匹敵するレベルに達した。
Summer HealthがOpenAIを活用し、小児科の診察記録の精度を向上させている。
OpenAIがドイツの出版社アクセル・シュプリンガーと提携し、AIにおけるジャーナリズムの統合を深化させま…
Hugging Faceが、高性能なMixture of Expertsモデル「Mixtral」を公開しました。
大規模言語モデルの効率と性能を向上させるMixture of Experts (MoE) アーキテクチャが注目されています。
SetFitを応用し、少ないデータで特定のアスペクトに対する感情を分析する手法が開発されました。
Hugging FaceとAMDが協力し、AMD GPUでLLMを簡単に高速実行できるようになった。
Hugging FaceがNVIDIA GPU向けに最適化されたLLM推論ライブラリ「Optimum-NVIDIA」を発表しました。
Hugging FaceがLoRAモデルの推論速度を300%向上させる技術を開発しました。
Hugging FaceのOpen LLM LeaderboardにおけるDROPデータセットの評価方法と課題が解説されました。
サム・アルトマンがOpenAIのCEOに復帰し、新しい初期理事会が発足しました。