Optimum-NVIDIA：たった1行のコードで超高速LLM推論を実現
Hugging FaceがNVIDIA GPU向けに最適化されたLLM推論ライブラリ「Optimum-NVIDIA」を発表しました。
AI&Tech、もう追いかけなくていい。
30秒で読めるニュースダイジェスト
プロダクト
4637件
コールドブートにさようなら - LoRA推論を300%高速化する方法
Hugging FaceがLoRAモデルの推論速度を300%向上させる技術を開発しました。
AWS Inferentia2でLlamaの生成時間を短縮
AWS Inferentia2を利用することで、Llamaモデルの推論速度が大幅に向上しました。
Prodigy-HFの紹介：Hugging Faceとの直接統合
アノテーションツールProdigyがHugging Faceモデルと直接連携可能になりました。
N
GPTsの紹介
OpenAIがユーザーが独自のカスタムChatGPTを作成できる「GPTs」を発表しました。
N
DevDayで発表された新モデルと開発者向け製品
OpenAIがGPT-4 Turbo、新しいAssistants API、DALL·E 3 APIなどを発表しました。
HF Hubにストレージリージョンを導入
Hugging Face Hubが、モデルやデータセットの保存場所として複数のストレージリージョンを導入しました。
パーソナルCopilot：自分専用のコーディングアシスタントを訓練する
Hugging Faceがユーザーが自身のコードベースで訓練できるパーソナルなコーディングアシスタント「Persona…
一行コードでHugging Faceデータセットを対話的に探索
Hugging Faceデータセットを一行のPythonコードで対話的に探索できる新機能がリリースされました。
Hugging Face Inference Endpointsで埋め込みモデルをデプロイ
Hugging Faceが埋め込みモデルのデプロイを容易にする新機能を発表しました。
N
DALL·E 3がChatGPT PlusおよびEnterpriseで利用可能に
OpenAIの画像生成AI「DALL·E 3」がChatGPT PlusおよびEnterpriseユーザー向けに提供開始されました。
Gradio-Lite: ブラウザで完結するサーバーレスGradio
Gradio-Liteは、サーバーなしでブラウザ内でGradioアプリを直接実行できる新技術です。