ONNX Runtimeで13万以上のHugging Faceモデルを高速化
Hugging FaceがONNX Runtimeとの統合により、13万以上のモデルの推論を高速化しました。
LLM
3256件
チャットテンプレート：静かなるパフォーマンスキラーの終焉
Hugging FaceがLLMのチャットテンプレートの標準化と自動適用を導入しました。
Hugging Face Inference APIを用いたAIコミックファクトリーのデプロイ
Hugging FaceがAI Comic FactoryをInference APIでデプロイする方法を公開しました。
非エンジニア向けガイド：LLaMA 2チャットボットのトレーニング
Hugging Faceが非エンジニア向けにLLaMA 2チャットボットをトレーニングするガイドを公開しました。
Amazon SageMakerにおけるLlama 2のベンチマーク
Hugging FaceがAmazon SageMaker上でLlama 2モデルのベンチマークを実施しました。
N
ChatGPTが視覚・聴覚・発話能力を獲得
ChatGPTに音声と画像認識の新機能が追加され、より直感的な対話が可能になりました。
N
GPT-4V(ision) システムカード
OpenAIがGPT-4Vの機能、リスク、緩和策をまとめたシステムカードを公開しました。
本番環境でのLLM最適化
Hugging Faceが本番環境でのLLM最適化に関するブログ記事を公開しました。
PyTorch FSDPを用いたLlama 2 70Bのファインチューニング
PyTorch FSDPを活用し、大規模言語モデルLlama 2 70Bのファインチューニング手法が公開されました。
🤗 Transformersにおけるネイティブサポートされる量子化スキームの概要
Hugging Face Transformersライブラリが、ネイティブでサポートする量子化スキームについて解説しました。
SafeCoder vs. クローズドソースのコードアシスタント
Hugging Faceがオープンソースのコード生成AI「SafeCoder」を発表しました。
N
OpenAI初の開発者向けカンファレンスが11月6日にサンフランシスコで開催
OpenAIが初の開発者向けカンファレンス「DevDay」を11月6日に開催すると発表しました。