新着ニュース

24323件
Hugging Face Blog ★4 LLM EN

AMD + 🤗: AMD GPUによる大規模言語モデルの即時高速化

要約を読む要約を閉じる
📰ニュース

Hugging FaceとAMDが協力し、AMD GPUでLLMを簡単に高速実行できるようになった。

🔍注目ポイント

Hugging Faceの最適化ライブラリとAMD GPUを組み合わせ、LLMの推論性能を向上させた。

🔮これからどうなる

AMD GPUユーザーは、追加設定なしでLLMをより高速に利用できるようになる。

Hugging FaceのOptimum-AMDライブラリとROCmソフトウェアスタックを活用することで、AMD Instinct MI210 GPU上でLlama-2などのLLMを効率的に実行できる。
これにより、AMDハードウェアでのAI開発が加速し、より多くの開発者がLLMを利用しやすくなる。
Hugging Face Blog ★4 LLM EN

Optimum-NVIDIA:たった1行のコードで超高速LLM推論を実現

要約を読む要約を閉じる
📰ニュース

Hugging FaceがNVIDIA GPU向けに最適化されたLLM推論ライブラリ「Optimum-NVIDIA」を発表しました。

🔍注目ポイント

たった1行のコードで、NVIDIA GPU上でのLLM推論を劇的に高速化できるのが最大の技術的ポイントです。

🔮これからどうなる

開発者は複雑な最適化を意識せず、より高速で効率的なLLMアプリケーションを構築できるようになります。

Optimum-NVIDIAは、NVIDIAのTensorRT-LLMをHugging FaceのOptimumライブラリに統合したものです。
これにより、モデルの量子化やコンパイルといった推論最適化プロセスが大幅に簡素化され、開発者はより手軽に高性能なLLM推論環境を利用できるようになります。
特に大規模なLLMのデプロイメントにおいて、その恩恵は大きいでしょう。
Hugging Face Blog ★4 LLM EN

コールドブートにさようなら - LoRA推論を300%高速化する方法

要約を読む要約を閉じる
📰ニュース

Hugging FaceがLoRAモデルの推論速度を300%向上させる技術を開発しました。

🔍注目ポイント

LoRAモデルの重みロードと推論を最適化し、コールドスタート時の遅延を大幅に削減しました。

🔮これからどうなる

LoRAモデルを利用するAIアプリケーションの応答性が向上し、ユーザー体験が改善されます。

LoRA(Low-Rank Adaptation)は、大規模言語モデルなどのファインチューニングに広く使われる技術です。
これまでは、新しいLoRAモデルをロードする際に発生する「コールドブート」と呼ばれる遅延が課題でした。
Hugging Faceは、この遅延を解消するための最適化を行い、推論の効率を大幅に向上させました。
Hugging Face Blog ★4 LLM EN

Open LLM Leaderboard: DROPデータセットの深掘り

要約を読む要約を閉じる
📰ニュース

Hugging FaceのOpen LLM LeaderboardにおけるDROPデータセットの評価方法と課題が解説されました。

🔍注目ポイント

DROPは複雑な推論を要する読解データセットで、LLMの多段階推論能力を測るのに適しています。

🔮これからどうなる

LLM開発者は、より高度な推論能力を持つモデルを開発するための具体的な課題と方向性を理解できます。

DROPデータセットは、質問応答タスクにおいて、テキストから直接抽出するだけでなく、複数の情報を統合し、計算や比較を行う複雑な推論を必要とします。
Hugging Faceのリーダーボードでは、このDROPデータセットを用いてLLMの性能を評価しており、モデルが単なるキーワードマッチングではなく、真の理解と推論を行えているかを測る重要な指標となっています。
しかし、DROPの評価には限界もあり、より多角的な評価の必要性も指摘されています。
OpenAI Blog ★5 LLM EN

サム・アルトマンがCEOに復帰、OpenAIに新しい初期理事会が発足

要約を読む要約を閉じる
📰ニュース

サム・アルトマンがOpenAIのCEOに復帰し、新しい初期理事会が発足しました。

🔍注目ポイント

経営陣の混乱が収束し、アルトマン氏と主要メンバーが復帰することで、OpenAIの安定と今後の方向性が明確になりました。

🔮これからどうなる

OpenAIの今後のAI開発とビジネス戦略に安定性をもたらし、AI業界全体にも影響を与えるでしょう。

CEO解任から数日間の混乱を経て、アルトマン氏の復帰が決定しました。
ミラ・ムラティ氏がCTO、グレッグ・ブロックマン氏が社長に復帰し、ブレット・テイラー氏が理事会議長を務めます。
これはOpenAIの経営体制の再構築を意味します。
OpenAI Blog ★5 LLM EN

OpenAI、リーダーシップ移行を発表

要約を読む要約を閉じる
📰ニュース

OpenAIがサム・アルトマン氏のCEO退任と、ミラ・ムラティ氏の暫定CEO就任を発表しました。

🔍注目ポイント

突然のCEO交代劇であり、その背景や今後のOpenAIの戦略に大きな影響を与える可能性があります。

🔮これからどうなる

OpenAIの技術開発ロードマップや企業文化に変化が生じ、AI業界全体の競争環境にも影響を与えるかもしれません。

OpenAIの取締役会は、アルトマン氏がCEOとしての役割において一貫して率直ではなかったと判断し、信頼関係の欠如を理由に解任を決定しました。
暫定CEOのミラ・ムラティ氏は、これまでCTOを務めており、OpenAIの技術開発を主導してきました。
取締役会は新たな恒久的なCEOを探すプロセスを開始しています。
OpenAI Blog ★4 LLM EN

OpenAIデータパートナーシップ

要約を読む要約を閉じる
📰ニュース

OpenAIがAIトレーニング用のオープンソースおよびプライベートデータセット作成のため、企業と提携を開始しました。

🔍注目ポイント

AIモデルの性能向上に不可欠な高品質で多様なデータセットを、外部パートナーと協力して構築する点です。

🔮これからどうなる

より高性能で汎用性の高いAIモデルが開発され、様々な産業や研究分野でのAI活用が加速するでしょう。

OpenAIは、AIモデルのトレーニングに必要なデータの質と量を向上させるため、データパートナーシッププログラムを立ち上げました。
このプログラムでは、企業や組織が持つ独自のデータを提供してもらい、それをAIトレーニングに活用することで、より高度なAIモデルの開発を目指します。
オープンソースとプライベートの両方のデータセットを対象としています。
Hugging Face Blog ★4 画像生成 EN

Latent Consistency LoRAでSDXLを4ステップで高速化

要約を読む要約を閉じる
📰ニュース

Latent Consistency LoRA (LC-LoRA) を用いて、SDXLモデルの画像生成ステップを大幅に削減しました。

🔍注目ポイント

LC-LoRAは、少ないステップで高品質な画像を生成できるよう、既存の拡散モデルを高速化する技術です。

🔮これからどうなる

ユーザーはより高速に高品質な画像を生成できるようになり、リアルタイムアプリケーションへの応用が期待されます。

拡散モデルは通常多くのステップを要しますが、LC-LoRAは潜在空間での一貫性を学習することで、わずか4ステップでの生成を可能にしました。
これにより、計算コストを削減しつつ、視覚的な品質を維持できます。
Hugging Faceは、この技術をSDXLに適用し、その効果を実証しました。
Hugging Face Blog ★4 LLM EN

AWS Inferentia2でLlamaの生成時間を短縮

要約を読む要約を閉じる
📰ニュース

AWS Inferentia2を利用することで、Llamaモデルの推論速度が大幅に向上しました。

🔍注目ポイント

AWS Inferentia2がLlamaモデルの推論を高速化し、コスト効率も改善しています。

🔮これからどうなる

Llamaモデルを利用する開発者は、より高速かつ低コストでAIアプリケーションを構築できます。

Hugging FaceとAWSが協力し、LlamaモデルをAWS Inferentia2に最適化しました。
これにより、推論スループットが向上し、コスト削減も実現しています。
特に大規模な言語モデルの運用において、パフォーマンスと経済性の両面でメリットがあります。
Hugging Face Blog ★4 LLM EN

Prodigy-HFの紹介:Hugging Faceとの直接統合

要約を読む要約を閉じる
📰ニュース

アノテーションツールProdigyがHugging Faceモデルと直接連携可能になりました。

🔍注目ポイント

Hugging FaceのモデルをProdigyで直接ロードし、アノテーションとモデル改善をシームレスに行えます。

🔮これからどうなる

AI開発者はモデルのアノテーションと改善プロセスを効率化し、開発サイクルを短縮できます。

Prodigy-HFは、Hugging FaceのTransformersライブラリとDatasetsライブラリをProdigyに統合します。
これにより、Hugging Face HubにあるモデルをProdigy内で直接利用し、アノテーションデータを収集してモデルをファインチューニングすることが容易になります。
特に、テキスト分類、固有表現認識(NER)、画像分類などのタスクで威力を発揮します。
Hugging Face Blog ★3 LLM EN

LLMの性能比較:災害ツイート分析におけるRoberta、Llama 2、MistralとLoRAの活用

要約を読む要約を閉じる
📰ニュース

災害ツイート分析において、Roberta、Llama 2、MistralのLLM性能がLoRAを用いて比較されました。

🔍注目ポイント

LoRAを適用することで、限られたデータと計算資源でもLLMのファインチューニングが可能になる点が重要です。

🔮これからどうなる

災害時の情報分析精度が向上し、迅速な対応や支援活動に貢献する可能性があります。

本研究では、災害関連ツイートの分類タスクに焦点を当て、異なるLLM(Roberta、Llama 2、Mistral)の性能を評価しました。
特に、LoRA(Low-Rank Adaptation)という効率的なファインチューニング手法を用いることで、各モデルがどのように適応し、精度を向上させるかを検証しています。
これにより、リソースが限られた環境でも高性能なLLMを活用できる可能性が示されました。
OpenAI Blog ★5 LLM EN

GPTsの紹介

要約を読む要約を閉じる
📰ニュース

OpenAIがユーザーが独自のカスタムChatGPTを作成できる「GPTs」を発表しました。

🔍注目ポイント

指示、追加知識、スキルを組み合わせて、特定のタスクに特化したAIを簡単に構築できます。

🔮これからどうなる

専門知識を持つ個人や企業が、それぞれのニーズに合わせたAIアシスタントを開発できるようになります。

GPTsは、プログラミング不要で、自然言語で指示を与えるだけで作成可能です。
これにより、開発者だけでなく、一般ユーザーもAIのカスタマイズに参加できるようになります。
将来的には、これらのカスタムGPTを共有・販売できる「GPT Store」も開設される予定です。