新着ニュース

24323件
Hugging Face Blog ★4 LLM EN

Hugging Face Text Generation InferenceがAWS Inferentia2で利用可能に

要約を読む要約を閉じる
📰ニュース

Hugging Faceのテキスト生成推論(TGI)がAWS Inferentia2で利用可能になりました。

🔍注目ポイント

AWS Inferentia2の活用により、大規模言語モデルの推論コストを大幅に削減できます。

🔮これからどうなる

企業や開発者は、より低コストで高性能なLLMを本番環境で利用できるようになります。

Hugging Face TGIは、LLMの高速かつ効率的なデプロイを可能にするソリューションです。
AWS Inferentia2は、機械学習推論に特化したAWSの独自チップで、高いパフォーマンスとコスト効率を提供します。
この統合により、ユーザーはTGIの恩恵を受けつつ、Inferentia2のコストメリットを享受できます。
Hugging Face Blog ★4 LLM EN

Hugging Faceにパッチ時系列トランスフォーマーが登場

要約を読む要約を閉じる
📰ニュース

Hugging Faceが時系列予測モデル「Patch Time Series Transformer (PatchTST)」をライブラリに追加しました。

🔍注目ポイント

PatchTSTは、時系列データをパッチに分割し、トランスフォーマーで処理することで、高い予測精度と効率を実現します。

🔮これからどうなる

開発者は、複雑な時系列予測モデルをHugging Faceを通じて簡単に利用・構築できるようになります。

PatchTSTは、Googleの研究者によって開発されたモデルで、従来の時系列モデルに比べて、特に長期間の予測において優れた性能を発揮します。
Hugging Faceへの統合により、PyTorchやTensorFlowといった主要なフレームワークでの利用が容易になり、幅広い応用が期待されます。
OpenAI Blog ★4 AI倫理 EN

LLM支援による生物学的脅威作成の早期警戒システム構築

要約を読む要約を閉じる
📰ニュース

OpenAIがLLMが生物学的脅威作成を支援するリスクを評価するシステムを開発中。

🔍注目ポイント

GPT-4が生物学的脅威作成の精度をわずかに向上させる可能性を評価した。

🔮これからどうなる

AIの悪用リスクを早期に特定し、社会全体の安全保障に貢献する。

生物学の専門家と学生を対象とした評価で、GPT-4が生物学的脅威作成の精度をわずかに向上させる可能性が示された。
この結果は決定的ではないが、今後の研究と議論の出発点となる。
OpenAIは、AIの安全な開発と利用に向けた取り組みの一環として、この早期警戒システムの構築を進めている。
Hugging Face Blog ★4 LLM EN

エンタープライズシナリオリーダーボードの紹介:実世界ユースケースのためのリーダーボード

要約を読む要約を閉じる
📰ニュース

Hugging Faceが企業向けの実世界ユースケースに特化した新しいLLMリーダーボードを公開しました。

🔍注目ポイント

従来のベンチマークに加え、RAGやコード生成など実際のビジネス課題を評価する点が特徴です。

🔮これからどうなる

企業は自社のニーズに合った高性能なLLMを特定しやすくなり、導入判断が加速します。

このリーダーボードは、従来の学術的なベンチマークでは捉えきれなかった、企業が直面する具体的な課題(例えば、社内文書からの情報抽出や特定のプログラミング言語でのコード生成)に対するLLMの性能を評価します。
これにより、企業はより実践的な視点から最適なモデルを選定できるようになります。
Hugging Face Blog ★4 LLM EN

XeonでStarCoderを🤗 Optimum Intelで高速化:Q8/Q4と投機的デコーディング

要約を読む要約を閉じる
📰ニュース

Hugging FaceのStarCoderモデルがIntel Xeonプロセッサ上で大幅に高速化されました。

🔍注目ポイント

Optimum IntelライブラリとOpenVINOにより、Q8/Q4量子化と投機的デコーディングを組み合わせ、推論速度を向上させています。

🔮これからどうなる

開発者はIntel Xeon環境でStarCoderをより効率的に利用でき、コストと時間の削減に繋がります。

StarCoderはコード生成に特化した大規模言語モデルです。
今回の最適化により、Q8量子化で最大2.4倍、Q4量子化で最大3.1倍の高速化を実現しました。
特に投機的デコーディングは、より小さなモデルで次のトークンを予測し、大きなモデルで検証することで、推論速度をさらに向上させます。
Hugging Face Blog ★4 LLM EN

大規模言語モデルのハルシネーションを測定するオープンな取り組み「ハルシネーションリーダーボード」

要約を読む要約を閉じる
📰ニュース

Hugging Faceが大規模言語モデルのハルシネーション(幻覚)を測定するオープンなリーダーボードを公開しました。

🔍注目ポイント

複数のデータセットと評価指標を用いて、LLMが生成する誤った情報を客観的に比較・評価できる点が画期的です。

🔮これからどうなる

開発者はより信頼性の高いLLMを構築でき、ユーザーはLLMの限界を理解し適切に利用できるようになります。

このリーダーボードは、LLMのハルシネーションを定量的に評価し、モデル間の比較を可能にすることを目的としています。
複数のベンチマークと評価方法を採用しており、研究者や開発者がモデルの改善に役立てることができます。
オープンな取り組みであるため、コミュニティからの貢献も期待されています。
Hugging Face Blog ★4 LLM EN

AI Secure LLM安全性リーダーボードの紹介

要約を読む要約を閉じる
📰ニュース

Hugging FaceがAI Secureと協力し、LLMの安全性評価リーダーボードを発表しました。

🔍注目ポイント

このリーダーボードは、LLMの安全性ベンチマークを透明化し、モデル開発者が安全性を向上させるための指標を提供します。

🔮これからどうなる

開発者はより安全なLLMを構築しやすくなり、ユーザーはより信頼性の高いAIを利用できるようになります。

AI Secureは、LLMの安全性評価に特化した非営利団体で、Hugging Faceのオープンなプラットフォームを活用して、多様な安全性ベンチマークを統合しています。
これにより、モデルのハルシネーション、バイアス、有害なコンテンツ生成などのリスクを客観的に評価し、比較することが可能になります。
OpenAI Blog ★4 LLM EN

新しい埋め込みモデルとAPIアップデート

要約を読む要約を閉じる
📰ニュース

OpenAIが新しい埋め込みモデル、GPT-4 Turbo、モデレーションモデルを発表しました。

🔍注目ポイント

新しい埋め込みモデルは性能が向上し、API利用管理ツールも強化されています。

🔮これからどうなる

開発者はより高性能なモデルを効率的に利用でき、コスト削減の恩恵も受けられます。

OpenAIは、新しい埋め込みモデルの導入に加え、GPT-4 Turboとモデレーションモデルの更新を行いました。
また、API利用状況を管理する新しいツールも提供され、近いうちにGPT-3.5 Turboの価格引き下げも予定されています。
Hugging Face Blog ★4 LLM EN

Hugging FaceとGoogleがオープンAIコラボレーションで提携

要約を読む要約を閉じる
📰ニュース

Hugging FaceとGoogleがオープンAIの推進で戦略的パートナーシップを締結しました。

🔍注目ポイント

Google CloudのTPU v5eがHugging Faceユーザーに提供され、AIモデルのトレーニングと推論が加速されます。

🔮これからどうなる

開発者はより高性能なインフラでオープンソースAIモデルを開発・デプロイできるようになります。

この提携により、Hugging FaceのオープンソースAIプラットフォームとGoogleのAIインフラが結びつきます。
特に、Google Cloudの最新AIアクセラレータであるTPU v5eがHugging Faceのプラットフォームで利用可能になり、大規模なAIモデル開発がより効率的になります。
また、GoogleはHugging Faceに投資も行っています。
Hugging Face Blog ★4 LLM EN

LangChainエージェントとしてのオープンソースLLM

要約を読む要約を閉じる
📰ニュース

オープンソースLLMをLangChainエージェントとして活用する手法が紹介されました。

🔍注目ポイント

Hugging FaceのTransformersエージェントとLangChainを組み合わせ、多様なツール利用を可能にします。

🔮これからどうなる

開発者はより柔軟に、特定のタスクに特化したAIエージェントを構築できるようになります。

LangChainはLLMを搭載したアプリケーション開発を支援するフレームワークで、エージェントはLLMが利用可能なツールを決定し、実行する役割を担います。
Hugging FaceのTransformersエージェントは、PythonツールやHugging Face Hubのモデルを利用でき、LangChainと組み合わせることでその能力を拡張します。
これにより、オープンソースLLMの活用範囲が大きく広がります。
Hugging Face Blog ★4 LLM EN

低リソースASR向けW2V2-Bertのファインチューニング(Hugging Face Transformers使用)

要約を読む要約を閉じる
📰ニュース

Hugging Face Transformersを使って、低リソース言語の自動音声認識(ASR)モデルW2V2-Bertをファインチューニングする手法が紹介されました。

🔍注目ポイント

W2V2-Bertは、事前学習済みモデルとBERTの組み合わせにより、少ないデータでも高いASR性能を発揮できる点が技術的ポイントです。

🔮これからどうなる

データが少ない言語でも高品質な音声認識が可能になり、多言語対応のAIアシスタントや翻訳サービスの開発が加速します。

この手法は、特にリソースの限られた言語において、既存のASRモデルの性能を大幅に向上させることを目的としています。
Hugging FaceのTransformersライブラリを用いることで、複雑なモデルのファインチューニングプロセスが簡素化され、開発者がより手軽に高度なASRモデルを構築できるようになります。
これにより、これまでASR開発が困難だった言語圏でも、AI技術の恩恵を受けやすくなります。
Hugging Face Blog ★3 研究 EN

HuggingFaceにPatchTSMixerが登場

要約を読む要約を閉じる
📰ニュース

HuggingFaceが時系列予測モデルPatchTSMixerをライブラリに追加しました。

🔍注目ポイント

PatchTSMixerは、時系列データをパッチに分割し、MLPベースのアーキテクチャで効率的に処理します。

🔮これからどうなる

開発者は、複雑な時系列予測モデルをHuggingFace上で簡単に利用・構築できるようになります。

PatchTSMixerは、Transformerベースのモデルに代わる軽量な選択肢として注目されています。
特に、医療、金融、気象予測など、多岐にわたる分野での応用が期待されます。
HuggingFaceのエコシステムに統合されたことで、既存のツールとの連携も容易になります。