新着ニュース

24302件
Hugging Face Blog ★3 研究 EN

深掘り:Hugging Face Optimum Graphcore上のVision Transformers

要約を読む要約を閉じる
📰ニュース

Hugging Face Optimum GraphcoreでVision Transformer (ViT) モデルを効率的に実行する方法が解説されました。

🔍注目ポイント

Graphcore IPUの並列処理能力を活かし、ViTモデルの推論を高速化・最適化する技術が紹介されています。

🔮これからどうなる

AI開発者は、Hugging FaceとGraphcoreの組み合わせで、ViTモデルのデプロイと実行をより効率的に行えるようになります。

Vision Transformerは画像認識タスクで高い性能を発揮するモデルですが、計算コストが高いという課題があります。
Hugging Face Optimum Graphcoreは、GraphcoreのIPU (Intelligence Processing Unit) を利用して、これらのモデルのパフォーマンスを最適化するためのツールキットです。
本記事では、ViTモデルをIPU上で動かすための具体的な手順と、その最適化の仕組みについて詳しく解説しています。
Hugging Face Blog ★4 LLM EN

Hugging Faceのtransformers、accelerate、bitsandbytesを用いた大規模Transformer向け8ビット行列乗算のやさしい入門

要約を読む要約を閉じる
📰ニュース

大規模Transformerモデルのメモリ効率を大幅に向上させる8ビット行列乗算が導入されました。

🔍注目ポイント

bitsandbytesライブラリとHugging Faceのツール群を組み合わせ、モデルの精度を維持しつつメモリ使用量を削減します。

🔮これからどうなる

より多くのユーザーが限られたGPUリソースで大規模モデルを扱えるようになり、AI研究開発が加速します。

8ビット量子化は、モデルの重みを低精度で表現することでメモリ消費を抑える技術です。
Hugging Faceのtransformers、accelerateライブラリとbitsandbytesを組み合わせることで、既存のモデルを簡単に8ビット化し、推論だけでなくファインチューニングも可能になります。
これにより、RTX 3090のようなコンシューマー向けGPUでも大きなモデルを動かせるようになります。
Hugging Face Blog ★3 研究 EN

Skopsの紹介

要約を読む要約を閉じる
📰ニュース

Hugging Faceが機械学習モデルのデプロイを簡素化するライブラリ「Skops」を発表しました。

🔍注目ポイント

Scikit-learnモデルをHugging Face Hubに直接アップロード・ロードできる点が画期的な技術ポイントです。

🔮これからどうなる

データサイエンティストや開発者は、モデルの共有とデプロイがより簡単になります。

Skopsは、Scikit-learnモデルをHugging Face Hubに保存し、他のユーザーと共有するためのツールです。
これにより、モデルのバージョン管理や共同作業が容易になり、機械学習プロジェクトの効率化が期待されます。
将来的には、Scikit-learn以外のライブラリにも対応する予定です。
Hugging Face Blog ★3 研究 EN

Hugging FaceのTensorFlow哲学

要約を読む要約を閉じる
📰ニュース

Hugging FaceがTensorFlowコミュニティへの継続的なコミットメントを表明しました。

🔍注目ポイント

TensorFlowの強みであるプロダクション環境での安定性とスケーラビリティを評価しています。

🔮これからどうなる

TensorFlowユーザーはHugging Faceのエコシステムを安心して利用し続けられます。

Hugging Faceは、PyTorchが研究分野で人気がある一方で、TensorFlowがプロダクション環境で広く利用されていることを認識しています。
そのため、TransformersライブラリやDiffusersライブラリなど、主要なライブラリでTensorFlowサポートを維持・強化していく方針です。
これにより、企業や大規模システムでのAI導入を支援します。
Hugging Face Blog ★3 研究 EN

Hugging Face ViTをKubernetesとTF Servingでデプロイ

要約を読む要約を閉じる
📰ニュース

Hugging FaceのVision Transformer (ViT) モデルをKubernetes上でTensorFlow Servingを使ってデプロイする方法が解説されました。

🔍注目ポイント

Kubernetesの柔軟性とTF Servingの効率性を組み合わせ、大規模なMLモデルの運用を容易にする技術が紹介されています。

🔮これからどうなる

企業や開発者は、Hugging Faceモデルを本番環境で安定かつスケーラブルに運用できるようになります。

このガイドでは、ViTモデルをHugging Faceからエクスポートし、TensorFlow SavedModel形式に変換する手順が示されています。
その後、Kubernetesクラスター上にTF Servingをセットアップし、モデルをデプロイする具体的な方法が解説されており、スケーリングや監視についても触れられています。
OpenAI Blog ★3 AI倫理 EN

コンテンツモデレーションツールの新規改善

要約を読む要約を閉じる
📰ニュース

OpenAIがAPI開発者向けに、より高性能なコンテンツモデレーションツールを無償提供開始しました。

🔍注目ポイント

既存のコンテンツフィルターを改良した「Moderation endpoint」により、不適切なコンテンツ検出精度が向上しました。

🔮これからどうなる

開発者は安全なAIアプリケーションを構築しやすくなり、ユーザーはより安心してサービスを利用できます。

この新しいツールは、OpenAI APIを通じて利用可能で、以前のコンテンツフィルターよりも効率的かつ効果的に機能します。
これにより、AI生成コンテンツにおける倫理的な問題や不適切な利用の防止に貢献します。
Hugging Face Blog ★4 LLM EN

Sentence Transformersモデルの訓練とファインチューニング

要約を読む要約を閉じる
📰ニュース

Hugging FaceがSentence Transformersモデルの訓練とファインチューニングに関するガイドを公開しました。

🔍注目ポイント

事前学習済みモデルを特定のタスクやデータセットに合わせて効率的に調整する手法が解説されています。

🔮これからどうなる

開発者はより高性能な埋め込みモデルを簡単に作成・利用できるようになります。

Sentence Transformersは、文や段落を意味的に類似したベクトル空間にマッピングするモデルです。
このガイドでは、Hugging Face TransformersライブラリとDatasetsライブラリを活用し、カスタムデータセットでモデルを訓練・ファインチューニングする具体的な手順が示されています。
これにより、検索、クラスタリング、意味的類似度計算などのタスクで高い性能を発揮するモデルを構築できます。
Hugging Face Blog ★4 研究 EN

近接方策最適化 (PPO)

要約を読む要約を閉じる
📰ニュース

強化学習アルゴリズムの一つであるPPOについて解説しています。

🔍注目ポイント

PPOは方策勾配法を改良し、安定した学習と高い性能を両立するアルゴリズムです。

🔮これからどうなる

ロボット制御やゲームAIなど、様々な強化学習タスクの性能向上に貢献しています。

PPOは、方策の更新幅を制限することで、学習の安定性を高めています。
これにより、従来の方策勾配法で問題となっていた、方策の急激な変化による性能低下を防ぐことができます。
また、実装が比較的容易であるため、広く利用されています。
Hugging Face Blog ★4 ビジネス EN

プライベートハブの紹介:機械学習で構築する新しい方法

要約を読む要約を閉じる
📰ニュース

Hugging Faceが企業向けのプライベートハブを発表しました。

🔍注目ポイント

企業がモデルやデータセットを安全に共有・管理できるプライベートなMLプラットフォームです。

🔮これからどうなる

企業はセキュリティとプライバシーを保ちつつ、Hugging Faceのエコシステムを活用できます。

Hugging FaceのPrivate Hubは、企業が機械学習モデルやデータセットを組織内で安全に共有・管理するためのソリューションです。
これにより、企業はオープンソースの利点を享受しつつ、機密情報を保護しながらML開発を進めることが可能になります。
アクセス制御や監査ログなどの機能も提供されます。
Hugging Face Blog ★4 LLM EN

Nyströmformer: Nyström法による線形時間・メモリでの自己注意近似

要約を読む要約を閉じる
📰ニュース

Transformerの自己注意メカニズムをNyström法で近似し、計算量とメモリ使用量を線形に削減しました。

🔍注目ポイント

Nyström法を用いることで、二次関数的に増加する自己注意の計算コストを大幅に効率化しています。

🔮これからどうなる

大規模なTransformerモデルの学習や推論がより高速かつ低コストになり、利用が拡大するでしょう。

Transformerモデルは自然言語処理分野で大きな成功を収めていますが、その核となる自己注意メカニズムは入力シーケンス長に対して計算量が二次関数的に増加するという課題がありました。
Nyströmformerは、Nyström法という数学的手法を用いて、この自己注意の計算を線形時間・線形メモリに近似することで、効率的なモデルを実現しています。
Hugging Face Blog ★4 AI倫理 EN

米国国家AI研究リソース中間報告書へのコメント

要約を読む要約を閉じる
📰ニュース

米国国家AI研究リソース(NAIRR)の中間報告書が公開され、Hugging Faceがコメントを発表しました。

🔍注目ポイント

NAIRRは、AI研究の民主化とアクセス向上を目指し、計算資源やデータ、ツールを提供する構想です。

🔮これからどうなる

AI研究者やスタートアップが、大規模な計算資源なしに最先端研究に取り組めるようになります。

Hugging Faceは、オープンソースAIモデルとデータセットの重要性を強調し、NAIRRがこれらを統合し、アクセスしやすいプラットフォームとなることを期待しています。
特に、透明性と公平なアクセスが、AIエコシステム全体の発展に不可欠だと指摘しています。
OpenAI Blog ★4 LLM EN

言語モデルの「穴埋め」効率的なトレーニング

要約を読む要約を閉じる
📰ニュース

OpenAIが、テキストの途中の欠落部分を埋める言語モデルの効率的なトレーニング手法を発表しました。

🔍注目ポイント

テキストの途中を埋める「インフィル」タスクにおいて、従来の左から右への生成モデルよりも効率的な学習を実現しました。

🔮これからどうなる

コード補完や文章校正など、既存のテキストを編集・補完するAIツールの性能向上に貢献するでしょう。

この手法は、テキストの欠落部分を予測する際に、前後の文脈をより効果的に利用できるようにモデルを訓練します。
これにより、従来のモデルに比べて少ない計算リソースで高い精度を達成できる可能性があります。
特に、プログラミングにおけるコードの自動補完や、執筆における文章の推敲支援など、具体的な応用が期待されます。