研究

5297件
Hugging Face Blog ★4 画像生成 EN

SegMoE: Segmind Diffusionエキスパート混合モデル

要約を読む要約を閉じる
📰ニュース

Segmindが、高速かつ高品質な画像生成を可能にする新しい拡散モデル「SegMoE」を発表しました。

🔍注目ポイント

Mixture-of-Experts (MoE) アーキテクチャを拡散モデルに適用し、推論速度を大幅に向上させつつ画質を維持しています。

🔮これからどうなる

画像生成AIの利用者は、より速く、より効率的に高品質な画像を生成できるようになります。

SegMoEは、複数の専門家(エキスパート)ネットワークを組み合わせることで、必要な部分のみを計算し、推論時間を短縮します。
特に、Stable Diffusion 1.5と比較して最大2.5倍の高速化を実現し、同時にFIDスコアも改善しています。
この技術は、リソースが限られた環境でも高性能な画像生成を可能にします。
Hugging Face Blog ★4 LLM EN

NPHardEvalリーダーボード:複雑性クラスと動的更新を通じて大規模言語モデルの推論能力を解明

要約を読む要約を閉じる
📰ニュース

LLMの推論能力を評価する新しいベンチマーク「NPHardEvalリーダーボード」が公開されました。

🔍注目ポイント

計算複雑性理論に基づき、NP困難問題を含む多様な推論タスクでLLMを評価します。

🔮これからどうなる

LLM開発者は、モデルの推論能力の弱点を特定し、より高度なAI開発に役立てられます。

NPHardEvalは、従来のベンチマークでは捉えきれなかったLLMの推論能力の限界を明らかにするために設計されました。
動的に更新されるリーダーボード形式で、研究コミュニティが継続的に貢献できるオープンなプラットフォームです。
これにより、モデルの進化に合わせて評価基準も進化し、より実用的な推論能力の向上を促します。
OpenAI Blog ★3 AI倫理 EN

NISTのAIに関する大統領令への対応

要約を読む要約を閉じる
📰ニュース

OpenAIがNISTのAIに関する大統領令に対する情報提供要請に応じた。

🔍注目ポイント

AIの安全性、セキュリティ、テスト、評価に関する技術的アプローチを共有した。

🔮これからどうなる

AI開発における政府と企業の連携を強化し、信頼できるAIの普及を促進する。

NISTはAIに関する大統領令に基づき、AIの安全性とセキュリティに関する情報提供を求めていた。
OpenAIは、AIのテスト、評価、リスク管理に関する自社の取り組みや知見を提供することで、AIの信頼性向上に貢献する姿勢を示した。
Hugging Face Blog ★4 LLM EN

オープンLLMを用いた憲法AI

要約を読む要約を閉じる
📰ニュース

Hugging FaceがオープンソースLLMで憲法AIを実装する手法を公開しました。

🔍注目ポイント

人間によるフィードバックなしに、AIが倫理的原則に基づいて自己修正する技術です。

🔮これからどうなる

より安全で倫理的なAIモデルの開発が加速し、悪用リスクの低減に貢献します。

憲法AIは、特定の原則(憲法)に基づきAIが自身の出力を評価・修正するプロセスです。
これにより、有害なコンテンツ生成を防ぎ、AIの振る舞いをより望ましい方向に導きます。
Hugging Faceは、この手法をオープンソースモデルで実現する具体的な方法とコードを提供しています。
Hugging Face Blog ★4 LLM EN

Hugging Faceにパッチ時系列トランスフォーマーが登場

要約を読む要約を閉じる
📰ニュース

Hugging Faceが時系列予測モデル「Patch Time Series Transformer (PatchTST)」をライブラリに追加しました。

🔍注目ポイント

PatchTSTは、時系列データをパッチに分割し、トランスフォーマーで処理することで、高い予測精度と効率を実現します。

🔮これからどうなる

開発者は、複雑な時系列予測モデルをHugging Faceを通じて簡単に利用・構築できるようになります。

PatchTSTは、Googleの研究者によって開発されたモデルで、従来の時系列モデルに比べて、特に長期間の予測において優れた性能を発揮します。
Hugging Faceへの統合により、PyTorchやTensorFlowといった主要なフレームワークでの利用が容易になり、幅広い応用が期待されます。
OpenAI Blog ★4 AI倫理 EN

LLM支援による生物学的脅威作成の早期警戒システム構築

要約を読む要約を閉じる
📰ニュース

OpenAIがLLMが生物学的脅威作成を支援するリスクを評価するシステムを開発中。

🔍注目ポイント

GPT-4が生物学的脅威作成の精度をわずかに向上させる可能性を評価した。

🔮これからどうなる

AIの悪用リスクを早期に特定し、社会全体の安全保障に貢献する。

生物学の専門家と学生を対象とした評価で、GPT-4が生物学的脅威作成の精度をわずかに向上させる可能性が示された。
この結果は決定的ではないが、今後の研究と議論の出発点となる。
OpenAIは、AIの安全な開発と利用に向けた取り組みの一環として、この早期警戒システムの構築を進めている。
Hugging Face Blog ★4 LLM EN

XeonでStarCoderを🤗 Optimum Intelで高速化:Q8/Q4と投機的デコーディング

要約を読む要約を閉じる
📰ニュース

Hugging FaceのStarCoderモデルがIntel Xeonプロセッサ上で大幅に高速化されました。

🔍注目ポイント

Optimum IntelライブラリとOpenVINOにより、Q8/Q4量子化と投機的デコーディングを組み合わせ、推論速度を向上させています。

🔮これからどうなる

開発者はIntel Xeon環境でStarCoderをより効率的に利用でき、コストと時間の削減に繋がります。

StarCoderはコード生成に特化した大規模言語モデルです。
今回の最適化により、Q8量子化で最大2.4倍、Q4量子化で最大3.1倍の高速化を実現しました。
特に投機的デコーディングは、より小さなモデルで次のトークンを予測し、大きなモデルで検証することで、推論速度をさらに向上させます。
Hugging Face Blog ★4 LLM EN

大規模言語モデルのハルシネーションを測定するオープンな取り組み「ハルシネーションリーダーボード」

要約を読む要約を閉じる
📰ニュース

Hugging Faceが大規模言語モデルのハルシネーション(幻覚)を測定するオープンなリーダーボードを公開しました。

🔍注目ポイント

複数のデータセットと評価指標を用いて、LLMが生成する誤った情報を客観的に比較・評価できる点が画期的です。

🔮これからどうなる

開発者はより信頼性の高いLLMを構築でき、ユーザーはLLMの限界を理解し適切に利用できるようになります。

このリーダーボードは、LLMのハルシネーションを定量的に評価し、モデル間の比較を可能にすることを目的としています。
複数のベンチマークと評価方法を採用しており、研究者や開発者がモデルの改善に役立てることができます。
オープンな取り組みであるため、コミュニティからの貢献も期待されています。
Hugging Face Blog ★4 LLM EN

AI Secure LLM安全性リーダーボードの紹介

要約を読む要約を閉じる
📰ニュース

Hugging FaceがAI Secureと協力し、LLMの安全性評価リーダーボードを発表しました。

🔍注目ポイント

このリーダーボードは、LLMの安全性ベンチマークを透明化し、モデル開発者が安全性を向上させるための指標を提供します。

🔮これからどうなる

開発者はより安全なLLMを構築しやすくなり、ユーザーはより信頼性の高いAIを利用できるようになります。

AI Secureは、LLMの安全性評価に特化した非営利団体で、Hugging Faceのオープンなプラットフォームを活用して、多様な安全性ベンチマークを統合しています。
これにより、モデルのハルシネーション、バイアス、有害なコンテンツ生成などのリスクを客観的に評価し、比較することが可能になります。
Hugging Face Blog ★4 LLM EN

低リソースASR向けW2V2-Bertのファインチューニング(Hugging Face Transformers使用)

要約を読む要約を閉じる
📰ニュース

Hugging Face Transformersを使って、低リソース言語の自動音声認識(ASR)モデルW2V2-Bertをファインチューニングする手法が紹介されました。

🔍注目ポイント

W2V2-Bertは、事前学習済みモデルとBERTの組み合わせにより、少ないデータでも高いASR性能を発揮できる点が技術的ポイントです。

🔮これからどうなる

データが少ない言語でも高品質な音声認識が可能になり、多言語対応のAIアシスタントや翻訳サービスの開発が加速します。

この手法は、特にリソースの限られた言語において、既存のASRモデルの性能を大幅に向上させることを目的としています。
Hugging FaceのTransformersライブラリを用いることで、複雑なモデルのファインチューニングプロセスが簡素化され、開発者がより手軽に高度なASRモデルを構築できるようになります。
これにより、これまでASR開発が困難だった言語圏でも、AI技術の恩恵を受けやすくなります。
Hugging Face Blog ★3 研究 EN

HuggingFaceにPatchTSMixerが登場

要約を読む要約を閉じる
📰ニュース

HuggingFaceが時系列予測モデルPatchTSMixerをライブラリに追加しました。

🔍注目ポイント

PatchTSMixerは、時系列データをパッチに分割し、MLPベースのアーキテクチャで効率的に処理します。

🔮これからどうなる

開発者は、複雑な時系列予測モデルをHuggingFace上で簡単に利用・構築できるようになります。

PatchTSMixerは、Transformerベースのモデルに代わる軽量な選択肢として注目されています。
特に、医療、金融、気象予測など、多岐にわたる分野での応用が期待されます。
HuggingFaceのエコシステムに統合されたことで、既存のツールとの連携も容易になります。
Hugging Face Blog ★4 LLM EN

直接選好最適化手法を用いたLLMの選好チューニング

要約を読む要約を閉じる
📰ニュース

LLMの性能向上に不可欠な選好チューニングを、直接選好最適化(DPO)手法で効率的に行う方法が紹介されました。

🔍注目ポイント

DPOは、人間の選好データから直接モデルを最適化するため、従来のRLHFよりも安定して高性能なモデルを生成できます。

🔮これからどうなる

より高品質でユーザーの意図に沿ったLLMが開発され、多様なAIアプリケーションの性能向上が期待されます。

従来の強化学習を用いたRLHFは複雑で不安定な課題がありましたが、DPOはこれを解決するシンプルな手法です。
Hugging FaceのTunerライブラリを使うことで、DPOやその他の選好チューニング手法を簡単に実装し、モデルの性能を向上させることができます。
これにより、開発者はより効率的に高性能なLLMを構築できるようになります。