研究

5297件
OpenAI Blog ★4 AI倫理 EN

AIへの民主的インプット助成プログラム:学んだ教訓と実施計画

要約を読む要約を閉じる
📰ニュース

OpenAIがAIの集団的ガバナンスを設計する10チームに助成金を提供しました。

🔍注目ポイント

世界中の多様なチームがAIガバナンスのアイデアとツールを開発した点です。

🔮これからどうなる

AIの意思決定プロセスに一般市民の意見が反映される可能性が高まります。

OpenAIは、AIの集団的ガバナンスに関するアイデアやツールを開発するため、世界中の10チームに助成金を提供しました。
このプログラムを通じて得られた教訓をまとめ、今後の研究者やエンジニアの参加を呼びかけています。
AIの民主的な意思決定プロセスを構築することを目指しています。
Hugging Face Blog ★4 画像生成 EN

ONNX RuntimeとOliveでSD TurboおよびSDXL Turboの推論を高速化

要約を読む要約を閉じる
📰ニュース

Hugging FaceがONNX RuntimeとOliveを活用し、SD TurboおよびSDXL Turboの推論速度を大幅に向上させました。

🔍注目ポイント

最適化されたONNXモデルとOliveの自動最適化ツールチェーンにより、推論レイテンシが最大2倍短縮されました。

🔮これからどうなる

ユーザーはより高速で効率的な画像生成を体験でき、リアルタイムアプリケーションへの応用が広がります。

SD Turboはリアルタイム画像生成に特化したモデルで、SDXL Turboは高品質な画像生成が可能です。
ONNX Runtimeは機械学習モデルの推論を高速化するオープンソースライブラリであり、OliveはONNX Runtimeと連携してモデルを自動で最適化するツールです。
これらの技術を組み合わせることで、推論性能が飛躍的に向上しました。
Hugging Face Blog ★4 LLM EN

Hugging Faceリーダーボードを自分で設定するガイド:Vectaraの幻覚リーダーボードを使ったエンドツーエンドの例

要約を読む要約を閉じる
📰ニュース

Hugging Faceが、独自のAIモデル評価リーダーボードを簡単に構築できるガイドを公開しました。

🔍注目ポイント

Hugging Face SpacesとGradioを活用し、モデルの評価指標を可視化・比較できるシステムを構築できます。

🔮これからどうなる

企業や研究者が、特定のタスクに特化したモデルの性能を客観的に評価し、比較できるようになります。

このガイドは、VectaraのLLM幻覚検出リーダーボードを例に、データセットの準備から評価スクリプトの作成、Hugging Face Spacesでのデプロイまでを網羅しています。
これにより、モデルの透明性と信頼性を高め、より良いモデル開発を促進することが期待されます。
Hugging Face Blog ★4 LLM EN

Unslothと🤗 TRLでLLMのファインチューニングを2倍高速化

要約を読む要約を閉じる
📰ニュース

UnslothとHugging Face TRLライブラリの統合により、LLMのファインチューニングが大幅に高速化されました。

🔍注目ポイント

Unslothは、メモリ効率の良い最適化とカスタムカーネルにより、ファインチューニングの速度と効率を向上させます。

🔮これからどうなる

開発者はより迅速にLLMをカスタマイズでき、研究やビジネスでのAIモデル開発が加速します。

Unslothは、LoRAやQLoRAなどの低ランク適応手法と組み合わせることで、特にGPUメモリが限られている環境で効果を発揮します。
Hugging FaceのTRLライブラリとの統合により、既存のワークフローに簡単に組み込むことが可能です。
これにより、より多くのユーザーが効率的にLLMをファインチューニングできるようになります。
Hugging Face Blog ★4 画像生成 EN

aMUSEdの紹介:効率的なテキストから画像生成

要約を読む要約を閉じる
📰ニュース

Hugging Faceが、より効率的なテキストから画像生成モデル「aMUSEd」を発表しました。

🔍注目ポイント

aMUSEdは、既存モデルより少ない計算リソースで高品質な画像を生成できるのが特徴です。

🔮これからどうなる

開発者はより低コストで画像生成AIを利用でき、クリエイターは高速な画像生成を享受できます。

aMUSEdは、GoogleのMUSEモデルをベースにしており、拡散モデルとは異なるアーキテクチャを採用しています。
これにより、推論速度が向上し、より少ないステップで画像を生成することが可能です。
特にリソースが限られた環境での利用に適しています。
Hugging Face Blog ★4 LLM EN

世界のLoRAトレーニングスクリプトよ、団結せよ!

要約を読む要約を閉じる
📰ニュース

Hugging FaceがLoRAトレーニングスクリプトの標準化と共有を促進する取り組みを発表しました。

🔍注目ポイント

異なるモデルやフレームワークに対応するLoRAスクリプトを統合し、再利用性を高めることが技術的ポイントです。

🔮これからどうなる

開発者はLoRAの学習プロセスを効率化でき、より多様なモデルでLoRAを簡単に利用できるようになります。

LoRAは大規模モデルのファインチューニングを効率的に行う手法ですが、モデルやフレームワークごとに異なるスクリプトが必要でした。
Hugging Faceは、これらのスクリプトを統一し、コミュニティで共有・改善できるプラットフォームを提供することで、LoRAの普及と利用を加速させます。
これにより、研究者や開発者がLoRAをより手軽に活用できるようになることが期待されます。
Hugging Face Blog ★4 LLM EN

Whisper推論を2倍高速化する投機的デコーディング

要約を読む要約を閉じる
📰ニュース

Hugging FaceがWhisperモデルの推論速度を投機的デコーディングで2倍に向上させました。

🔍注目ポイント

小型モデルで次トークンを予測し、大型モデルで検証することで、計算量を大幅に削減します。

🔮これからどうなる

Whisperの音声認識がより高速になり、リアルタイムアプリケーションでの利用が拡大するでしょう。

投機的デコーディングは、高速な小型モデル(ドラフトモデル)で候補シーケンスを生成し、高精度な大型モデル(ターゲットモデル)で一括検証する手法です。
これにより、大型モデルの計算を効率化し、推論時間を短縮します。
特にWhisperのようなTransformerベースのモデルで効果を発揮します。
Hugging Face Blog ★5 LLM EN

2023年、オープンLLMの年

要約を読む要約を閉じる
📰ニュース

2023年はオープンソースのLLMが急速に進化し、その性能が商用モデルに匹敵するレベルに達した。

🔍注目ポイント

オープンモデルは透明性、カスタマイズ性、コスト効率の高さで、AI開発を民主化した点が画期的。

🔮これからどうなる

企業や研究者は独自のAIモデルを構築しやすくなり、イノベーションが加速する。

Hugging Faceのブログ記事は、2023年がオープンソースLLMにとって画期的な年であったことを強調している。
Llama 2やMistral 7Bのようなモデルが登場し、その性能はGPT-3.5のようなクローズドモデルに匹敵、あるいは凌駕するレベルに達した。
これにより、AI開発の敷居が下がり、より多くの組織がAIを活用できるようになる。
OpenAI Blog ★4 AI倫理 EN

スーパーアラインメント・ファストグラント

要約を読む要約を閉じる
📰ニュース

OpenAIが超人間的AIシステムの安全性とアラインメント研究に1000万ドルの助成金を提供します。

🔍注目ポイント

弱から強への汎化、解釈可能性、スケーラブルな監視など、AIの安全性を高める技術研究が対象です。

🔮これからどうなる

AIの潜在的リスクを低減し、より安全で信頼性の高いAI開発を促進する可能性があります。

この助成金は、AIが人間を超える能力を持つようになった際の安全性確保を目的としています。
特に、人間が理解できない複雑なAIシステムの挙動を制御・理解するための技術開発が重視されています。
研究分野は多岐にわたり、世界中の研究者からの提案を募っています。
OpenAI Blog ★4 AI倫理 EN

エージェントAIシステムのガバナンス実践

要約を読む要約を閉じる
📰ニュース

OpenAIがエージェントAIシステムの安全な開発と展開のためのガバナンス実践を提案しました。

🔍注目ポイント

AIが自律的に行動するエージェントシステムの潜在リスクを管理するための具体的な枠組みを示しています。

🔮これからどうなる

AI開発者や政策立案者が、より安全で信頼性の高いエージェントAIを構築・運用できるようになります。

エージェントAIは、目標設定から計画、実行までを自律的に行うAIシステムです。
その能力の高さから、意図しない行動や悪用などのリスクも増大します。
OpenAIは、これらのリスクを軽減するための技術的・非技術的アプローチを提唱しており、業界全体での議論と協力の必要性を強調しています。
OpenAI Blog ★4 AI倫理 EN

弱から強への汎化

要約を読む要約を閉じる
📰ニュース

OpenAIが、弱い監督者で強いモデルを制御する「弱から強への汎化」という新しい研究方向を発表しました。

🔍注目ポイント

深層学習の汎化能力を利用し、性能の低いAIや人間が、より高性能なAIを安全に監督する技術的アプローチです。

🔮これからどうなる

将来の超知能AIの安全な制御とアラインメントに貢献し、AIの危険性を低減する可能性があります。

この研究は、OpenAIのスーパーアラインメント(超知能AIの安全な制御)の取り組みの一環です。
初期の結果は有望で、より弱い監督者が強いモデルを効果的に制御できる可能性を示唆しています。
これにより、将来のAIが人類の価値観と一致するように導くための重要なステップとなります。
Hugging Face Blog ★4 LLM EN

Mixtralの紹介 - Hugging FaceにおけるSOTA Mixture of Experts

要約を読む要約を閉じる
📰ニュース

Hugging Faceが、高性能なMixture of Expertsモデル「Mixtral」を公開しました。

🔍注目ポイント

Mixtralは、複数の専門家ネットワークを組み合わせることで、効率的に高い性能を発揮します。

🔮これからどうなる

開発者は、より高性能で効率的なLLMをアプリケーションに組み込めるようになります。

Mixtralは、オープンソースのLLMとして、多くのベンチマークで既存モデルを上回る性能を示しています。
特に、推論コストを抑えつつ高い精度を維持できる点が特徴です。
Hugging Face上での公開により、研究者や開発者が容易にアクセスし、利用・改善できるようになります。