LLM

6681件
Hugging Face Blog ★4 LLM EN

SafeCoderの紹介

要約を読む要約を閉じる
📰ニュース

Hugging Faceがコード生成AIのセキュリティ脆弱性を検出・修正するSafeCoderを発表しました。

🔍注目ポイント

コード生成AIが生成するコードのセキュリティ脆弱性をリアルタイムで特定し、修正案を提示する点が画期的です。

🔮これからどうなる

開発者はより安全なコードを迅速に書けるようになり、ソフトウェア全体のセキュリティ向上に貢献します。

SafeCoderは、Hugging Faceのコード生成モデルを基盤とし、セキュリティ専門企業Contrast Securityの技術を統合しています。
これにより、開発者がコードを書いている最中に潜在的な脆弱性を検出し、修正を提案することで、開発ライフサイクルの早期段階でのセキュリティ対策を可能にします。
現在、プライベートプレビュー版が提供されています。
Hugging Face Blog ★4 LLM EN

IDEFICSの紹介:最先端の視覚言語モデルのオープンな再現

要約を読む要約を閉じる
📰ニュース

Hugging Faceが、最先端の視覚言語モデルIDEFICSをオープンソースで公開しました。

🔍注目ポイント

大規模なマルチモーダルデータセットLAION-2Bを使い、商用利用可能なモデルを再現しています。

🔮これからどうなる

研究者や開発者が、高性能な視覚言語モデルを自由に利用・改善できるようになります。

IDEFICSは、画像とテキストを理解し、質問応答や画像キャプション生成が可能です。
モデルは2つのサイズ(90億と800億パラメータ)で提供され、商用利用可能なデータセットで学習されているため、幅広い用途での活用が期待されます。
OpenAI Blog ★4 LLM EN

GPT-4をコンテンツモデレーションに活用

要約を読む要約を閉じる
📰ニュース

OpenAIがGPT-4をコンテンツポリシー策定とモデレーション判断に利用開始しました。

🔍注目ポイント

GPT-4により、コンテンツのラベリングの一貫性が向上し、ポリシー改善のサイクルが高速化されます。

🔮これからどうなる

人間によるモデレーションの負担が軽減され、より迅速かつ客観的なコンテンツ管理が可能になります。

GPT-4の導入により、ポリシーの曖昧さが減り、人間が判断に迷うケースが減少します。
これにより、ポリシーの改善がより迅速に行え、コンテンツモデレーションの効率と精度が向上することが期待されます。
最終的には、ユーザーにとってより安全なプラットフォームの実現に貢献します。
Hugging Face Blog ★4 LLM EN

🤗 Transformers を用いた Bark の最適化

要約を読む要約を閉じる
📰ニュース

Hugging FaceがBarkモデルの推論速度とメモリ効率を大幅に改善しました。

🔍注目ポイント

Transformersライブラリの最適化により、Barkの推論が最大10倍高速化し、メモリ使用量も削減されました。

🔮これからどうなる

より多くの開発者がBarkを効率的に利用できるようになり、音声生成AIの普及が加速するでしょう。

Barkはテキストから音声を生成するモデルですが、これまでは推論に時間がかかり、多くのメモリを必要としていました。
Hugging FaceはTransformersライブラリの最適化を通じて、この問題を解決し、より手軽にBarkを利用できる環境を整えました。
特に、CPUでの推論速度が大幅に向上しています。
Hugging Face Blog ★4 LLM EN

DPOでLlama 2をファインチューニング

要約を読む要約を閉じる
📰ニュース

Hugging FaceがLlama 2モデルをDPO(Direct Preference Optimization)でファインチューニングする手法を公開しました。

🔍注目ポイント

DPOは人間の選好データを直接利用し、報酬モデルなしでLLMの性能を向上させる効率的な手法です。

🔮これからどうなる

開発者はより少ない計算リソースで、高品質なLLMを特定のタスクやユーザーの好みに合わせて調整できるようになります。

従来のRLHF(強化学習と人間のフィードバック)は複雑で計算コストが高いですが、DPOは報酬モデルの学習を不要にし、直接ポリシーを最適化します。
これにより、より手軽にモデルの応答品質を改善できる可能性があります。
Hugging Faceは、この手法をLlama 2モデルに適用する具体的なコードとチュートリアルを提供しています。
Hugging Face Blog ★4 LLM EN

Swift Transformersのリリース:AppleデバイスでオンデバイスLLMを実行

要約を読む要約を閉じる
📰ニュース

Hugging FaceがSwift Transformersをリリースし、Appleデバイス上でLLMのオンデバイス実行を可能にしました。

🔍注目ポイント

Core ML ToolsとSwift APIを活用し、TransformerモデルをAppleのハードウェアで効率的に動かすための最適化がされています。

🔮これからどうなる

開発者は、プライバシーを保護しつつ、オフラインでも動作する高性能なAIアプリをAppleユーザーに提供できるようになります。

Swift Transformersは、Hugging FaceのTransformerモデルをCore ML形式に変換し、Swiftで簡単に利用できるライブラリです。
これにより、サーバーへのデータ送信なしに、デバイス上で直接LLM推論が可能になり、応答速度の向上とデータプライバシーの強化が期待されます。
特に、AppleのNeural Engineを最大限に活用できるよう設計されています。
Hugging Face Blog ★4 LLM EN

Hugging Face Inference EndpointsでMusicGenを素早くデプロイ

要約を読む要約を閉じる
📰ニュース

Hugging FaceがMusicGenをInference Endpointsで簡単にデプロイできる機能を提供開始しました。

🔍注目ポイント

複雑なインフラ設定なしに、数クリックでMusicGenモデルを本番環境に展開できる点が画期的です。

🔮これからどうなる

開発者は音楽生成AIの導入障壁が下がり、より迅速にアプリケーション開発を進められます。

MusicGenはMetaが開発した最先端の音楽生成モデルで、テキストプロンプトから高品質な音楽を生成できます。
Hugging Face Inference Endpointsは、モデルのホスティング、スケーリング、セキュリティなどを自動で管理してくれるサービスです。
これにより、開発者はモデルのデプロイにかかる時間と労力を大幅に削減できます。
Hugging Face Blog ★4 LLM EN

Huggy Lingo: Hugging Face Hubの言語メタデータを機械学習で改善

要約を読む要約を閉じる
📰ニュース

Hugging Faceが機械学習モデル「Huggy Lingo」を開発し、Hub上のモデルやデータセットの言語メタデータを自動で改善しています。

🔍注目ポイント

言語検出モデルと埋め込みモデルを組み合わせ、多言語データセットの言語構成をより正確に特定・分類しています。

🔮これからどうなる

開発者は、より正確な言語情報に基づいて適切なモデルやデータセットを効率的に見つけられるようになります。

Hugging Face Hubには多種多様な言語データが存在しますが、手動でのメタデータ付与は不完全でした。
Huggy Lingoは、既存の言語検出モデルと埋め込みモデルを活用し、モデルカードやデータセットの言語情報を自動で更新・補完します。
これにより、多言語対応モデルの検索精度が向上し、ユーザーエクスペリエンスが改善されます。
Hugging Face Blog ★4 LLM EN

FHEを用いた暗号化大規模言語モデルに向けて

要約を読む要約を閉じる
📰ニュース

完全準同型暗号(FHE)を使って、暗号化されたLLMの推論を可能にする研究が進んでいます。

🔍注目ポイント

FHEにより、データが暗号化されたままでもLLM推論が可能になり、プライバシー保護とセキュリティが向上します。

🔮これからどうなる

機密データを扱う企業や個人が、プライバシーを侵害せずにLLMを利用できるようになります。

現在のLLMは推論時にデータを平文で処理するため、プライバシーリスクがあります。
FHEは、暗号化されたデータ上で計算を実行できる技術で、この問題を解決する可能性を秘めています。
しかし、FHEは計算コストが高く、LLMへの適用には効率化が課題です。
この研究は、FHEとLLMの統合に向けた重要な一歩となります。
Hugging Face Blog ★4 LLM EN

Agents.jsの紹介:JavaScriptを使ってLLMにツールを与える

要約を読む要約を閉じる
📰ニュース

Hugging FaceがJavaScriptでLLMに外部ツールを使わせるためのライブラリ「Agents.js」を発表しました。

🔍注目ポイント

JavaScriptの既存ライブラリやAPIをLLMが直接利用できるようになり、開発者は複雑な連携を簡単に実装できます。

🔮これからどうなる

Web開発者がLLMアプリケーションをより簡単に構築できるようになり、LLMの機能拡張が加速するでしょう。

Agents.jsは、LLMが外部ツール(API、データベース、Webサービスなど)を呼び出すためのエージェントフレームワークです。
JavaScript環境で動作するため、既存のWeb開発スキルを活かしてLLMの機能を拡張できます。
これにより、LLMが単なるテキスト生成だけでなく、より複雑なタスクを実行できるようになります。
Hugging Face Blog ★3 LLM EN

オープンソースAIゲームジャムの結果

要約を読む要約を閉じる
📰ニュース

Hugging Faceが主催したオープンソースAIゲームジャムの受賞作品が発表されました。

🔍注目ポイント

AIモデルとオープンソースツールを活用し、革新的なゲームが多数開発されました。

🔮これからどうなる

AIとゲーム開発の融合が加速し、新たなクリエイティブな表現の可能性が広がります。

このゲームジャムは、Hugging FaceのオープンソースAIモデルとツールキットを使用して、開発者がAIを活用したゲームを制作することを奨励しました。
多くの参加者がAIの可能性を探り、独創的なゲームを提出し、その中から特に優れた作品が選出されました。
OpenAI Blog ★4 LLM EN

ChatGPTのカスタム指示機能

要約を読む要約を閉じる
📰ニュース

ChatGPTがユーザーの特定の指示や好みを記憶し、今後の会話全てに適用する機能が導入されました。

🔍注目ポイント

ユーザーが一度設定した指示をChatGPTが自動的に考慮し、よりパーソナライズされた応答を生成できるようになります。

🔮これからどうなる

ユーザーは毎回同じ指示を繰り返す手間が省け、より効率的で自分好みのChatGPT体験が得られます。

この新機能により、ChatGPTはユーザーの役割(例:プログラマー、ライター)や応答形式(例:簡潔に、詳細に)などを記憶し、全ての会話でその設定を反映します。
これにより、より一貫性のある、ユーザーの意図に沿った対話が可能になります。