LLM

6681件
OpenAI Blog ★4 LLM EN

Vox Mediaとのコンテンツおよび製品パートナーシップ

要約を読む要約を閉じる
📰ニュース

OpenAIとVox Mediaが提携し、ChatGPTのコンテンツ強化とVox MediaのAI製品開発を進めます。

🔍注目ポイント

Vox Mediaの高品質なコンテンツがChatGPTの回答精度を向上させ、ユーザー体験が向上します。

🔮これからどうなる

ChatGPTユーザーはより信頼性の高い情報にアクセスでき、Vox MediaはAIを活用した新製品で収益機会を拡大します。

このパートナーシップにより、Vox Mediaの豊富なコンテンツがChatGPTの出力に活用され、より質の高い情報提供が可能になります。
また、Vox MediaはOpenAIの技術を基盤に、視聴者や広告主向けの新しいAI製品を開発する予定です。
Hugging Face Blog ★4 LLM EN

テキスト生成推論のベンチマーク

要約を読む要約を閉じる
📰ニュース

Hugging Faceがテキスト生成推論のパフォーマンスを評価するツールを公開しました。

🔍注目ポイント

様々なモデルとハードウェア構成での推論速度とコストを比較できます。

🔮これからどうなる

開発者は最適なモデルとデプロイ戦略を選択し、コスト削減に繋げられます。

このベンチマークは、異なるモデル(Llama-2、Mistralなど)とハードウェア(NVIDIA H100、A100など)の組み合わせで、スループット、レイテンシー、コスト効率を測定します。
結果はインタラクティブなダッシュボードで確認でき、ユーザーは自身のニーズに合わせてフィルターをかけることができます。
Hugging Face Blog ★4 LLM EN

Sentence Transformers v3による埋め込みモデルの学習とファインチューニング

要約を読む要約を閉じる
📰ニュース

Sentence Transformersライブラリのv3がリリースされ、埋め込みモデルの学習とファインチューニングが改善されました。

🔍注目ポイント

新しい学習フレームワークとデータセットのサポートにより、より効率的で高性能な埋め込みモデルを構築できます。

🔮これからどうなる

開発者は、より高品質な埋め込みモデルを容易に作成し、多様なNLPアプリケーションに活用できるようになります。

Sentence Transformers v3は、埋め込みモデルの学習プロセスを簡素化し、大規模なデータセットにも対応できるよう設計されています。
これにより、検索、クラスタリング、レコメンデーションなど、テキスト理解を必要とする様々なタメインで性能向上が期待されます。
特に、大規模言語モデルの文脈で、より効率的な情報検索や知識表現が可能になります。
Hugging Face Blog ★4 LLM EN

Falcon 2: 5000Bトークン以上と11言語で学習された11Bパラメータの事前学習済み言語モデルとVLM

要約を読む要約を閉じる
📰ニュース

TIIが110億パラメータの新しい言語モデル「Falcon 2」とマルチモーダルモデル「Falcon 2 VLM」を発表しました。

🔍注目ポイント

Falcon 2は5兆トークン以上、11言語で学習され、同規模のモデルでトップクラスの性能を誇ります。

🔮これからどうなる

オープンソースとして公開され、研究者や開発者が高性能なAIモデルを自由に利用できるようになります。

Falcon 2は、テキスト生成に特化した「Falcon 2 11B」と、画像とテキストを理解する「Falcon 2 11B VLM」の2種類があります。
特にVLMは、画像に関する質問応答やキャプション生成が可能です。
オープンソースライセンスで提供され、商用利用も可能です。
Hugging Face Blog ★4 LLM EN

CyberSecEval 2 - 大規模言語モデルのサイバーセキュリティリスクと能力を評価する包括的フレームワーク

要約を読む要約を閉じる
📰ニュース

LLMのサイバーセキュリティ能力とリスクを評価する新しいフレームワーク「CyberSecEval 2」が発表されました。

🔍注目ポイント

悪意あるプロンプトへの耐性と、サイバーセキュリティタスク遂行能力を多角的に測定します。

🔮これからどうなる

LLM開発者はより安全なモデルを構築でき、利用者は信頼性の高いAIを選択できるようになります。

CyberSecEval 2は、悪意あるコード生成や脆弱性悪用といったリスクと、セキュリティ分析や防御策提案といった有用な能力の両面を評価します。
これにより、LLMがサイバーセキュリティ分野で安全かつ効果的に活用されるための指針を提供します。
前バージョンから評価項目が大幅に拡充され、より包括的な分析が可能になりました。
OpenAI Blog ★4 LLM EN

News Corpとの画期的な複数年グローバルパートナーシップ

要約を読む要約を閉じる
📰ニュース

OpenAIがNews Corpと提携し、生成AI製品に高品質なジャーナリズムコンテンツを統合。

🔍注目ポイント

News Corpの過去および現在の記事を学習データとして利用し、ユーザーへの情報提供を強化。

🔮これからどうなる

ユーザーは信頼性の高いニュースにアクセスでき、News Corpはコンテンツの価値を再認識。

この提携により、The Wall Street Journal, Barron’s, MarketWatch, Investor’s Business Daily, The New York Post, The Sun, The Times, The Sunday Times, The Australian, news.com.au, The Daily Telegraph, Herald Sun, The Courier Mail, The Advertiser, Gold Coast Bulletin, Cairns Post, The Geelong Advertiser, The Mercury, NT Newsなどの主要出版物のコンテンツがOpenAIのAIモデルの学習に利用されます。
また、News CorpはOpenAIの技術を活用し、ジャーナリズムの強化を目指します。
Hugging Face Blog ★4 LLM EN

Hugging Face Spaces Dev Modeの導入:シームレスな開発者体験のために

要約を読む要約を閉じる
📰ニュース

Hugging Face Spacesに、開発者がより効率的に作業できる「Dev Mode」が導入されました。

🔍注目ポイント

Dev Modeは、リアルタイムのコード編集と即時プレビューを可能にし、開発サイクルを大幅に短縮します。

🔮これからどうなる

Hugging Face Spacesを利用する開発者は、より迅速にアプリケーションを開発・デプロイできるようになります。

Hugging Face Spacesは、機械学習モデルのデモやアプリケーションをホストするためのプラットフォームです。
Dev Modeは、既存のSpacesの機能を拡張し、開発者がコード変更を即座に確認できるようにすることで、デバッグとイテレーションのプロセスを簡素化します。
これにより、開発者はよりスムーズにプロジェクトを進めることができます。
Hugging Face Blog ★4 LLM EN

Hugging FaceがAMD Instinct MI300 GPUに対応

要約を読む要約を閉じる
📰ニュース

Hugging FaceがAMD Instinct MI300 GPUでの推論と学習をサポートしました。

🔍注目ポイント

AMDの最新AIアクセラレータMI300Xで、Hugging Faceモデルの高速な実行が可能になります。

🔮これからどうなる

AMDハードウェアを利用する企業や研究者が、Hugging Faceの豊富なモデルをより効率的に活用できるようになります。

AMD Instinct MI300Xは、大規模言語モデル(LLM)の学習と推論に特化した高性能GPUです。
Hugging Faceは、PyTorchのROCmバックエンドを活用し、MI300X上でのモデル実行を最適化しました。
これにより、AMDのAIエコシステムがさらに強化され、開発者にとっての選択肢が広がります。
OpenAI Blog ★3 LLM EN

ChatGPTの音声はどのように選ばれたか

要約を読む要約を閉じる
📰ニュース

OpenAIがChatGPTの音声に5つの声を選定したプロセスを公開しました。

🔍注目ポイント

400以上の応募から業界トップの専門家と協力し、5つの声を選び抜いた点が特徴です。

🔮これからどうなる

ユーザーはより自然で魅力的な対話体験を享受できるようになります。

OpenAIは、ChatGPTの音声インターフェースのために、業界をリードするキャスティングおよびディレクションの専門家と協力しました。
400以上の応募の中から、最終的に5つの声が選ばれました。
この選定プロセスは、ユーザー体験の向上を目的としています。
OpenAI Blog ★4 LLM EN

ChatGPTのデータ分析機能が向上

要約を読む要約を閉じる
📰ニュース

ChatGPTのデータ分析機能が強化され、表やグラフとの対話、Google Drive/OneDriveからのファイル追加が可能に。

🔍注目ポイント

外部クラウドストレージとの連携により、より多様なデータソースを直接ChatGPTで分析できるようになった点。

🔮これからどうなる

ユーザーはより手軽に、多様な形式のデータをChatGPTで分析・可視化できるようになる。

今回のアップデートにより、ChatGPTは単なるテキストベースの対話だけでなく、表形式データやグラフの操作、さらにはGoogle DriveやMicrosoft OneDriveに保存されたファイルを直接取り込んで分析できるようになりました。
これにより、データ分析のワークフローが大幅に効率化され、より多くのビジネスユーザーや研究者が恩恵を受けられます。
OpenAI Blog ★4 LLM EN

OpenAIとRedditの提携

要約を読む要約を閉じる
📰ニュース

OpenAIがRedditと提携し、RedditのコンテンツをChatGPTなどの製品に統合します。

🔍注目ポイント

ChatGPTがRedditのリアルタイムで多様な情報を学習・利用できるようになります。

🔮これからどうなる

ユーザーはChatGPTを通じて、より最新で人間味のある情報にアクセスできるようになります。

この提携により、RedditのAPIがOpenAIのモデルに提供され、RedditのコンテンツがChatGPTのトレーニングデータとして活用されます。
これにより、ChatGPTはRedditコミュニティの活発な議論や最新トレンドを反映した情報を提供できるようになります。
Hugging Face Blog ★4 LLM EN

キーバリューキャッシュ量子化による長文生成の実現

要約を読む要約を閉じる
📰ニュース

LLMの長文生成能力を向上させるため、KVキャッシュの量子化手法が開発されました。

🔍注目ポイント

KVキャッシュを量子化することでメモリ使用量を大幅に削減し、GPUメモリの制約を緩和します。

🔮これからどうなる

より長いコンテキストを扱えるようになり、複雑なタスクや大規模な文書処理が可能になります。

LLMの推論では、過去のトークンのキーとバリューを保存するKVキャッシュがメモリを大量に消費します。
この量子化手法は、KVキャッシュの精度を保ちつつサイズを縮小することで、GPUメモリのボトルネックを解消し、より長いシーケンスの生成を可能にします。
特に、Hugging Face Transformersライブラリに統合され、手軽に利用できる点が特徴です。