LLM

6681件
Hugging Face Blog ★4 LLM EN

Xeonで🤗 Optimum IntelによるSetFit推論を爆速化

要約を読む要約を閉じる
📰ニュース

Hugging FaceとIntelが協力し、SetFitモデルの推論速度を大幅に向上させました。

🔍注目ポイント

Optimum IntelライブラリとIntel Xeonプロセッサの組み合わせにより、推論レイテンシが最大10倍削減されました。

🔮これからどうなる

企業や開発者は、より高速かつ効率的にSetFitモデルをデプロイし、コストを削減できます。

SetFitは、少量のラベル付きデータで高性能なテキスト分類器を構築できる効率的な手法です。
Optimum Intelは、Intelハードウェア上でのHugging Faceモデルのパフォーマンスを最適化するライブラリで、ONNX RuntimeとIntel® Extension for PyTorchを活用しています。
この最適化により、リアルタイムアプリケーションでの利用がさらに現実的になります。
OpenAI Blog ★4 LLM EN

法務専門家向けモデルのカスタマイズ

要約を読む要約を閉じる
📰ニュース

OpenAIがHarveyと提携し、法務専門家向けに特化したカスタムモデルを開発しました。

🔍注目ポイント

法務分野の膨大なデータでモデルを訓練し、専門用語や法的推論の精度を高めています。

🔮これからどうなる

弁護士や法律事務所は、リサーチや文書作成の効率を大幅に向上させられます。

Harveyは、法務分野に特化したAIツールを提供するスタートアップです。
OpenAIの基盤モデルを法務データで追加学習させることで、より実用的なAIアシスタントを実現します。
これにより、複雑な法的文書の分析や契約書のレビューなどがより迅速かつ正確に行えるようになります。
OpenAI Blog ★4 LLM EN

ChatGPTをすぐに使い始めよう

要約を読む要約を閉じる
📰ニュース

OpenAIがChatGPTの利用にアカウント登録を不要にし、即時アクセスを可能にしました。

🔍注目ポイント

AIの利用障壁を大幅に下げ、より多くの人が手軽にChatGPTを体験できるようになりました。

🔮これからどうなる

AIツールへのアクセスが民主化され、新規ユーザー獲得やAI普及が加速する可能性があります。

これまでChatGPTを利用するにはアカウント登録が必要でしたが、今回の変更により、メールアドレスや電話番号の登録なしにすぐにチャットを開始できます。
これにより、AIに触れる機会が少ない人々でも気軽に試せるようになり、AIの恩恵をより広範な層に届けられると期待されます。
ただし、チャット履歴の保存やカスタム指示の利用など、一部の機能はログインユーザー限定となります。
OpenAI Blog ★4 LLM EN

合成音声の課題と機会を探る

要約を読む要約を閉じる
📰ニュース

OpenAIがカスタム音声生成モデル「Voice Engine」の小規模プレビューから得た教訓を公開しました。

🔍注目ポイント

わずか15秒の音声サンプルから、話者の声色と感情を再現できる合成音声を生成する技術がすごい点です。

🔮これからどうなる

教育、アクセシビリティ、エンターテイメントなど多岐にわたる分野で、よりパーソナライズされた音声体験が可能になります。

Voice Engineは、入力された短い音声サンプルから、その話者の声色を模倣し、テキストから自然な音声を生成します。
OpenAIは、この技術が持つ可能性と同時に、悪用リスク(なりすましなど)を認識しており、責任ある開発と展開の重要性を強調しています。
初期のプレビューは、信頼できるパートナーに限定して行われました。
OpenAI Blog ★4 LLM EN

教育データへのアクセスを可能にする

要約を読む要約を閉じる
📰ニュース

ZelmaがGPT-4を活用し、教育データのアクセス性を大幅に向上させました。

🔍注目ポイント

GPT-4の自然言語処理能力により、複雑な教育データを誰でも簡単に理解・分析できるようになります。

🔮これからどうなる

教育関係者や研究者がデータに基づいた意思決定を迅速に行えるようになり、教育改善が加速します。

Zelmaは、GPT-4を使って教育データをより利用しやすくする取り組みを進めています。
これにより、専門知識がない人でも教育に関する統計や情報を容易に検索・解釈できるようになり、データ活用の敷居が大きく下がります。
教育現場でのデータドリブンな意思決定を促進し、より効果的な教育プログラムの開発に貢献することが期待されます。
Hugging Face Blog ★3 LLM EN

Hugging Face Transformers 超初心者向け入門

要約を読む要約を閉じる
📰ニュース

Hugging Face Transformersライブラリの基本的な使い方を解説する入門記事です。

🔍注目ポイント

事前学習済みモデルを数行のコードで簡単に利用できる手軽さが特徴です。

🔮これからどうなる

AIモデル開発の敷居が下がり、より多くの人が最先端のAI技術を活用できるようになります。

Hugging Face Transformersは、自然言語処理(NLP)タスク向けの事前学習済みモデルを豊富に提供するオープンソースライブラリです。
モデルのダウンロードから推論実行まで、簡単なAPIで実現できるため、初心者でもすぐに実践できます。
本記事は、その基本的な概念とコード例を通じて、ライブラリの導入を促します。
Hugging Face Blog ★4 LLM EN

バイナリおよびスカラー埋め込み量子化による検索の大幅な高速化と低コスト化

要約を読む要約を閉じる
📰ニュース

Hugging Faceが埋め込み量子化技術を導入し、検索速度とコストを改善しました。

🔍注目ポイント

バイナリおよびスカラー量子化により、埋め込みモデルのメモリ使用量と計算量を大幅に削減します。

🔮これからどうなる

企業や開発者は、より高速かつ低コストで大規模な検索システムを構築できるようになります。

埋め込みモデルは、テキストや画像をベクトルに変換し、類似度検索に利用されます。
しかし、大規模な埋め込みはメモリと計算リソースを大量に消費します。
Hugging Faceの新しい量子化技術は、これらの埋め込みを圧縮することで、メモリ使用量を最大32倍削減し、検索速度を向上させながら、精度を維持します。
これにより、より多くのユーザーが高度な検索機能を低コストで利用できるようになります。
Hugging Face Blog ★4 LLM EN

チャットボットガードレールアリーナの紹介

要約を読む要約を閉じる
📰ニュース

Hugging Faceがチャットボットの安全性を評価する「Chatbot Guardrails Arena」を公開しました。

🔍注目ポイント

ユーザーが様々なチャットボットの安全対策(ガードレール)を比較し、評価できるプラットフォームです。

🔮これからどうなる

AI開発者はより安全なチャットボットを開発し、ユーザーは安心してAIを利用できるようになります。

このアリーナは、ユーザーが異なるチャットボットモデルに対してプロンプトを入力し、その応答を比較・評価することで、各モデルのガードレールがどれだけ効果的に機能しているかを検証できます。
これにより、AIの安全性と信頼性の向上に貢献することが期待されています。
Hugging Face Blog ★4 LLM EN

ノートPC上のチャットボット:Intel Meteor LakeでPhi-2を動作

要約を読む要約を閉じる
📰ニュース

Intel Meteor Lakeプロセッサ搭載ノートPCで、MicrosoftのPhi-2モデルがローカル動作しました。

🔍注目ポイント

Transformerモデルを効率的に実行するため、OpenVINOとONNX Runtimeが最適化に活用されました。

🔮これからどうなる

高性能なAIモデルがクラウド不要で個人デバイスで利用可能になり、プライバシーと利便性が向上します。

MicrosoftのPhi-2は27億パラメータを持つ小規模ながら高性能な言語モデルです。
Intel Meteor Lakeは、CPU、GPU、NPUを統合した新しいプロセッサで、AIワークロードの高速化に特化しています。
この組み合わせにより、ローカル環境でのAIチャットボットの実行が可能になりました。
Hugging Face Blog ★4 LLM EN

Cosmopedia: 大規模言語モデル事前学習のための大規模合成データ作成方法

要約を読む要約を閉じる
📰ニュース

Hugging Faceが大規模言語モデル事前学習用の合成データセット「Cosmopedia」を公開しました。

🔍注目ポイント

既存の高品質データセットを基に、LLMを使って多様な形式の合成データを生成する手法を提案しています。

🔮これからどうなる

高品質な合成データが利用可能になり、LLMの事前学習コスト削減や性能向上が期待されます。

Cosmopediaは、Webデータから抽出された高品質なテキストをシードとして、Mixtral 8x7Bモデルを用いて様々なスタイルの合成データを生成します。
具体的には、ブログ記事、コード、物語、ウェブページ、会話など10種類の形式で、合計300億トークン以上のデータが含まれています。
これにより、多様なタスクに対応できる汎用性の高いLLMの開発に貢献します。
Hugging Face Blog ★4 LLM EN

GaLore: 消費者向けハードウェアでの大規模モデルトレーニングを前進させる

要約を読む要約を閉じる
📰ニュース

GaLoreは、大規模言語モデルのトレーニングに必要なメモリを大幅に削減する新しい最適化手法です。

🔍注目ポイント

勾配の低ランク射影を利用することで、フルファインチューニングに近い性能を維持しつつ、メモリ消費を劇的に抑えます。

🔮これからどうなる

個人ユーザーや中小企業でも、高性能なGPUなしで大規模モデルのトレーニングが可能になり、AI開発の民主化が進みます。

GaLoreは、勾配を低ランク行列として扱うことで、勾配の保存と更新に必要なメモリ量を削減します。
これにより、RTX 3090のような消費者向けGPUでも、Llama 2 7Bのようなモデルのファインチューニングが可能になります。
従来のLoRAなどの手法と比較しても、同等以上の性能をより少ないメモリで実現できる点が特徴です。
OpenAI Blog ★4 LLM EN

エンタープライズ対応の信頼と安全性

要約を読む要約を閉じる
📰ニュース

SalesforceがOpenAIのエンタープライズ向けLLMを統合し、顧客アプリケーションを変革します。

🔍注目ポイント

OpenAIのLLMが企業の厳しいセキュリティとプライバシー要件を満たし、大規模導入が可能になります。

🔮これからどうなる

企業はより安全かつ効率的にAIを活用でき、顧客体験の向上と業務自動化が進むでしょう。

この統合により、Salesforceの顧客はOpenAIの高度なAI機能を、企業のデータ保護基準に準拠した形で利用できるようになります。
特に、信頼性と安全性が求められるビジネスアプリケーションでのAI活用が加速します。
これにより、顧客サポートの自動化やパーソナライズされたサービス提供が強化される見込みです。