新着ニュース

24323件
Hugging Face Blog ★4 LLM EN

Amazon SageMakerにおけるLlama 2のベンチマーク

要約を読む要約を閉じる
📰ニュース

Hugging FaceがAmazon SageMaker上でLlama 2モデルのベンチマークを実施しました。

🔍注目ポイント

SageMakerの異なるインスタンスタイプでのLlama 2の推論性能とコスト効率を評価しました。

🔮これからどうなる

企業や開発者はSageMakerでLlama 2を効率的に運用するための最適な構成を把握できます。

このベンチマークは、Llama 2の7B、13B、70Bモデルを対象に、SageMakerの様々なGPUインスタンス(例: g5.2xlarge, g5.12xlarge, p4d.24xlarge)で推論スループットとレイテンシを測定しました。
結果は、モデルサイズとインスタンスタイプによって性能とコスト効率が大きく異なることを示しています。
OpenAI Blog ★5 LLM EN

ChatGPTが視覚・聴覚・発話能力を獲得

要約を読む要約を閉じる
📰ニュース

ChatGPTに音声と画像認識の新機能が追加され、より直感的な対話が可能になりました。

🔍注目ポイント

音声での会話や画像を見せて質問できることで、自然言語処理のインターフェースが大幅に進化しました。

🔮これからどうなる

ユーザーはより自然な方法でAIと対話できるようになり、アクセシビリティと利便性が向上します。

OpenAIはChatGPTに新しい音声と画像認識機能を展開し始めました。
これにより、ユーザーは音声で会話したり、ChatGPTに画像を見せて質問したりできるようになります。
これはAIとの対話において、より直感的で自然なインターフェースを提供します。
OpenAI Blog ★4 LLM EN

GPT-4V(ision) システムカード

要約を読む要約を閉じる
📰ニュース

OpenAIがGPT-4Vの機能、リスク、緩和策をまとめたシステムカードを公開しました。

🔍注目ポイント

画像入力に対応したGPT-4Vの潜在的な危険性と、それに対する安全対策が詳細に記述されています。

🔮これからどうなる

開発者や利用者はGPT-4Vの限界と安全な利用方法を理解し、より責任あるAI活用が期待されます。

GPT-4Vは画像認識能力を持つことで、医療診断支援や教育など多岐にわたる応用が期待されます。
しかし、誤情報生成、プライバシー侵害、悪用などのリスクも指摘されており、OpenAIはこれらのリスクを特定し、モデルの挙動を改善するための評価と緩和策を講じています。
特に、医療アドバイスや顔認識など、高リスクな用途での利用制限が強調されています。
Hugging Face Blog ★4 研究 EN

PROs推論の効率化

要約を読む要約を閉じる
📰ニュース

Hugging FaceがPROsモデルの推論を高速化する新しいライブラリをリリースしました。

🔍注目ポイント

PROsモデルの推論を大幅に高速化し、より効率的な利用を可能にしました。

🔮これからどうなる

研究者や開発者は、PROsモデルをより迅速かつ低コストで利用できるようになります。

PROs(Protein Representation Learning with Optimal Transport)は、タンパク質の構造と機能を予測するためのモデルです。
この新しいライブラリは、推論時の計算負荷を軽減し、特に大規模なデータセットでの処理時間を短縮します。
これにより、創薬やバイオインフォマティクス分野での研究が加速されると期待されます。
OpenAI Blog ★4 AI倫理 EN

OpenAIレッドチーミングネットワーク

要約を読む要約を閉じる
📰ニュース

OpenAIがモデルの安全性向上を目指し、専門家によるレッドチーミングネットワークを立ち上げました。

🔍注目ポイント

外部の専門家を巻き込み、多様な視点からモデルの潜在的なリスクを特定・軽減する仕組みです。

🔮これからどうなる

より安全で信頼性の高いAIモデルが提供され、ユーザーは安心して技術を利用できるようになります。

OpenAIは、AIモデルの悪用や予期せぬ挙動を防ぐため、外部のドメインエキスパートを募集しています。
このネットワークを通じて、モデルの脆弱性を事前に発見し、修正することで、AIの安全性と堅牢性を高めることを目的としています。
Hugging Face Blog ★4 ビジネス EN

Rocket MoneyとHugging Face:本番環境での変動しやすいMLモデルのスケーリング

要約を読む要約を閉じる
📰ニュース

Rocket MoneyがHugging FaceのInference Endpointsを活用し、変動の大きいMLモデルを効率的に運用しています。

🔍注目ポイント

Hugging FaceのInference Endpointsが、モデルのデプロイとスケーリングを簡素化し、運用コストを削減しています。

🔮これからどうなる

Rocket Moneyは、ユーザーの金融取引分類の精度を向上させ、より良いサービスを提供できるようになります。

Rocket Moneyは、ユーザーの銀行取引を分類するMLモデルを運用していますが、新しい取引タイプや銀行の変更によりモデルが頻繁に更新されるため、デプロイとスケーリングが課題でした。
Hugging Face Inference Endpointsを導入することで、これらの課題を解決し、モデルの更新とデプロイを迅速化しています。
これにより、エンジニアリングチームはモデル開発に集中できるようになりました。
Hugging Face Blog ★4 研究 EN

3D Gaussian Splatting入門

要約を読む要約を閉じる
📰ニュース

3D Gaussian Splattingは、リアルタイムで高品質な3Dシーンをレンダリングする新しい技術です。

🔍注目ポイント

従来のNeRFよりも高速かつ高品質なレンダリングが可能で、トレーニング時間も大幅に短縮されます。

🔮これからどうなる

VR/AR、ゲーム開発、デジタルツインなど、様々な分野での3Dコンテンツ制作が革新される可能性があります。

この技術は、シーンを多数の3Dガウス分布で表現し、GPUのラスタライズ機能を利用して高速にレンダリングします。
NeRFがニューラルネットワークでシーンを表現するのに対し、Gaussian Splattingは明示的なプリミティブを使用するため、高速化と高品質化を実現しています。
特に、リアルタイムでのインタラクティブな3D体験の向上に貢献すると期待されています。
Hugging Face Blog ★4 研究 EN

物体検出リーダーボード

要約を読む要約を閉じる
📰ニュース

Hugging Faceが物体検出モデルの性能を比較するリーダーボードを公開しました。

🔍注目ポイント

様々なデータセットと評価指標でモデルの性能を客観的に比較できるのが特徴です。

🔮これからどうなる

開発者は最適なモデル選択や性能改善のヒントを得られ、研究開発が加速します。

このリーダーボードは、COCOやPascal VOCなどの主要な物体検出データセットに対応しており、mAP(mean Average Precision)などの標準的な評価指標を用いています。
ユーザーは自分のモデルを提出し、他のモデルと比較することも可能です。
これにより、物体検出分野の進捗状況を可視化し、コミュニティ全体の発展に貢献します。
Hugging Face Blog ★4 LLM EN

本番環境でのLLM最適化

要約を読む要約を閉じる
📰ニュース

Hugging Faceが本番環境でのLLM最適化に関するブログ記事を公開しました。

🔍注目ポイント

LLMのパフォーマンスとコスト効率を向上させるための実践的な手法が紹介されています。

🔮これからどうなる

開発者はより効率的で費用対効果の高いLLMアプリケーションを構築できます。

記事では、モデルの選択、量子化、蒸留、推論最適化(例:vLLM、TGI)、バッチ処理、キャッシングなど、多岐にわたる最適化戦略が解説されています。
これらの技術を組み合わせることで、レイテンシを削減し、スループットを向上させつつ、運用コストを抑えることが可能です。
特に、ハードウェアの選定やインフラストラクチャの最適化についても触れられています。
OpenAI Blog ★3 ビジネス EN

OpenAI ダブリンオフィス開設

要約を読む要約を閉じる
📰ニュース

OpenAIがアイルランドのダブリンに新しいオフィスを開設しました。

🔍注目ポイント

欧州でのプレゼンスを拡大し、地域での事業展開を強化する戦略的な動きです。

🔮これからどうなる

欧州のAIエコシステムへの貢献を深め、地域の人材雇用やパートナーシップを促進します。

OpenAIは、欧州での事業拡大の一環として、アイルランドの首都ダブリンにオフィスを開設しました。
これにより、欧州市場での活動を強化し、現地の才能と連携を深めることを目指しています。
具体的な業務内容や採用計画は今後発表されると見られます。
Hugging Face Blog ★4 画像生成 EN

Würstchenの紹介:画像生成のための高速拡散モデル

要約を読む要約を閉じる
📰ニュース

Würstchenは、少ない計算リソースで高品質な画像を生成できる新しい拡散モデルです。

🔍注目ポイント

潜在空間を効率的に利用し、高解像度画像を高速かつ低コストで生成する技術が特徴です。

🔮これからどうなる

画像生成AIの利用がより手軽になり、クリエイターや開発者のコスト負担を軽減します。

従来の拡散モデルは計算コストが高いという課題がありましたが、Würstchenは潜在空間の効率的な利用により、この問題を解決しました。
これにより、より多くの人が高性能な画像生成AIを利用できるようになります。
Hugging Faceで公開されており、誰でも試すことができます。
Hugging Face Blog ★4 LLM EN

PyTorch FSDPを用いたLlama 2 70Bのファインチューニング

要約を読む要約を閉じる
📰ニュース

PyTorch FSDPを活用し、大規模言語モデルLlama 2 70Bのファインチューニング手法が公開されました。

🔍注目ポイント

単一ノードでLlama 2 70Bを効率的にファインチューニングできる技術的詳細が解説されています。

🔮これからどうなる

研究者や開発者が大規模モデルをより手軽にカスタマイズできるようになります。

本記事では、PyTorchのFully Sharded Data Parallel (FSDP)機能を用いて、Llama 2 70Bモデルを単一ノード(8基のA100 GPU)でファインチューニングする具体的な手順とコードが紹介されています。
メモリ効率化や分散学習の最適化がポイントです。