Hugging Faceで最も過小評価されている5つのツール
Hugging Faceが提供する、あまり知られていないが強力な5つのツールが紹介されました。
AI&Tech、もう追いかけなくていい。
30秒で読めるニュースダイジェスト
研究
2262件
Flash Attention 2によるパッキングでHugging Faceの学習効率を向上
Hugging FaceがFlash Attention 2とパッキング技術を組み合わせ、モデル学習の効率を大幅に改善しました。
失敗した実験：Infini-Attention、それでも挑戦し続けるべき理由
Hugging FaceがInfini-Attentionという新しいアテンション機構の実験に失敗しました。
N
SWE-bench Verifiedの紹介
OpenAIがAIモデルのソフトウェア問題解決能力を評価する、人間が検証済みのSWE-benchサブセットを公開しま…
Falcon Mamba登場：初の強力なアテンションフリー7Bモデル
Hugging Faceが、アテンション機構を持たない初の強力な7B言語モデル「Falcon Mamba」を発表しました。
ドキュメント画像のためのTextImage拡張の紹介
Hugging Faceがドキュメント画像に特化した新しいデータ拡張手法「TextImage Augmentation」を発表しまし…
QuantoとDiffusersによるメモリ効率の良いDiffusion Transformers
Hugging FaceがQuantoとDiffusersを統合し、Diffusion Transformersのメモリ効率を大幅に向上させました。
LAVE: LLMによるDocmatixゼロショットVQA評価 - ファインチューニングはまだ必要か？
Hugging Faceが、LLMを用いたゼロショットVQA評価フレームワーク「LAVE」を発表しました。
N
ルールベース報酬によるモデルの安全性向上
OpenAIがルールベース報酬（RBRs）という新手法で、AIモデルの安全な振る舞いを実現しました。
Docmatix - ドキュメント視覚質問応答のための大規模データセット
Hugging Faceがドキュメント視覚質問応答（DocVQA）用の大規模データセット「Docmatix」を公開しました。
N
Prover-Verifierゲームが言語モデル出力の判読性を向上
OpenAIがProver-Verifierゲームにより、言語モデルの出力がより明確で検証しやすくなったと発表しました。
NuminaMathが初代AIMO進歩賞をどのように獲得したか
NuminaMathが、数学的推論AIの進歩を競うAIMOコンペティションで初代進歩賞を受賞しました。