Perceiver IO: あらゆるモダリティに対応するスケーラブルな完全アテンションモデル
Google DeepMindが、様々なデータ形式を扱える汎用的なAIモデル「Perceiver IO」を発表しました。
AI&Tech、もう追いかけなくていい。
30秒で読めるニュースダイジェスト
研究
2249件
CodeParrotをゼロからトレーニングする
Hugging FaceがCodeParrotというコード生成モデルをゼロからトレーニングした。
ML-Agents環境「Snowball Fight」の紹介
Hugging FaceがML-Agents環境「Snowball Fight」を公開しました。
N
OpenAIレジデンシープログラム
OpenAIがAI分野の才能を育成・支援する「OpenAIレジデンシー」を発表しました。
Hugging Face TransformersとOptimumでIPUを始める
Hugging Face TransformersモデルをGraphcore IPUで効率的に実行するためのガイドが公開されました。
データ測定ツール：データセットを調査するためのインタラクティブツールを発表
Hugging Faceがデータセットの特性を可視化する「Data Measurements Tool」を公開しました。
Intel技術でPyTorch分散ファインチューニングを高速化
IntelのGaudi2とXeonプロセッサがPyTorch分散ファインチューニングを大幅に高速化しました。
Hugging Face Transformersで低リソースASR向けXLSR-Wav2Vec2をファインチューニング
Hugging Face Transformersライブラリを使って、低リソース言語の自動音声認識（ASR）モデルXLSR-Wav2Vec2…
現代CPUにおけるBERTライクモデル推論のスケーリング - パート2
Hugging FaceがBERTライクモデルのCPU推論を高速化する技術を解説しています。
N
算数の文章問題の解決
OpenAIが小学生レベルの算数文章問題を解くAIシステムを開発しました。
コースローンチコミュニティイベント
Hugging Faceが新しい無料機械学習コースのローンチを記念するコミュニティイベントを開催しました。
大規模言語モデル：新しいムーアの法則か？
大規模言語モデル（LLM）の性能向上が、かつてのムーアの法則に似た指数関数的な成長を示している。