より良いハードウェアがAIのゼロをヒーローに変える可能性
Better Hardware Could Turn Zeros into AI Heroes
記事のポイント
📰ニュース
スタンフォード大学の研究チームが、AIモデル内の「ゼロ」を効率的に処理する新しいハードウェアを開発しました。
🔍注目ポイント
このハードウェアは、モデルの大部分を占めるゼロをスキップすることで、CPUの70分の1のエネルギーで8倍高速な計算を実現します。
🔮これからどうなる
大規模AIモデルのエネルギー消費と計算時間を大幅に削減し、より環境に優しく、アクセスしやすいAIの実現に貢献します。
AIモデルのパラメータの多くはゼロ、またはゼロに近い値であり、これを「スパース性」と呼びます。
既存のハードウェアはこのスパース性を十分に活用できていませんでした。
研究チームは、ハードウェア、ファームウェア、ソフトウェアをゼロから再設計し、スパース性を最大限に活かすことで、この画期的な成果を達成しました。
既存のハードウェアはこのスパース性を十分に活用できていませんでした。
研究チームは、ハードウェア、ファームウェア、ソフトウェアをゼロから再設計し、スパース性を最大限に活かすことで、この画期的な成果を達成しました。
概要
When it comes to AI models, size matters.Even though some artificial-intelligence experts warn that scaling up large language models (LLMs) is hitting diminishing performance returns, companies are still coming out with ever larger AI tools. Meta’s latest Llama release had a staggering 2 trillion p…
大規模AIモデルの電力消費は大きな課題でしたが、この技術は環境負荷を劇的に減らし、私たちの生活にAIがより身近になるきっかけになるかもしれませんね。