AMD、AIモデルを直接シリコンに焼き付けるスタートアップTaalasを買収
AMD acquires Taalas, a startup that bakes AI models directly into silicon
記事のポイント
📰ニュース
AMDがAIモデルの重みを推論チップに直接ハードコードするカナダのスタートアップTaalasを買収しました。
🔍注目ポイント
AIモデルをシリコンに直接焼き付けることで、推論速度を劇的に向上させ、Llama 3.1-8Bで毎秒16,000トークン超を実現します。
🔮これからどうなる
特定のAIモデルに特化した超高速チップが開発され、AIアプリケーションの処理能力が飛躍的に向上する可能性があります。
Taalasの技術は、モデルの重みをチップに固定するため、汎用性は失われますが、特定のモデルにおいては極めて高いパフォーマンスを発揮します。
GoogleもGemini向けに同様のアプローチを検討していると報じられており、この技術が次世代AIチップの主流になる可能性を示唆しています。
GoogleもGemini向けに同様のアプローチを検討していると報じられており、この技術が次世代AIチップの主流になる可能性を示唆しています。
AIモデルを直接ハードウェアに組み込むことで、推論速度が格段に速くなるのは驚きですね。これにより、私たちのスマホやPCでAIがもっとサクサク動くようになるかもしれません。