iPhone 17 Proでパラメーター数80億のAIモデル「1-bit Bonsai 8B」をローカル実行してみたよレビュー、無料アプリのLocally AIで簡単に実行できる
要約を読む要約を閉じる
iPhone 17 Proで80億パラメーターの省メモリAIモデル「1-bit Bonsai 8B」をローカル実行したレビューが公開されました。
メモリ使用量を1.15GBに抑えた80億パラメーターAIモデルが、無料アプリ「Locally AI」でiPhone上で手軽に動作するのが特徴です。
高性能AIモデルがスマートフォンで動作することで、ユーザーはオフライン環境でも高度なAI機能を活用できるようになります。
iPhone 17 Proでのローカル実行は、PrismMLが推奨するデモ用アプリ「Locally AI」を用いて行われました。
これにより、特別な環境構築なしにスマートフォンで大規模AIモデルを体験できます。