Bonsai 27B：iPhoneで動作するフルオープン推論モデル
Bonsai 27B is a full open reasoning model that fits on an iPhone
記事のポイント
📰ニュース
PrismMLが270億パラメータのAIモデルを4GB未満に圧縮し、iPhoneでの動作を可能にしました。
🔍注目ポイント
大規模AIモデルの性能を維持しつつ、大幅な圧縮に成功した点が技術的なブレイクスルーです。
🔮これからどうなる
スマートフォン上で高度なAI処理が可能になり、ユーザーのプライバシー保護と利便性が向上します。
PrismMLは、270億パラメータのAIモデル「Bonsai 27B」を4GB未満に圧縮しました。
これにより、iPhoneなどのデバイス上で直接モデルを実行できます。
同社のベンチマークでは、最小バージョンでも元の性能の90%を維持し、特に数学やコーディングのスコアへの影響はほとんどありませんでした。
Appleもこの圧縮技術をテストしていると報じられています。
これにより、iPhoneなどのデバイス上で直接モデルを実行できます。
同社のベンチマークでは、最小バージョンでも元の性能の90%を維持し、特に数学やコーディングのスコアへの影響はほとんどありませんでした。
Appleもこの圧縮技術をテストしていると報じられています。
大規模AIモデルがスマホで動くのはすごいですね。これで、皆さんのスマホでより賢いAIアシスタントが使えるようになるかもしれません。