我々が日常的に利用するChatGPTやGeminiなどの生成AIでは、大規模なモデルの推論処理は主にクラウド上で行われています。一方、デバイスにAIモデルを保存し、CPUやGPU、対応するランタイムではNeural Engineなど、端末側の演算性能を利用して動作させる「ローカルAI」もあります。
今回はiPad Air（M4）上でローカルLLMを実際に動作させ、M4チップと12GBユニファイドメモリを備えたiPadで、どこまでのパフォーマンスを発揮できるのか検証していきます。
テスト環境
今回使用するのは「Noema」です。
当初はGoogle AI Edge Galleryを使用する予定でしたが、iPadには対応していないため、iPad上でローカルLLMを実行できるNoemaを使用しました。
今回は「Qwen3.5-2B」「Qwen3.5-4B」「Gemma 4 E2B IT」「Gemma 4 E4B IT」の4モデルを用意し、すべてiPad Air（M4）上でローカル実行します。
各モデルには、
Neural Engineとは何か、CPUやGPUとの違いにも触れながら、日本語で500文字以内で説明してください。
という同一のプロンプトを入力しました。
同一プロンプトで実際の生成速度を比較
| モデル | 生成速度 | プロンプト処理速度 | 出力トークン | 出力文字数 |
|---|---|---|---|---|
| Qwen3.5-2B | 57.7 tok/s | 778.1 tok/s | 146 | 305文字 |
| Gemma 4 E2B IT | 49.6 tok/s | 577.3 tok/s | 843 | 2,986文字 |
| Gemma 4 E4B IT | 17.0 tok/s | 271.9 tok/s | 1,202 | 3,652文字 |
| Qwen3.5-4B | 16.0 tok/s | 296.8 tok/s | 433 | 944文字 |
最も高速だったのはQwen3.5-2Bの57.7 tokens/secで、次いでGemma 4 E2B ITが49.6 tokens/secとなりました。
一方、より大規模なGemma 4 E4B ITでは17.0 tokens/sec、Qwen3.5-4Bでは16.0 tokens/secまで低下しており、モデル規模が大きくなるにつれて生成速度が大きく下がる傾向が確認できました。
特にQwen3.5-2Bは、Gemma 4 E4B ITと比較すると約3.4倍、Qwen3.5-4Bと比較すると約3.6倍の生成速度を記録しています。
生成文字数について
今回のテストでは、すべてのモデルに「500文字以内」と明示しました。
しかし、結果にはかなり大きな差が出ています。
Qwen3.5-2Bは305文字と指定範囲内に収まりましたが、Qwen3.5-4Bは944文字、Gemma 4 E2B ITは2,986文字、Gemma 4 E4B ITは3,652文字を生成しました。
つまり、生成速度だけでなく、文字数などの指示にどれだけ忠実に従えるかという「指示追従性」でも差が出たことになります。
Noemaのベンチマーク機能で性能を比較
先ほどのテストでは、モデルによって生成された文章量に大きな差が生じました。
そのため、より条件を揃えて性能を比較するため、Noemaに搭載されている「ベンチマークセンター」を使用しました。
検証はすべてOff-grid Modeを有効化し、Noemaからの外部通信を遮断した状態で実施しています。
今回Benchmark Centerで正常に計測できたのは「Qwen3.5-2B」「Qwen3.5-4B」「Gemma 4 E2B IT」の3モデルです。いずれもGGUF形式で、量子化にはQ4_K_Mを使用しました。
なお、先ほどの文章生成テストでは各モデルで出力量や推論処理、モデル設定が異なるため、厳密な同条件ベンチマークとはいえません。
そこで、以降ではNoemaのBenchmark Centerによる測定結果を、性能比較の主な指標として使用します。
Qwen3.5-2Bが59.1 tokens/secで最速
計測結果は以下の通りです。
| モデル | モデル容量 | 生成速度 | Prefill | 合計時間 | ピークメモリ |
|---|---|---|---|---|---|
| Qwen3.5-2B | 1.2GB | 59.1 tok/s | 361 tok/s | 8.9秒 | 1.0GB |
| Gemma 4 E2B IT | 2.9GB | 51.2 tok/s | 351 tok/s | 10.3秒 | 1.3GB |
| Qwen3.5-4B | 2.6GB | 24.0 tok/s | 163 tok/s | 21.9秒 | 1.2GB |
最も高速だったのはQwen3.5-2Bで、生成速度は59.1 tokens/secを記録しました。
Gemma 4 E2B ITも51.2 tokens/secを記録しており、Qwen3.5-2Bとの差は約8 tokens/secです。どちらも50 tokens/secを超えており、iPad Air（M4）でも比較的軽量なローカルLLMであれば、かなり軽快に文章を生成できることが分かります。
一方、Qwen3.5-4Bは24.0 tokens/secで、Qwen3.5-2Bの半分以下となりました。合計時間についても、Qwen3.5-2Bが8.9秒だったのに対し、Qwen3.5-4Bでは21.9秒かかっています。
今回の結果では、生成速度を重視する用途では2Bクラスが有力な選択肢といえそうです。
ピークメモリは最大1.3GB
Benchmark Centerで報告されたピークメモリは、Qwen3.5-2Bが1.0GB、Qwen3.5-4Bが1.2GB、Gemma 4 E2B ITが1.3GBでした。
今回正常に計測できた3モデルはいずれも、12GBユニファイドメモリを搭載するiPad Air（M4）上でBenchmark Centerを完走しています。
特にQwen3.5-2Bは、モデル容量が1.2GBと比較的小さい一方で59.1 tokens/secを記録しており、今回試したモデルの中では生成速度とリソース消費のバランスが特に良い結果となりました。
なお、Gemma 4 E4B ITは通常のチャットによる実動作テストでは17.0 tokens/secを記録したものの、Benchmark Centerで測定を試みた際にはNoemaが白画面となり、正常に計測を完了できませんでした。
そのため、Benchmark Centerによる比較からは除外しています。
今回の検証では、iPad Air（M4）上でも2B、E2B、4BクラスのローカルLLMを動作させることができました。一方、より負荷の高いモデルでは生成速度が大きく低下したほか、Gemma 4 E4B ITではBenchmark Centerを正常に完走できないケースも確認されました。
