はじめに
PCでローカルLLM（自分のPC上で動かす人工知能）を動かそうとする際、最初に悩むのが「自分のPCスペックで、どのモデルがサクサク快適に動くのか分からない」という問題です。
特にグラフィックボードのビデオメモリ（VRAM）容量は重要で、欲張って大きいモデルを選ぶと、動作がガクッと重くなってしまいます。そのため、これまでは「よくわからないから、安全を考えてVRAM容量の半分くらい（VRAM 16GBなら8B〜12Bクラス）のモデルを恐る恐る選ぶ」という選び方をしていました。
今回は、管理人のPCスペックを自動で調べて、おすすめのローカルLLMをランキング形式で教えてくれる便利なツール 「Whichllm」 を試してみたので、その結果を気楽にレポートします。
ちなみに、ローカルLLMを使うメリットは、完全無料で制限なく使い放題」、「プライベートなデータや機密情報を入力しても外部に漏れない（安全）」、そして「ネット環境がなくても動く」などです。将来的に完全無料化と機密情報の漏洩防止を目処にローカルLLMを構築しています。
Whichllmとは：PCスペックから動くモデルを自動判定
Whichllmは、PCのスペック（GPUやCPU、メモリなど）を自動でスキャンして、実用的な速度で動くおすすめのモデルを教えてくれる無料のツールです。
主な特徴は以下の通りです。
- おすすめモデルの提案: 単に「メモリに入るか」だけでなく、動かしたときの予想スピードなども考えて、一番パフォーマンスが出るモデルを教えてくれます。
- 買い替えシミュレーション: 「もしあのグラボに買い替えたら、どのモデルがどれくらいの速度で動くか」を調べる機能もあります。
- 用途別の切り替え: 「プログラミング用のおすすめモデル」など、目的に合わせたランキングも出せます。
Python不要：「uv」を使って一発で起動する手順
このツールを動かすには、Powershellで以下のコマンドを1行入力するだけです。
uvx whichllm@latest「uv」という便利な仕組みを使っているため、PCにPythonなどの難しい環境が入っていなくても、このコマンド一発で自動的にツールが立ち上がって判定を始めてくれます。
ちなみに管理人のPython環境を下に貼っておきます。
管理人のPCには、まだインストールされていません。
Radeon RX 9070 XT（VRAM 16GB）での判定結果
管理人のRadeon RX 9070 XT環境で実行したところ、以下のようなランキングが表示されました。
Powershellで打ち込んだコマンドは以下の通りです。
uvx whichllm@latest --gpu-only --speed usable --vram-headroom 1GBランキングは以下の通りです。
| # | Model | Params | Quant | Fit | VRAM | Speed | Published | Score | License |
|---|---|---|---|---|---|---|---|---|---|
| 1 | Qwen/Qwen3.6-27B | 27.8B | Q3_K_M | Full GPU | 14.7 GB | 20.5 tok/s | ~2026-04-21 | 87.3 | apache-2.0 |
| 2 | Qwen/Qwen3-30B-A3B | 30.5B (3.0Ba) | Q3_K_M | Full GPU | 13.8 GB | 149.5 tok/s | ~2025-04-27 | 79.2 | apache-2.0 |
| 3 | google/gemma-4-26B-A4B-it | 26.5B (3.8Ba) | Q3_K_M | Full GPU | 12.3 GB | 150.1 tok/s | ~2026-03-11 | 77.6 | gemma |
| 4 | openai/gpt-oss-20b | 21.5B (3.6Ba) | Q4_K_M | Full GPU | 12.7 GB | 135.6 tok/s | ~2025-08-04 | 76.3 | apache-2.0 |
| 5 | Qwen/Qwen3-14B | 14.8B | Q5_K_M | Full GPU | 11.7 GB | 25.6 tok/s | ~2025-04-27 | 75.1 | apache-2.0 |
| 6 | microsoft/phi-4 | 14.7B | Q5_K_M | Full GPU | 11.7 GB | 25.8 tok/s | ~2024-12-11 | 72.7 | mit |
| 7 | mistralai/Mistral-Small-3.2-24B-Instruct-2506 | 24.0B | Q3_K_M | Full GPU | 12.9 GB | 23.8 tok/s | ~2025-06-19 | 71.4 | apache-2.0 |
| 8 | google/gemma-3-27b-it | 27.4B | Q3_K_M | Full GPU | 14.6 GB | 20.8 tok/s | ~2025-03-01 | 68.5 | gemma |
| 9 | Qwen/Qwen3-8B | 8.2B | Q6_K | Full GPU | 7.9 GB | 37.5 tok/s | ~2025-04-27 | 67.2 | apache-2.0 |
| 10 | deepseek-ai/DeepSeek-R1-Distill-Qwen-14B | 14.8B | Q5_K_M | Full GPU | 11.7 GB | 25.6 tok/s | ~2025-01-20 | 62.3 | mit |
ちなみに、Powershell上には以下のような感じで、オススメのLLMが表示されます。
おすすめ1位の「Qwen/Qwen3.6-27B」を動かしてみた結果
ランキング1位として提案されたのは、少し圧縮された状態（量子化）の Qwen/Qwen3.6-27B でした。VRAMも14.7GBと、16GBの制限内にきれいに収まっています。
ただ、実際に管理人の環境で動かしてみると、速度はそこまで速くありませんでした。画面上の理論値では「毎秒20.5文字（tok/s）」となっていますが、実際は「毎秒7文字（7 tok/s）未満」という、ちょっとのんびりした動作になりました。
ローカルLLMの動作速度は、ツールの理論計算と実際のバックエンドエンジン（OllamaやLlama.cppなど）のハードウェア最適化状況、グラフィックボードのメモリ帯域幅などによって乖離が生じるため、最終的には実機での計測が不可欠であることを示す実例と言えます。
注目モデル「gemma-4-26B-A4B-it」ってどんなモデル？
gemma-4-26B-A4B-it を走らせたら、17.1tok/sで完走しました。ランキング3位の google/gemma-4-26B-A4B-it というモデルが賢そうだったので、名前の意味を簡単に調べて整理してみました。
- google / gemma-4 Googleが作っている有名なオープンモデル「Gemma（ジェマ）」の、最新の第4世代という意味です。
- 26B モデルの頭の良さの規模（パラメータ数）が約260億個という意味です。本来なら家庭用PCで動かすにはかなり重いサイズです。
- A4B (Active 4 Billion) ここが一番のポイントです。全体のサイズは26Bと大きいのですが、実際に頭を動かすときは「必要な約40億個（4B）の部分だけ」を効率よく使う技術（MoE）が使われています。これによって、「めちゃくちゃ賢いのに、動作はすごく軽い」といういいとこ取りを実現しています。
- it (Instruction-tuned) チャット用（指示に従えるよう調整済み）のモデルであることを示しています。
ちなみにこのモデルは、文字だけでなく画像も読み込める機能（マルチモーダル）や、AIが考えている途中のプロセスを表示してくれる「思考モード（Thinking Mode）」なども付いている最新仕様のモデルです。
結論：Whichllmは目安としてすごく便利
今回の検証で分かったのは、表示されるスピードの数値はあくまで理論値であり、実際はもう少し遅くなることもある、ということです。
それでも、「自分のPCで一体どのくらいのサイズ（12Bなのか27Bなのか）までならギリギリ動くのか」を、コマンド一発で判定して教えてくれる価値はめちゃくちゃ高いです。
「ローカルLLMをやってみたいけど、自分のPCで何が動くのかさっぱり分からない！」という方は、まずは uvx whichllm@latest を試して、動くモデルの目安をチェックしてみてはいかがでしょうか。
