ローカル AI モデル向け PC 構成、20B〜120B — 2026

三つの予算帯

ローカルモデル向けの完成した PC 構成を、予算でまとめたカードです。「エントリー」は 16 GB のグラフィックスカード 1 枚、中古の RTX 3090 1 枚、MoE のオフロード用に RAM を多めに積んだ GPU 構成。「ミドルレンジ」は RTX 3090 2 枚、8 チャネル DDR4 の中古 EPYC サーバー、AMD Strix Halo のミニ PC。「ハイエンド」は RTX 3090 3 枚、NVIDIA DGX Spark、M2/M3 Ultra 搭載の Mac Studio です。各カードにはグラフィックスメモリ、RAM、おおよその価格、GPU から電源ユニットや PCIe レーンまでのパーツ、動くモデルとその速度、備考が載っています。

実測と推定の見分け方

印のない速度は実測値で、出典（多くは llama.cpp のベンチマークスレッドや公開レポート）へのリンクと日付が付いています。≈ の付いた値は、メモリ帯域から計算した推定です。実測はその時のランタイムのバージョンと設定によるもので、お手元の結果とは差が出ることがあります。

構成の選び方

最初に動かしたいモデルの大きさを決めると、必要なメモリ量が決まります。次に許容できる速度、つまりメモリ帯域を考え、最後に騒音、消費電力、価格で絞り込みます。グラフィックスカードはモデルがそのメモリに収まっている限り高速です。Mac、Strix Halo、DGX Spark のようなユニファイドメモリ機はより大きなモデルを載せられますが、生成は遅めになります。CPU サーバーは巨大な MoE モデルを安く載せられる一方、実用になるのは MoE だけです。

誤解されやすい二つの点

• カードを増やしても速くはならない。llama.cpp では複数のカードがモデルを分け持ちますが、処理は順番に進むので、大きなモデルを載せられるようになっても速度はカード 1 枚のときに近いままです。
• MoE オフロードは MoE 専用。--n-cpu-moe は共有レイヤーを GPU に残し、エキスパートをシステムの RAM に置きます。効果があるのは MoE モデルだけで、RAM の速度が結果を左右します。

価格は目安で、特に中古カードは個体によって変わります。どの構成でも、モデルを動かすアプリ（ローカル AI アプリ）と、適切な量子化のファイルが必要です。量子化の読み方はAI モデルの種類で解説しています。