ローカルLLMのおすすめモデル！PCの性能と用途別の選び方を解説

ローカルLLMを試したいものの、モデルの名前が多すぎて、どれを選べばよいのか分からない方も多いのではないでしょうか。おすすめの記事を読んでも、自社のPCで動くのかと業務で使ってよいのかを判断できず、手が止まる場面もあるはずです。

この記事では、ローカルLLMの主なモデルの容量とライセンス・PCの性能別と用途別の選び方・注意点・試す手順を、各モデルの公式ページの情報に沿って解説します(2026年10月4日時点)。

記事を読めば、自社のPCで最初に試すモデルと、業務で使う前に確かめる項目が分かる状態です。結論は、最初の1つはGemma 4かQwen3.5の小さなサイズで十分です。PCのメモリに収まる容量のモデルを選び、自社の業務の文章で回答の質を確かめましょう。

ローカルLLMのおすすめはPCの性能と用途で決まる

ローカルLLMの選び方の基本は、以下の3つです。

• 最初はGemma 4かQwen3.5の小さなサイズから試す
• PCのメモリに収まる容量のモデルを選ぶ
• 業務で使うならライセンスを確かめる

最初はGemma 4かQwen3.5の小さなサイズから試す

ローカルLLMは、自分のPCの中で動かす文章生成のAIです。入力した内容を外部に送らずに使える点が利点になります。

最初に試すモデルは、GoogleのGemma 4かAlibabaのQwen3.5の小さなサイズが候補です。どちらも複数のサイズが用意されており、ライセンスはApache 2.0で公開されています。

小さなサイズで動作と回答の傾向を確かめてから、大きなサイズへ進む順番が失敗しにくい進め方です。

PCのメモリに収まる容量のモデルを選ぶ

モデルは、PCのメモリに読み込んで動かします。モデルの容量がメモリに収まらないと、回答が極端に遅くなったり、動かなかったりします。

モデルを選ぶ前に、自社のPCのメモリの容量を確かめてください。GPUを積んだPCでは、GPU専用のメモリ(VRAM)の容量も目安になります。

業務で使うならライセンスを確かめる

ローカルLLMのモデルは無料で入手できますが、利用の条件はモデルごとに違います。Apache 2.0やMITは、商用の利用を認めているライセンスです。

独自のライセンスで公開されているモデルもあります。業務で使う前に、モデルの公式ページでライセンスを確かめましょう。

おすすめのローカルLLMの一覧

主なモデルの容量とライセンスは、以下の表のとおりです。容量は、モデルを配布しているOllamaの公式ライブラリの表示にもとづきます。

各モデルの特徴は、以下の5つです。

• Gemma 4は文章と画像を扱える5つのサイズがある
• Qwen3.5は1GBから選べる小さなサイズがそろう
• Qwen3.6はコーディングの作業を強化している
• gpt-ossは16GBのメモリで動く20bが定番になっている
• Phi-4は9.1GBの1サイズで選びやすい

Gemma 4は文章と画像を扱える5つのサイズがある

Gemma 4は、Google DeepMindが開発した公開モデルです。文章と画像を入力でき、文章を出力します。

サイズは、小型のE2BとE4B、中型の12B・26B・31Bの5つです。小型のモデルは、ノートPCやスマートフォンでの動作を想定して設計されています。

対応する言語は35以上で、学習には140以上の言語が使われたと説明されています。ライセンスはApache 2.0です。

Qwen3.5は1GBから選べる小さなサイズがそろう

Qwen3.5は、Alibabaが公開しているモデルの系列です。Ollamaの公式ライブラリでは、0.8bが1.0GBで、2bが2.7GBと表示されています。4bは3.4GBで、9bは6.6GBです。

小さなサイズから順に試せるため、メモリの少ないPCでも始めやすい点が利点です。201の言語と方言に対応すると説明されており、ライセンスはApache 2.0になっています。

Qwen3.6はコーディングの作業を強化している

Qwen3.6は、Qwen3.5のあとに公開された系列です。開発元は、AIが自律的にプログラムを書く作業の性能を大きく高めたと説明しています。

容量は27bが18GBからで、35bは23GBからです。動かすには、大容量のメモリを積んだPCが必要になります。

Claude CodeでローカルLLMを使う方法｜Ollama連携の手順と注意点

gpt-ossは16GBのメモリで動く20bが定番になっている

gpt-ossは、OpenAIが公開しているモデルです。20bと120bの2つのサイズがあり、容量は20bが14GBで、120bは65GBです。

OpenAIは、20bは16GBのメモリが目安だと説明しています。ライセンスはApache 2.0で、商用の利用にも向くと案内されています。

Phi-4は9.1GBの1サイズで選びやすい

Phi-4は、Microsoftが公開している140億パラメータのモデルです。Ollamaの公式ライブラリでは、14bの1サイズで、容量は9.1GBと表示されています。

サイズを選ぶ手間がなく、ライセンスはMITです。一度に扱える文章の量は、表のほかのモデルより少なく設定されています。

PCの性能別のローカルLLMの選び方

PCの性能別の選び方は、以下の4つです。

• 容量が8GB未満のモデルは一般的なPCで試しやすい
• 容量が8GBから15GBのモデルは余裕のあるメモリで使う
• 容量が16GB以上のモデルは大容量のメモリか高性能なGPUで使う
• 量子化で容量を小さくしたモデルも選べる

容量が8GB未満のモデルは一般的なPCで試しやすい

容量が8GB未満のモデルは、最初に試す候補です。Qwen3.5の0.8bから9bまでと、Gemma 4のE2Bが当てはまります。

実行するソフトのLM Studioが推奨するメモリは、16GB以上です。メモリが8GBのMacでは、小さなモデルにとどめるよう案内されています。

容量が8GBから15GBのモデルは余裕のあるメモリで使う

Gemma 4の12B(7.7GBから)・Phi-4(9.1GB)・gpt-ossの20b(14GB)は、容量が8GB前後から15GBのモデルです。16GBのメモリでは、ほかのソフトを同時に開くと余裕が少なくなります。

日常の業務と並行して使うなら、32GB以上のメモリを積んだPCが目安です。

容量が16GB以上のモデルは大容量のメモリか高性能なGPUで使う

Gemma 4の26Bと31B、Qwen3.6の27bと35bは、容量が16GBを超えます。動かすには、大容量のメモリか、VRAMの多いGPUを積んだPCが必要です。

Ollamaは、強力なGPUのないPCでは大きなモデルの回答が遅くなると説明しています。大きなモデルは、小さなモデルで効果を確かめてから検討してください。

量子化で容量を小さくしたモデルも選べる

量子化は、モデルの計算の負荷を下げて、容量を小さくする調整です。量子化が進んだモデルほど、性能の低いPCでも動かしやすくなります。

モデルの一覧で同じ名前に複数の容量が並んでいる場合は、量子化の度合いの違いです。容量が小さいほど軽く動きますが、回答の質は下がる場合があります。

用途別のおすすめのローカルLLM

用途別のおすすめは、以下の4つです。

• 文章の要約や下書きにはGemma 4かQwen3.5を選ぶ
• 日本語を重視するなら日本語向けのモデルも試す
• コーディングにはQwen3.6を選ぶ
• 画像や資料の読み取りにはGemma 4を選ぶ

文章の要約や下書きにはGemma 4かQwen3.5を選ぶ

要約・下書き・言い換えなどの文章の作業には、汎用のモデルが向いています。Gemma 4とQwen3.5は、どちらも多くの言語に対応しており、サイズの選択肢も豊富です。

クラスメソッドが2026年7月に公開した検証の記事は、日本語の性能でQwen3.6とGemma 4を高く評価しています。

日本語を重視するなら日本語向けのモデルも試す

日本語向けに作られたモデルも公開されています。ELYZAのLlama-3-ELYZA-JP-8Bは、MetaのLlama 3をもとに、日本語向けの追加学習を行ったモデルです。

SB IntuitionsのSarashina2.2は、日本語のモデルとして公開されています。3bのモデルのライセンスはMITです。

ELYZAのモデルは、もとになったLlama 3のライセンスで公開されています。業務で使う場合は、条件を読んでから判断してください。

コーディングにはQwen3.6を選ぶ

プログラムを書く作業には、Qwen3.6が候補です。画面の実装や、複数のファイルにまたがる作業の精度を高めたと説明されています。

容量が18GB以上のため、動かせるPCは限られます。

画像や資料の読み取りにはGemma 4を選ぶ

画像を読み取らせたい場合は、画像の入力に対応したモデルを選びます。Gemma 4は、書類やPDFの読み取り・グラフの理解・文字の認識に対応すると説明されています。

Qwen3.5とQwen3.6も、文章と画像の入力に対応したモデルです。

ローカルLLMを選ぶときの注意点

ローカルLLMを選ぶときの注意点は、以下の4つです。

• 回答の質はクラウドの最新のモデルに及ばない場合がある
• ライセンスはモデルごとに違う
• モデルは数か月で入れ替わる
• 日本語の品質は自社の文章で確かめる

回答の質はクラウドの最新のモデルに及ばない場合がある

PCで動かせる大きさのモデルは、クラウドで提供される最新のモデルより小さく作られています。複雑な推論や長い文章では、回答の質が及ばない場合があります。

機密の情報を扱う作業はローカルLLMに任せ、ほかの作業はクラウドのAIに任せる使い分けが現実的です。

ライセンスはモデルごとに違う

表の5つのモデルは、Apache 2.0かMITで公開されています。一方で、Llama 3をもとにしたモデルのように、独自のライセンスで公開されているモデルもあります。

同じ系列でも、サイズや版によってライセンスが違う場合がある点にも注意が必要です。使うモデルのページで、1つずつ確かめてください。

モデルは数か月で入れ替わる

ローカルLLMのモデルは、数か月の単位で新しい世代が出ます。Ollamaの公式ライブラリには、より新しい番号のQwen3.8もすでに並んでいます。

おすすめの記事の内容は、すぐに古くなるものです。公開された日付を確かめ、公式の一覧で最新の状況を見る習慣をつけましょう。

日本語の品質は自社の文章で確かめる

日本語の回答の質は、モデルとサイズによって差があります。評価の点数が高いモデルでも、自社の業務の文章で同じ結果になるとは限りません。

実際の業務の文章を使い、2つから3つのモデルで回答を比べてから決めてください。

おすすめのローカルLLMを試す手順

おすすめのモデルを試す手順は、以下の3つです。

• LM StudioかOllamaをインストールする
• 小さなモデルをダウンロードする
• 自社の業務の文章で回答を比べる

LM StudioかOllamaをインストールする

ローカルLLMを動かすには、実行するソフトが必要です。LM Studioは画面の操作だけで使え、Ollamaはほかのツールとつなげやすい点が特徴になります。

どちらも無料で使い始められます。

ローカルLLMの作り方！必要なPCと無料の構築手順・注意点を解説

小さなモデルをダウンロードする

ソフトの中でモデルを検索し、容量の小さいサイズからダウンロードします。Qwen3.5の4b(3.4GB)やGemma 4のE2Bが、最初の候補です。

自社の業務の文章で回答を比べる

議事録の要約やメールの下書きなど、実際の業務の文章で試します。回答の正確さ・日本語の自然さ・回答までの時間の3点を比べてください。

物足りない場合は、1つ大きなサイズか、別のモデルに切り替えます。

ローカルLLMのおすすめに関するよくある質問

ローカルLLMのおすすめについてよく出る疑問は、以下の5つです。

• 日本語に強いローカルLLMはどれですか？
• 無料で使えるローカルLLMはありますか？
• 性能の低いPCでも動きますか？
• Macでも使えますか？
• 画像の生成はできますか？

日本語に強いローカルLLMはどれですか？

多くの言語に対応したGemma 4とQwen3.5・Qwen3.6が候補です。日本語向けに作られたLlama-3-ELYZA-JP-8BとSarashina2.2も公開されています。

優劣は用途によって変わるため、自社の文章で比べることをおすすめします。

無料で使えるローカルLLMはありますか？

当記事で紹介したモデルは、すべて無料で入手できます。実行するソフトのLM StudioとOllamaにも、無料のプランがあります。

かかる費用は、PCの購入費と電気代です。

性能の低いPCでも動きますか？

小さなモデルなら動きます。Qwen3.5の0.8bは1.0GBで、2bは2.7GBです。

ただし、小さなモデルほど回答の質は下がります。用途に足りるかを試して確かめてください。

Macでも使えますか？

使えます。LM Studioは、Appleシリコンを積んだMacに対応しており、16GB以上のメモリを推奨しています。

インテル製のCPUを積んだMacには対応していません。

画像の生成はできますか？

当記事で紹介したモデルは、文章を出力するモデルです。Gemma 4やQwen3.5は画像を入力できますが、画像の生成はできません。

画像を生成したい場合は、画像生成用の別のモデルが必要です。

ローカルLLMは小さなモデルから試して選びましょう

ローカルLLMのおすすめは、PCの性能と用途で決まります。最初の1つは、Gemma 4かQwen3.5の小さなサイズが候補です。

まずはPCのメモリの容量を確かめ、収まる容量のモデルをダウンロードしましょう。自社の業務の文章で回答を比べ、業務で使う前にライセンスを確かめてください。