AIツール活用

ローカルLLMのおすすめモデル!PCの性能と用途別の選び方を解説

中島大介(なかじ)読了時間 約17分
ローカルLLMのおすすめモデルのアイキャッチ

ローカルLLMを試したいものの、モデルの名前が多すぎて、どれを選べばよいのか分からない方も多いのではないでしょうか。おすすめの記事を読んでも、自社のパソコンで動くのかと業務で使ってよいのかを判断できず、手が止まる場面もあるはずです。

本記事では、ローカルLLMの主なモデルの容量とライセンス・パソコンの性能別と用途別の選び方・注意点・試す手順を解説します。内容は、各モデルの公式ページの情報に沿っています(2026年10月4日時点)。

この記事を読めば、自社のパソコンで最初に試すモデルと、業務で使う前に確かめる項目が分かります。

結論として、最初の1つはGemma 4かQwen3.5の小さなサイズで十分です。パソコンのメモリに収まる容量のモデルを選び、自社の業務の文章で回答の質を確かめましょう。

目次

ローカルLLMのおすすめはパソコンの性能と用途で決まる

ローカルLLMのおすすめのモデルは、使うパソコンの性能と、任せたい作業によって変わります。どのモデルを選ぶ場合も、最初に押さえておきたい選び方の基本は共通です。

ローカルLLMの選び方の基本は、以下の3つです。

  • 最初はGemma 4かQwen3.5の小さなサイズから試す
  • パソコンのメモリに収まる容量のモデルを選ぶ
  • 業務で使うならライセンスを確かめる

最初はGemma 4かQwen3.5の小さなサイズから試す

ローカルLLMは、自分のパソコンの中で動かす文章生成のAIです。入力した内容を外部に送らずに使える点が利点になります。

最初に試すモデルは、GoogleのGemma 4かAlibabaのQwen3.5の小さなサイズが候補です。どちらも複数のサイズが用意されており、ライセンスはApache 2.0で公開されています。

小さなサイズで動作と回答の傾向を確かめてから、大きなサイズへ進む順番が失敗しにくい進め方です。

パソコンのメモリに収まる容量のモデルを選ぶ

モデルは、パソコンのメモリに読み込んで動かします。モデルの容量がメモリに収まらないと、回答が極端に遅くなったり、動かなかったりします。

モデルを選ぶ前に、自社のパソコンのメモリの容量を確かめてください。GPUを積んだパソコンでは、GPU専用のメモリ(VRAM)の容量も目安になります。

業務で使うならライセンスを確かめる

ローカルLLMのモデルは無料で入手できますが、利用の条件はモデルごとに違います。Apache 2.0やMITは、商用の利用を認めているライセンスです。

独自のライセンスで公開されているモデルもあります。業務で使う前に、モデルの公式ページでライセンスを確かめましょう。

おすすめのローカルLLMの一覧

おすすめのローカルLLMを絞り込むときは、モデルごとの容量とライセンスを見比べるのが近道です。容量は自社のパソコンで動かせるか、ライセンスは業務で使えるかを判断する手がかりになります。

おすすめのローカルLLMの容量とライセンスは、以下の表のとおりです。容量は、モデルを配布しているOllamaの公式ライブラリの表示にもとづきます。

モデル開発元容量の例ライセンス
Gemma 4GoogleE2Bは4.6GBから・12Bは7.7GBから・31Bは19GBからApache 2.0
Qwen3.5Alibaba0.8bは1.0GB・4bは3.4GB・9bは6.6GBApache 2.0
Qwen3.6Alibaba27bは18GBから・35bは23GBからApache 2.0
gpt-ossOpenAI20bは14GB・120bは65GBApache 2.0
Phi-4Microsoft14bは9.1GBMIT

表に載せた5つのモデルの特徴は、以下のとおりです。

  • Gemma 4は文章と画像を扱える5つのサイズがある
  • Qwen3.5は1GBから選べる小さなサイズがそろう
  • Qwen3.6はコーディングの作業を強化している
  • gpt-ossは16GBのメモリで動く20bが定番になっている
  • Phi-4は9.1GBの1サイズで選びやすい

Gemma 4は文章と画像を扱える5つのサイズがある

Gemma 4は、Google DeepMindが開発した公開モデルです。文章と画像を入力でき、文章を出力します。

サイズは、小型のE2BとE4B、中型の12B・26B・31Bの5つです。小型のモデルは、ノートパソコンやスマートフォンでの動作を想定して設計されています。

対応する言語は35以上で、学習には140以上の言語が使われたと説明されています。ライセンスはApache 2.0です。

Qwen3.5は1GBから選べる小さなサイズがそろう

Qwen3.5は、Alibabaが公開しているモデルの系列です。Ollamaの公式ライブラリでは、0.8bが1.0GBで、2bが2.7GBと表示されています。4bは3.4GBで、9bは6.6GBです。

小さなサイズから順に試せるため、メモリの少ないパソコンでも始めやすい点が利点です。201の言語と方言に対応すると説明されており、ライセンスはApache 2.0になっています。

Qwen3.6はコーディングの作業を強化している

Qwen3.6は、Qwen3.5のあとに公開された系列です。開発元は、AIが自律的にプログラムを書く作業の性能を大きく高めたと説明しています。

容量は27bが18GBからで、35bは23GBからです。動かすには、大容量のメモリを積んだパソコンが必要になります。

ローカルLLMをClaude Codeとつないで、プログラムを書く作業に使う方法は、別の記事で解説しています。

Claude CodeでローカルLLMを使う方法|Ollama連携の手順と注意点

gpt-ossは16GBのメモリで動く20bが定番になっている

gpt-ossは、OpenAIが公開しているモデルです。20bと120bの2つのサイズがあり、容量は20bが14GBで、120bは65GBです。

OpenAIは、20bは16GBのメモリが目安だと説明しています。ライセンスはApache 2.0で、商用の利用にも向くと案内されています。

Phi-4は9.1GBの1サイズで選びやすい

Phi-4は、Microsoftが公開している140億パラメータのモデルです。Ollamaの公式ライブラリでは、14bの1サイズで、容量は9.1GBと表示されています。

サイズを選ぶ手間がなく、ライセンスはMITです。一度に扱える文章の量は、表のほかのモデルより少なく設定されています。

パソコンの性能別に選ぶおすすめのローカルLLM

ローカルLLMを快適に動かせるかどうかは、モデルの容量がパソコンのメモリに収まるかで変わります。モデルの容量ごとに、向いているパソコンの目安を確かめておきましょう。

パソコンの性能別のローカルLLMの選び方は、以下の4つです。

  • 容量が8GB未満のモデルは一般的なパソコンで試しやすい
  • 容量が8GBから15GBのモデルは余裕のあるメモリで使う
  • 容量が16GB以上のモデルは大容量のメモリか高性能なGPUで使う
  • 量子化で容量を小さくしたモデルも選べる

容量が8GB未満のモデルは一般的なパソコンで試しやすい

容量が8GB未満のモデルは、最初に試す候補です。Qwen3.5の0.8bから9bまでと、Gemma 4のE2Bが当てはまります。

実行するソフトのLM Studioは、公式ドキュメントの動作要件で16GB以上のメモリを推奨しています。メモリが8GBのMacでは、小さなモデルにとどめるよう案内されています。

容量が8GBから15GBのモデルは余裕のあるメモリで使う

Gemma 4の12B(7.7GBから)・Phi-4(9.1GB)・gpt-ossの20b(14GB)は、容量が8GB前後から15GBのモデルです。16GBのメモリでは、ほかのソフトを同時に開くと余裕が少なくなります。

日常の業務と並行して使うなら、32GB以上のメモリを積んだパソコンが目安です。

容量が16GB以上のモデルは大容量のメモリか高性能なGPUで使う

Gemma 4の26Bと31B、Qwen3.6の27bと35bは、容量が16GBを超えます。動かすには、大容量のメモリか、VRAMの多いGPUを積んだパソコンが必要です。

Ollamaは、強力なGPUのないパソコンでは大きなモデルの回答が遅くなると説明しています。大きなモデルは、小さなモデルで効果を確かめてから検討してください。

量子化で容量を小さくしたモデルも選べる

量子化は、モデルの計算の負荷を下げて、容量を小さくする調整です。量子化が進んだモデルほど、性能の低いパソコンでも動かしやすくなります。

モデルの一覧で同じ名前に複数の容量が並んでいる場合は、量子化の度合いの違いです。容量が小さいほど軽く動きますが、回答の質は下がる場合があります。

用途別のおすすめのローカルLLM

ローカルLLMは、モデルによって得意な作業が違います。文章の作業・日本語・コーディング・画像の読み取りのうち、任せたい作業に合うモデルを選びましょう。

用途別にローカルLLMを選ぶときの目安は、以下の4つです。

  • 文章の要約や下書きにはGemma 4かQwen3.5を選ぶ
  • 日本語を重視するなら日本語向けのモデルも試す
  • コーディングにはQwen3.6を選ぶ
  • 画像や資料の読み取りにはGemma 4を選ぶ

文章の要約や下書きにはGemma 4かQwen3.5を選ぶ

要約・下書き・言い換えなどの文章の作業には、汎用のモデルが向いています。Gemma 4とQwen3.5は、どちらも多くの言語に対応しており、サイズの選択肢も豊富です。

クラスメソッドが2026年7月に公開した検証の記事は、日本語の性能でQwen3.6とGemma 4を高く評価しています。

日本語を重視するなら日本語向けのモデルも試す

日本語向けに作られたモデルも公開されています。ELYZAのLlama-3-ELYZA-JP-8Bは、MetaのLlama 3をもとに、日本語向けの追加学習を行ったモデルです。

SB IntuitionsのSarashina2.2は、日本語のモデルとして公開されています。3bのモデルのライセンスはMITです。

ELYZAのモデルは、もとになったLlama 3のライセンスで公開されています。業務で使う場合は、条件を読んでから判断してください。

コーディングにはQwen3.6を選ぶ

プログラムを書く作業には、Qwen3.6が候補です。画面の実装や、複数のファイルにまたがる作業の精度を高めたと説明されています。

容量が18GB以上のため、動かせるパソコンは限られます。

画像や資料の読み取りにはGemma 4を選ぶ

画像を読み取らせたい場合は、画像の入力に対応したモデルを選びます。Gemma 4は、書類やPDFの読み取り・グラフの理解・文字の認識に対応すると説明されています。

Qwen3.5とQwen3.6も、文章と画像の入力に対応したモデルです。

ローカルLLMを選ぶときの注意点

ローカルLLMは無料で試せる一方で、回答の質やライセンスの条件はモデルごとに違います。選ぶ前に注意点を知っておくと、業務に合わないモデルに時間をかけずに済みます。

ローカルLLMを選ぶときの注意点は、以下の4つです。

  • 回答の質はクラウドの最新のモデルに及ばない場合がある
  • ライセンスはモデルごとに違う
  • モデルは数か月で入れ替わる
  • 日本語の品質は自社の文章で確かめる

回答の質はクラウドの最新のモデルに及ばない場合がある

パソコンで動かせる大きさのモデルは、クラウドで提供される最新のモデルより小さく作られています。複雑な推論や長い文章では、回答の質が及ばない場合があります。

機密の情報を扱う作業はローカルLLMに任せ、ほかの作業はクラウドのAIに任せる使い分けが現実的です。

ライセンスはモデルごとに違う

表の5つのモデルは、Apache 2.0かMITで公開されています。一方で、Llama 3をもとにしたモデルのように、独自のライセンスで公開されているモデルもあります。

同じ系列でも、サイズや版によってライセンスが違う場合がある点にも注意が必要です。使うモデルのページで、1つずつ確かめてください。

モデルは数か月で入れ替わる

ローカルLLMのモデルは、数か月の単位で新しい世代が出ます。Ollamaの公式ライブラリには、より新しい番号のQwen3.8もすでに並んでいます。

おすすめの記事の内容は、すぐに古くなるものです。公開された日付を確かめ、公式の一覧で最新の状況を見る習慣をつけましょう。

日本語の品質は自社の文章で確かめる

日本語の回答の質は、モデルとサイズによって差があります。評価の点数が高いモデルでも、自社の業務の文章で同じ結果になるとは限りません。

実際の業務の文章を使い、2つから3つのモデルで回答を比べてから決めてください。

おすすめのローカルLLMを試す手順

おすすめのローカルLLMは、無料で使い始められるソフトを入れれば、自社のパソコンで試せます。小さなモデルから順に試すと、回答の質と動作の速さを確かめながら選べます。

おすすめのローカルLLMを試す手順は、以下の3つです。

  1. LM StudioかOllamaをインストールする
  2. 小さなモデルをダウンロードする
  3. 自社の業務の文章で回答を比べる

LM StudioかOllamaをインストールする

ローカルLLMを動かすには、実行するソフトが必要です。LM Studioは画面の操作だけで使え、Ollamaはほかのツールとつなげやすい点が特徴になります。

どちらも無料で使い始められます。ソフトの入れ方を含む構築の手順は、ローカルLLMの作り方の記事で解説しています。

ローカルLLMの作り方!必要なPCと無料の構築手順・注意点を解説

小さなモデルをダウンロードする

ソフトの中でモデルを検索し、容量の小さいサイズからダウンロードします。Qwen3.5の4b(3.4GB)やGemma 4のE2Bが、最初の候補です。

自社の業務の文章で回答を比べる

議事録の要約やメールの下書きなど、実際の業務の文章で試します。回答の正確さ・日本語の自然さ・回答までの時間の3点を比べてください。

物足りない場合は、1つ大きなサイズか、別のモデルに切り替えます。

ローカルLLMのおすすめに関するよくある質問

ローカルLLMのおすすめを調べるときに出やすい、日本語の性能・費用・パソコンの性能・Macでの利用・画像の生成についての疑問に回答します。

ローカルLLMのおすすめに関するよくある質問は、以下の5つです。

  • 日本語に強いローカルLLMはどれですか?
  • 無料で使えるローカルLLMはありますか?
  • ローカルLLMは性能の低いパソコンでも動きますか?
  • ローカルLLMはMacでも使えますか?
  • ローカルLLMで画像の生成はできますか?

日本語に強いローカルLLMはどれですか?

多くの言語に対応したGemma 4とQwen3.5・Qwen3.6が候補です。日本語向けに作られたLlama-3-ELYZA-JP-8BとSarashina2.2も公開されています。

優劣は用途によって変わるため、自社の文章で比べることをおすすめします。

無料で使えるローカルLLMはありますか?

当記事で紹介したモデルは、すべて無料で入手できます。実行するソフトのLM StudioとOllamaにも、無料のプランがあります。

かかる費用は、パソコンの購入費と電気代です。

ローカルLLMは性能の低いパソコンでも動きますか?

小さなモデルなら動きます。Qwen3.5の0.8bは1.0GBで、2bは2.7GBです。

ただし、小さなモデルほど回答の質は下がります。用途に足りるかを試して確かめてください。

ローカルLLMはMacでも使えますか?

使えます。LM Studioは、Appleシリコンを積んだMacに対応しており、16GB以上のメモリを推奨しています。

ただし、LM Studioはインテル製のCPUを積んだMacには対応していません。

ローカルLLMで画像の生成はできますか?

当記事で紹介したモデルは、文章を出力するモデルです。Gemma 4やQwen3.5は画像を入力できますが、画像の生成はできません。

画像を生成したい場合は、画像生成用の別のモデルが必要です。

まとめ

ローカルLLMのおすすめは、パソコンの性能と用途で決まります。最初の1つは、Gemma 4かQwen3.5の小さなサイズが候補です。

まずはパソコンのメモリの容量を確かめ、収まる容量のモデルをダウンロードしましょう。自社の業務の文章で回答を比べ、業務で使う前にライセンスを確かめてください。

この記事の監修者

中島大介(なかじ)

中島大介(なかじ)

株式会社メリル 代表取締役 / 記事監修

株式会社メリル代表取締役。SEO歴20年以上。最新AIやセキュリティについて発信するYouTube「ウェブ職TV」は登録者15万人以上。著書「ChatGPT & Copilotの教科書」は10万部突破!

プロフィールを見る

関連する記事

Cursorのプラグイン「pstack」の使い方を解説する記事のアイキャッチ
AIツール活用

pstackの使い方|Cursor・Claude Codeへの入れ方と頼み方

pstackを使ってみたい方は必見!この記事では、pstackの入れ方と/poteto-modeでの頼み方を解説します。実は、pstackで最初に覚えるコマンドは2つだけです。記事を読めば、AIに確かめさせながら作業を任せられます。

中島大介(なかじ)監修 / Touch AI編集部25 分で読めます
MetaのAIエージェント「Muse」の使い方を解説する記事のアイキャッチ
AIツール活用

Museの使い方|Meta Museの始め方・初期設定・料金を解説

Museを使い始めたい方は必見!この記事では、Meta Museの始め方・初期設定・料金を解説します。実は、Museとのやり取りをAIの学習に使う設定は最初からオンです。記事を読めば、任せる範囲を決めてから使い始められます。

中島大介(なかじ)監修 / Touch AI編集部26 分で読めます
Claude Codeで複数ファイルを一括置換する方法を解説する記事のアイキャッチ
AIツール活用

複数ファイルの文字列を一括置換するには?Claude Codeで残す語を指定

製品名の変更で複数のファイルを直したい方は必見!この記事では、Claude Codeで複数のファイルの文字を一括置換する手順を解説します。実は、残す語を決めてから置き換えられます。記事を読めば、コピーから元に戻す方法も分かります。

中島大介(なかじ)監修 / Touch AI編集部19 分で読めます

次のステップ

最新動向を学びに変える

話題のAIアップデートを、現役講師が背景と実務への影響まで解きほぐします。Touch AI の最新講座で、変化に追いつくための視点を得てください。

受講できる講座を見る