AIツール活用

Claude CodeでローカルLLMを使う方法|Ollama連携の手順と注意点

中島大介(なかじ)読了時間 約27分
Claude CodeでローカルLLMを使う方法のアイキャッチ

Claude Codeを毎日の開発に使っていると「便利だけれど利用料金が気になる」「コードを外部APIへ送ってよいか判断に迷う」という場面が出てきます。「特定のモデルやサービスに依存しすぎていないか」と不安になることもあるでしょう。そこで選択肢に入るのが、ローカルLLMです。

ローカルLLMは、自分のパソコンや社内サーバー上で動かす大規模言語モデルです。Claude Code自体の操作感を保ったまま、Ollamaなどを経由してモデルの向き先をローカル側へ変えられるようになり、試しやすさはかなり上がりました。

ただし、ローカルLLMは「Claude Codeを無料で完全代替する魔法」ではありません。フロンティアモデルより性能が落ちる場面があり、モデルに応じたVRAMも必要です。

本記事では、Claude CodeでローカルLLMを使う仕組みとOllamaでの基本手順を整理します。代表的なモデル候補と、導入前に知っておく注意点も扱います。

この記事を読めば、Claude CodeをOllama経由でローカルLLMにつなぐ手順が分かり、どの作業をローカルLLMに任せるかを判断できます。

目次

Claude CodeでローカルLLMを使う前に知っておくこと

Claude CodeでローカルLLMを使う前に、Claude Codeがどんな道具で、モデルに何を求めるかを押さえておきましょう。前提を知っておくと、ローカルLLMに任せられる作業と難しい作業を見分けやすくなります。

Claude Codeは、ターミナルやエディタから使えるAIコーディングエージェントです。単なるチャットではなく、プロジェクト内のファイルを読んで編集案を出し、コマンド実行まで含めて作業を進めます。Claude Codeの導入と基本の使い方は、別の記事で解説しています。

Claude Codeの使い方を解説!導入から日本語での依頼・変更確認まで

Claude Codeでは、通常のチャット型AIよりも「モデルの賢さ」「長いコンテキストを扱う力」「ツール呼び出しの安定性」が重要です。ファイルを読んで編集し、コマンドまで実行するためです。ローカルLLMに切り替えると、送信先は変えられますが、Claude Codeが期待する複雑な指示理解まで同じになるとは限りません。

Claude CodeでローカルLLMを使う前に押さえるべき結論は、以下の3つです。

  • Claude CodeはローカルLLMにも接続できる
  • 実用性はモデルサイズ・VRAM・ツール呼び出しへの対応で大きく変わる
  • 重要な設計判断や長い修正作業は、まだフロンティアモデルの方が安定しやすい

ローカルLLMは、費用やセキュリティの不安を減らす有力な選択肢です。一方で、導入目的を「完全代替」ではなく「用途に応じた使い分け」と捉える方が失敗しにくくなります。ローカルLLMでコーディングする方法と、おすすめのモデル・設定は、別の記事で解説しています。

ローカルLLMでコーディングする方法!おすすめモデルと設定・注意点を解説

フロンティアモデルだけに依存する3つの問題

Claude Codeの標準的な使い方では、Anthropicのフロンティアモデルを利用します。フロンティアモデルは高性能で安定していますが、料金・サービスへの依存・セキュリティの面で運用上の課題があります。

フロンティアモデルだけに依存するときの問題と、ローカルLLMで軽くできる部分は、以下の表のとおりです。

課題何が問題になるかローカルLLMで軽くできる部分
使用料金が高い長時間の調査、反復修正、大量ファイルの読み込みでコストが膨らむ小さな実装や下書きをローカル側へ逃がせる
サービス依存があるモデル提供条件、利用制限、障害、仕様変更の影響を受ける手元に動く代替ルートを持てる
セキュリティの不安がある社内コードや顧客情報を外部APIへ送ってよいか判断が必要外部送信を避ける構成を作りやすい

特に企業利用では、料金だけでなく「どのコードをどのAIに渡してよいか」が問題になります。社内規程や顧客契約によっては、外部AIへの送信に追加承認が必要なケースもあります。

ローカルLLMを使うと、少なくともモデル推論の部分は自分のパソコンや社内環境に寄せられます。データの置き場所を管理しやすくなる点でも、コスト削減と同じくらい価値があります。Claude Codeを安全に使う設定と企業での運用は、別の記事で解説しています。

Claude Codeのセキュリティを徹底解説!安全に使う設定と企業運用も紹介

ローカルLLMとは?クラウドLLMとの違い

Claude CodeでローカルLLMを使う前に、ローカルLLMとクラウドLLMの違いと、Claude Codeとつながる仕組みを押さえておきましょう。料金や運用の負担の違いが分かると、導入するかを判断しやすくなります。

ローカルLLMとは、自分のパソコンやワークステーション、社内GPUサーバーなどで実行するLLMのことです。Ollama・LM Studio・llama.cppなどの実行環境でモデルファイルを読み込んで推論します。vLLMやSGLangはサーバー向けの実行環境です。

ローカルLLMとは?クラウドAIとの違いやメリット・できることを解説

ローカルLLMとクラウドLLMの違い

クラウドLLMとローカルLLMの違いは、モデルの置き場所だけではありません。料金や速度、管理責任、性能の考え方が変わります。

比較軸クラウドLLMローカルLLM
実行場所提供会社のAPI基盤自分のパソコンや社内サーバー
課金トークン課金や月額プラン主に端末・GPU・電力コスト
性能最新の大規模モデルを使いやすい手元の計算資源に左右される
データ管理外部サービスへの送信判断が必要外部送信を避けやすい
運用負荷低いモデル管理、VRAM、更新対応が必要

Claude CodeがローカルLLMにつながる仕組み

Claude CodeでローカルLLMを使う場合は、Claude CodeがOllamaなどのローカルサーバーへリクエストを送る形になります。Ollama公式ドキュメントによると、OllamaはAnthropic互換のAPIを提供しています。Claude Codeから見ると、Ollamaは「Anthropic APIに似た別の送信先」に見える仕組みです。

重要なのは、送信先を変えるだけではモデルの能力は変わらない点です。Claude Code公式ドキュメントでも、ANTHROPIC_BASE_URLはリクエストの送信先を変える設定とされています。どのモデルが応答するかは、別途選ぶ必要があります。

なぜ今ローカルLLMが注目されるのか

ローカルLLMが注目されるのは、単に「無料で使いたい」からだけではありません。利用料金への依存・手元の計算資源・モデルの選択肢のそれぞれで変化が起きています。

ローカルLLMが注目される理由は、大きく分けて以下の3つです。

  • 代替案としての存在感が増している
  • 計算資源の自由な活用がしやすくなった
  • モデル選択の自由度が上がった

1つ目は、フロンティアモデルの利用料金や提供条件への依存を下げる動きです。AIコーディングエージェントを日常的に使うほど、トークン消費や月額上限は現実的な制約になります。

2つ目は、Apple SiliconやNVIDIA GPU搭載パソコン、社内GPUサーバーの活用です。すべてをクラウドAPIへ投げるのではなく、軽めのタスクや試作を手元の計算資源で処理する発想が広がっています。

3つ目は、オープンウェイトモデルや公開モデルの選択肢が増えたことです。Gemma・Qwen・Mistral・gpt-oss・GLM・DeepSeek・Phi・Llama・MiniMaxなど、用途やライセンス、必要メモリに応じて候補を選べるようになりました。

ただし、Claude Codeで使う場合は「チャットで賢い」だけでは不十分です。ファイル操作やツール呼び出し、長いコンテキストへの追従が必要になるため、コーディング用途で推奨されているモデルから試す方が安全です。

Claude Codeで使う代表的なローカルLLMモデル候補

ここではモデルファミリー軸で、Claude CodeやOllama連携を検討するときの候補を整理します。各モデルは更新が速いため、記事公開時点の代表的なバージョン名として見てください。

候補は、手元のパソコンで試しやすいモデルと、大規模なモデルやエージェント用途で注目されるモデルに分けて紹介します。パソコンの性能と用途に合わせたモデルの選び方は、別の記事で解説しています。

ローカルLLMのおすすめモデル!PCの性能と用途別の選び方を解説

手元のパソコンで試しやすいモデル候補

手元のパソコンで試しやすいモデルや、比較的導入しやすいモデルを中心に、Gemma・Qwen・Mistral・gpt-oss・Phiの候補を紹介します。

モデル軸最新系の目安ざっくりした位置づけClaude Codeで見るポイント
GemmaGemma 4Google DeepMind系のオープンモデル。パソコン上でのエージェント用途を意識したラインがあるサイズ違いがあり、手元のパソコンで試しやすい候補。ただし小型モデルではツール呼び出しが弱い場合がある
QwenQwen3.7/Qwen3-Coder系コーディング、エージェント、長文処理で存在感があるモデル群Ollama公式のClaude Code連携でもコーディング用途の候補として名前が出る
MistralMistral Medium 3.5/Mistral Small 4欧州発のモデル群。商用APIとオープンモデルの両方で展開軽量モデルは試しやすいが、Claude Code用途ではツール対応と実行環境の確認が必要
gpt-ossgpt-oss-120b/gpt-oss-20bOpenAIのオープンウェイト推論モデル。20bは比較的試しやすく、120bは高メモリ環境向けOllamaのコーディング推奨ローカルモデルにも`gpt-oss:20b`が含まれる
PhiPhi-4/Phi-4-mini/Phi-4-multimodalMicrosoftの小型言語モデル群。軽量・低遅延用途に向くローカルで扱いやすい一方、Claude Codeの複雑なエージェント作業では適用範囲を絞る

最初の検証では、いきなり最大モデルを選ぶより、Ollamaで利用しやすくツール呼び出しに対応したモデルを1つ選ぶ方が進めやすくなります。

大規模なモデルやエージェント用途のモデル候補

より大規模なモデルやエージェント用途で注目されるモデルを中心に、GLM・DeepSeek・Llama・MiniMaxの候補を紹介します。ローカル実行できるものもありますが、現実的には高VRAMのGPUサーバーとvLLMやSGLang、あるいはクラウドホスト版を組み合わせるケースも多くなります。

モデル軸最新系の目安ざっくりした位置づけClaude Codeで見るポイント
GLMGLM-5.2長いコンテキストとエージェント用途を意識した大規模MoEモデル高性能だが、ローカル実行はパソコン単体よりサーバー向き。OllamaよりvLLMなどを検討する領域
DeepSeekDeepSeek-V4推論、コーディング、エージェント性能で注目されるモデル群APIではAnthropic互換対応もあり、ローカル・自前ホストでは必要リソース確認が重要
LlamaLlama 4Metaの代表的なオープンウェイトモデル群。ScoutやMaverickなどの系統がある汎用性が高いが、Claude Code用途ではモデルサイズとツール呼び出し対応を確認する
MiniMaxMiniMax M3長いコンテキスト、マルチモーダル、エージェント用途を押し出すモデル高性能候補だが、ローカル実行はサーバー前提になりやすい。用途によりAPI版も候補

ベンチマークの数値だけでモデルを選ばない

モデル候補を見るときは、ベンチマークの数値だけで判断しないことが大切です。Claude Codeでは、コード生成の精度に加えてツール呼び出し・長い会話の保持・ファイル操作の安定性が必要です。

特に小型モデルは、単発のコード生成なら動いても、Claude Codeのツールを正しく使えないことがあります。逆に大規模モデルは性能が期待できますが、VRAMや運用コストが一気に重くなります。

OllamaでClaude CodeからローカルLLMを使う方法

Claude CodeでローカルLLMを試す最短ルートはOllamaです。Ollamaはローカルでモデルを起動し、Claude Codeが使うAnthropic互換のAPIとして振る舞えます。

OllamaでClaude CodeからローカルLLMを使う基本の手順は、以下のとおりです。

  1. Ollamaをインストールする
  2. 使いたいモデルを取得する
  3. ollama launch claudeでClaude Codeを起動する
  4. 必要に応じてモデル名やコンテキスト長を調整する

Ollamaは、公式サイト(ollama.com)からダウンロードしてインストールします。インストールが終わったら、ターミナルで「ollama -v」と入力し、バージョンが表示されるかを確かめます。

Ollamaのバージョンが表示されれば、インストールは終わっている

使いたいモデルは、ターミナルで「ollama pull モデル名」と入力して取得します。Ollama公式の手順の例のqwen3.5は、編集部のMac miniでは7.6GBのダウンロードでした。

モデルを取得している途中の画面。取得した量と残り時間が表示される
「success」と表示されれば、モデルの取得は終わっている

ollama launch claudeでClaude Codeを起動する

Ollama公式ドキュメントのClaude Code連携の手順では、以下のコマンドで起動できます。

ollama launch claude

「ollama launch claude」を実行すると、Claude Codeで使うモデルを選ぶ画面が表示されます。「Recommended」にはOllamaが勧めるモデルが並び、取得済みのモデルは「More」に並びます。

Claude Codeで使うモデルを選ぶ画面

モデルの名前を入力すると、一覧が絞り込まれます。矢印キーで使うモデルを選び、Enterキーを押します。

「qwen3.5」と入力して絞り込み、取得済みのqwen3.5を選んだところ

初めてClaude Codeを起動したときは、文字の配色の選び方、注意事項、作業するフォルダを信頼するかの確認が順に表示されます。確認が終わると、Claude Codeの画面の上部に、選んだモデルの名前が表示されます。

Ollamaのqwen3.5でClaude Codeが起動したところ

Claude Codeが知らないモデルのため、起動した直後に「Model "qwen3.5" isn't recognized」という注意が表示されます。編集部のMac mini(Apple M2 Pro・メモリ32GB)で、qwen3.5に短いコードを書いてもらいました。「Pythonで1から10までの合計を表示するコードを1行で書いてください」と頼むと、回答まで1分37秒かかりました。

qwen3.5が正しいコードを返したが、考える時間に1分36秒かかった

モデルを指定する場合の書き方は、以下のとおりです。

ollama launch claude --model qwen3.5

モデルを指定すると、モデルを選ぶ画面を飛ばしてClaude Codeが起動します。

モデルを指定して起動したところ

Ollama公式の手順の例はqwen3.5です。qwen3-coderやgpt-oss:20bも、Ollamaのコーディング向け推奨に含まれるモデルです。

環境変数を手動で設定する

手動で設定する場合は、Ollama公式ドキュメントのClaude Code連携の手順にあるとおり、環境変数でClaude Codeの送信先をOllamaに向けます。

export ANTHROPIC_AUTH_TOKEN=ollama

export ANTHROPIC_API_KEY=""

export ANTHROPIC_BASE_URL=http://localhost:11434

claude --model qwen3.5

3つの環境変数を設定してから、「claude --model qwen3.5」を実行する
環境変数で起動した場合も、上部にqwen3.5と表示される

各変数の意味は、Claude Code公式ドキュメントの環境変数の一覧に載っています。環境変数で送信先を変える構成では、Claude Codeの操作画面はそのまま使いながら、裏側のモデル応答をOllama側へ向けます。

すでに通常のClaude Codeを使っている人は、通常利用用のターミナルとローカルLLM検証用のターミナルを分けると安全です。

コンテキスト長を大きく設定する

Ollama公式ドキュメントは、Claude Codeのようなコーディングツールでは大きなコンテキスト長が重要とし、64k以上を推奨しています。小さなコンテキストのままだと、リポジトリ全体の理解やツール定義の処理が苦しくなり、単なるチャットデモに近くなります。

モデルに割り当てられたコンテキスト長は、ターミナルで「ollama ps」と入力すると「CONTEXT」の列で確かめられます。編集部のMac mini(メモリ32GB)では、設定を変えないまま起動したqwen3.5のコンテキスト長は32768(約32k)で、推奨の64kに届いていませんでした。

「CONTEXT」の列が、モデルに割り当てられたコンテキスト長

Ollama公式ドキュメントによると、コンテキスト長はOllamaのアプリの設定にあるスライダーで変更できます。設定を変えない場合の長さは、パソコンのVRAMの量によって4k・32k・256kのいずれかになります。

「UNTIL」の列は、モデルがメモリから外れる時刻です。編集部の環境では「ollama launch」で読み込んだモデルが8時間後までメモリに残る状態でした。使い終わってメモリを空けたいときは、ターミナルで「ollama stop qwen3.5」と入力します。

Claude CodeでローカルLLMを使うときの注意点

Claude CodeでローカルLLMを使う構成には、性能・必要なVRAM・モデルの対応状況の面で限界があります。導入する前に、最低限押さえておく注意点は以下の表の3点です。

注意点内容対策
性能はフロンティアモデルより劣る最新のClaude、GPT、Gemini系より、設計判断や長い修正の安定性が落ちやすい重要判断はフロンティアモデル、下書きや小タスクはローカルLLMに分ける
モデルに応じたVRAMが必要gpt-oss-20bは16GBのメモリ、30BのQwen3-Coderは24GB以上のVRAMが目安とされ、長いコンテキストほど重くなるまず小さめのモデルで動作確認し、用途に合わせて上げる
最新モデルが簡単に動くとは限らないOllama対応、量子化、ツール呼び出し、コンテキスト長の設定が揃わないと実用性が落ちる公式の推奨モデルと実行環境の対応状況を確認する

Anthropicのサポート対象外になる

Claude Code公式ドキュメントで、Anthropicはゲートウェイ経由でClaude以外のモデルへ接続する使い方をサポート対象外と明記しています。動かない場合の問い合わせ先は、Ollama側になると考えてください。

MCPのツール検索とRemote Controlが制限される

Claude Code公式ドキュメントの環境変数の一覧によると、ANTHROPIC_BASE_URLをAnthropic以外のホストへ向けると、MCPのツール検索は既定で無効になります。Remote Controlも使えなくなります。

コンテキスト長とモデルの大きさで安定性が変わる

Ollama公式ドキュメントも、コーディングツール向けに64k以上のコンテキストを求めています。小型モデルでは、ファイル作成やツール呼び出しが安定しない場合があります。Claude Codeはツール定義やプロジェクト文脈を大量に扱うため、一般的なチャットより要求水準が高いと考えてください。

ローカルLLMでもセキュリティ対策は必要になる

セキュリティ面でも、ローカルなら無条件に安全というわけではありません。ローカルLLMを使うときにも必要な基本のセキュリティ対策は、以下のとおりです。

  • OllamaのポートをLANやインターネットへ不用意に公開しない
  • 社内コードを扱うパソコン自体の権限を管理する
  • モデルや実行環境を更新する

Claude CodeのローカルLLM運用はどこから始めるべきか

最初から全作業をローカルLLMへ移す必要はありません。おすすめは、タスクを3つに分けることです。

タスクごとの推奨モデルの考え方は、以下の表のとおりです。

タスク推奨モデルの考え方理由
設計判断、レビュー、複雑な修正フロンティアモデル中心長い文脈と判断品質が重要
小さな実装、サンプルコード、下書きローカルLLM候補多少の手直しを前提にすれば費用削減しやすい
社内コードの確認、機密寄りの相談ローカルLLMまたは社内ホスト外部送信を避ける必要がある場合に向く

実務では、Claude Codeを司令塔として使う構成が現実的です。重要な判断はフロンティアモデルに任せ、単純な下書きや試作をローカルLLMへ寄せます。

フロンティアモデルとローカルLLMを使い分ければ、コストとセキュリティの不安を下げつつ、Claude Codeの強みであるプロジェクト理解や作業支援も生かせます。いきなり置き換えるのではなく、まず1つの小さなリポジトリでollama launch claudeから試すのがよいでしょう。Claude Codeの料金プランと、MaxとAPI課金の選び方は、別の記事で解説しています。

Claude Codeの料金プランを徹底解説!MaxとAPI課金の選び方も紹介

Claude CodeとローカルLLMに関するよくある質問

Claude CodeでローカルLLMを使う前に出やすい、費用・使えるモデル・安全性・最初に試すモデルについての疑問に回答します。Claude CodeとローカルLLMに関するよくある質問は、以下のとおりです。

  • ローカルLLMを使えば、Claude Codeを完全無料で使えるようになりますか?
  • OllamaならどのモデルでもClaude Codeで使えますか?
  • 会社のコードをローカルLLMに渡せば安全ですか?
  • Claude Codeで最初に試すならどのローカルLLMがよいですか?

ローカルLLMを使えば、Claude Codeを完全無料で使えるようになりますか?

ローカルLLM側の推論にAPI料金はかかりません。Claude Code公式ドキュメントによると、ANTHROPIC_AUTH_TOKENを設定している間はclaude.aiの契約は使われず、契約の利用枠も消費されません。

一方で、パソコンやGPUの購入費・電気代・モデル管理の手間は残り、Anthropicのサポート対象外の構成になります。無料化というより、外部APIへの依存とトークン課金を減らす選択肢と考える方が現実的です。

OllamaならどのモデルでもClaude Codeで使えますか?

接続できることと、実用的に動くことは別です。Claude Codeではツール呼び出し・ファイル編集・長いコンテキスト処理が必要です。モデルがツール呼び出しに対応していない、または小さすぎる場合は、APIエラーや不安定な出力につながります。

会社のコードをローカルLLMに渡せば安全ですか?

外部APIへ送らない構成を作りやすい点はメリットです。ただし、パソコン自体の管理やモデル実行サーバーの公開範囲、ログ・権限・社内ルールは別途確認が必要です。ローカルLLMはセキュリティ対策の一部であり、社内規程の代わりにはなりません。

Claude Codeで最初に試すならどのローカルLLMがよいですか?

Ollama公式ドキュメントでは、Claude Code連携の手順例にqwen3.5が使われ、コーディング向け推奨としてqwen3-coderやgpt-oss:20bも候補に挙がっています。まずは手元のパソコンのVRAMで動くモデルを選び、短いリポジトリで質問・簡単なコード生成・ファイル編集の順に試すのが安全です。

まとめ

Claude CodeでローカルLLMを使う方法は、以前よりかなりシンプルになりました。Ollamaを使えば、ollama launch claudeでClaude Codeの送信先をローカルまたはOllama側のモデルに向けられます。

一方で、ローカルLLMはフロンティアモデルの完全代替ではありません。性能はモデルに依存し、特にツール呼び出しや長いコンテキスト処理では差が出ます。さらに、モデルに応じたVRAMが必要で、最新モデルほど実行環境の確認も欠かせません。

まずは、重要判断をフロンティアモデルに残しつつ、小さな実装や機密性の高い試作をローカルLLMに寄せるところから始めましょう。料金・依存・セキュリティの不安を減らしながら、Claude Codeを使い続ける現実的な選択肢になります。

参考リンク

この記事のタグ

この記事の監修者

中島大介(なかじ)

中島大介(なかじ)

株式会社メリル 代表取締役 / 記事監修

株式会社メリル代表取締役。SEO歴20年以上。最新AIやセキュリティについて発信するYouTube「ウェブ職TV」は登録者15万人以上。著書「ChatGPT & Copilotの教科書」は10万部突破!

プロフィールを見る

関連する記事

次のステップ

最新動向を学びに変える

話題のAIアップデートを、現役講師が背景と実務への影響まで解きほぐします。Touch AI の最新講座で、変化に追いつくための視点を得てください。

受講できる講座を見る