AIツール活用

Claude CodeでローカルLLMを使う方法|Ollama連携の手順と注意点

中島大介(なかじ)監修 / Touch AI編集部読了時間 約17分
Claude CodeでローカルLLMを使う方法のアイキャッチ

Claude Codeを毎日の開発に使っていると、「便利だけれど利用料金が気になる」「コードを外部APIへ送ってよいか判断に迷う」「特定のモデルやサービスに依存しすぎていないか不安」という場面が出てきます。そこで選択肢に入るのが、ローカルLLMです。

ローカルLLMは、自分のPCや社内サーバー上で動かす大規模言語モデルです。Claude Code自体の操作感を保ったまま、Ollamaなどを経由してモデルの向き先をローカル側へ変えられるようになり、試しやすさはかなり上がりました。

ただし、ローカルLLMは「Claude Codeを無料で完全代替する魔法」ではありません。フロンティアモデルより性能が落ちる場面があり、モデルに応じたVRAMも必要です。この記事では、Claude CodeでローカルLLMを使う仕組み、Ollamaでの基本手順、代表的なモデル候補、導入前に知っておく注意点までを整理します。

Claude CodeでローカルLLMを使う前に知っておくこと

Claude Codeとは何かを説明するスライド

Claude Codeは、ターミナルやエディタから使えるAIコーディングエージェントです。単なるチャットではなく、プロジェクト内のファイルを読み、必要に応じて編集案を出し、コマンド実行まで含めて作業を進めます。

そのため、通常のチャット型AIよりも「モデルの賢さ」「長いコンテキストを扱う力」「ツール呼び出しの安定性」が重要です。ローカルLLMに切り替えると、送信先は変えられますが、Claude Codeが期待する複雑な指示理解まで同じになるとは限りません。

まず押さえるべき結論は、以下の3つです。

  • Claude CodeはローカルLLMにも接続できる
  • 実用性はモデルサイズ、VRAM、ツール呼び出し対応で大きく変わる
  • 重要な設計判断や長い修正作業は、まだフロンティアモデルの方が安定しやすい

ローカルLLMは、費用やセキュリティの不安を減らす有力な選択肢です。一方で、導入目的を「完全代替」ではなく「用途に応じた使い分け」と捉える方が失敗しにくくなります。

» Claude Codeの使い方入門!始め方から基本操作まで徹底解説

フロンティアモデルだけに依存する3つの問題

フロンティアモデル3つの問題点を整理したスライド

Claude Codeの標準的な使い方では、Anthropicのフロンティアモデルを利用します。高性能で安定していますが、運用面では次のような課題があります。

課題何が問題になるかローカルLLMで軽くできる部分
使用料金が高い長時間の調査、反復修正、大量ファイルの読み込みでコストが膨らむ小さな実装や下書きをローカル側へ逃がせる
サービス依存があるモデル提供条件、利用制限、障害、仕様変更の影響を受ける手元に動く代替ルートを持てる
セキュリティの不安がある社内コードや顧客情報を外部APIへ送ってよいか判断が必要外部送信を避ける構成を作りやすい

特に企業利用では、料金だけでなく「どのコードをどのAIに渡してよいか」が問題になります。社内規程や顧客契約によっては、外部AIへの送信に追加承認が必要なケースもあります。

ローカルLLMを使うと、少なくともモデル推論の部分は自分のPCや社内環境に寄せられます。これは、コスト削減だけでなく、データの置き場所を管理しやすくするという意味でも価値があります。

» Claude Codeのセキュリティを徹底解説!安全に使う設定と企業運用も紹介

ローカルLLMとは?クラウドLLMとの違い

ローカルLLMとは何かを説明するスライド

ローカルLLMとは、クラウドAPIではなく、自分のPC、ワークステーション、社内GPUサーバーなどで実行するLLMのことです。Ollama、LM Studio、llama.cpp、vLLM、SGLangなどの実行環境を使い、モデルファイルを読み込んで推論します。

クラウドLLMとローカルLLMの違いは、モデルの置き場所だけではありません。料金、速度、管理責任、性能の考え方が変わります。

比較軸クラウドLLMローカルLLM
実行場所提供会社のAPI基盤自分のPCや社内サーバー
課金トークン課金や月額プラン主に端末・GPU・電力コスト
性能最新の大規模モデルを使いやすい手元の計算資源に左右される
データ管理外部サービスへの送信判断が必要外部送信を避けやすい
運用負荷低いモデル管理、VRAM、更新対応が必要

Claude CodeでローカルLLMを使う場合は、Claude CodeがOllamaなどのローカルサーバーへリクエストを送る形になります。Ollama側がAnthropic互換APIを提供するため、Claude Codeから見ると「Anthropic APIに似た別の送信先」に見える仕組みです。

重要なのは、送信先を変えるだけではモデルの能力は変わらない点です。Claude Codeの公式ドキュメントでも、ANTHROPIC_BASE_URLはリクエストの送信先を変える設定であり、どのモデルが応答するかは別途選ぶ必要があります。

なぜ今ローカルLLMが注目されるのか

ローカルLLMが注目される理由を整理したスライド

ローカルLLMが注目される理由は、単に「無料で使いたい」だけではありません。大きく見ると、次の3つの流れがあります。

  • 代替案としての存在感が増している
  • 計算資源の自由な活用がしやすくなった
  • モデル選択の自由度が上がった

1つ目は、フロンティアモデルの利用料金や提供条件への依存を下げたいという動きです。AIコーディングエージェントを日常的に使うほど、トークン消費や月額上限は現実的な制約になります。

2つ目は、Apple SiliconやNVIDIA GPU搭載PC、社内GPUサーバーの活用です。すべてをクラウドAPIへ投げるのではなく、軽めのタスクや試作を手元の計算資源で処理する発想が広がっています。

3つ目は、オープンウェイトモデルや公開モデルの選択肢が増えたことです。Gemma、Qwen、Mistral、gpt-oss、GLM、DeepSeek、Phi、Llama、MiniMaxなど、用途やライセンス、必要メモリに応じて候補を選べるようになりました。

ただし、Claude Codeで使う場合は「チャットで賢い」だけでは不十分です。ファイル操作やツール呼び出し、長いコンテキストへの追従が必要になるため、コーディング用途で推奨されているモデルから試す方が安全です。

Claude Codeで使う代表的なローカルLLMモデル候補(前半)

代表的なローカルLLMモデル候補前半のスライド

ここではモデルファミリー軸で、Claude CodeやOllama連携を検討するときの候補を整理します。各モデルは更新が速いため、記事公開時点の代表的なバージョン名として見てください。

モデル軸最新系の目安ざっくりした位置づけClaude Codeで見るポイント
GemmaGemma 4Google DeepMind系のオープンモデル。PC上でのエージェント用途を意識したラインがあるサイズ違いがあり、手元PCで試しやすい候補。ただし小型モデルではツール呼び出しが弱い場合がある
QwenQwen3.7 / Qwen3-Coder系コーディング、エージェント、長文処理で存在感があるモデル群Ollama公式のClaude Code連携でもコーディング用途の候補として名前が出る
MistralMistral Medium 3.5 / Mistral Small 4欧州発のモデル群。商用APIとオープンモデルの両方で展開軽量モデルは試しやすいが、Claude Code用途ではツール対応と実行環境の確認が必要
gpt-ossgpt-oss-120b / gpt-oss-20bOpenAIのオープンウェイト推論モデル。20bは比較的試しやすく、120bは高メモリ環境向けOllamaのコーディング推奨ローカルモデルにも`gpt-oss:20b`が含まれる
PhiPhi-4 / Phi-4-mini / Phi-4-multimodalMicrosoftの小型言語モデル群。軽量・低遅延用途に向くローカルで扱いやすい一方、Claude Codeの複雑なエージェント作業では適用範囲を絞る

この前半の候補は、手元PCで試しやすいモデルと、比較的導入しやすいモデルが中心です。最初の検証では、いきなり最大モデルを選ぶより、Ollamaで利用しやすく、ツール呼び出しに対応したモデルを1つ選ぶ方が進めやすくなります。

Claude Codeで使う代表的なローカルLLMモデル候補(後半)

代表的なローカルLLMモデル候補後半のスライド

後半は、より大規模なモデルやエージェント用途で注目されるモデルが中心です。ローカル実行できるものもありますが、現実的には高VRAMのGPUサーバー、vLLM、SGLang、クラウドホスト版を組み合わせるケースも多くなります。

モデル軸最新系の目安ざっくりした位置づけClaude Codeで見るポイント
GLMGLM-5.2長いコンテキストとエージェント用途を意識した大規模MoEモデル高性能だが、ローカル実行はPC単体よりサーバー向き。OllamaよりvLLMなどを検討する領域
DeepSeekDeepSeek-V4推論、コーディング、エージェント性能で注目されるモデル群APIではAnthropic互換対応もあり、ローカル・自前ホストでは必要リソース確認が重要
LlamaLlama 4Metaの代表的なオープンウェイトモデル群。ScoutやMaverickなどの系統がある汎用性が高いが、Claude Code用途ではモデルサイズとツール呼び出し対応を確認する
MiniMaxMiniMax M3長いコンテキスト、マルチモーダル、エージェント用途を押し出すモデル高性能候補だが、ローカル実行はサーバー前提になりやすい。用途によりAPI版も候補

モデル候補を見るときは、ベンチマークの数値だけで判断しないことが大切です。Claude Codeでは、コード生成の精度に加えて、ツール呼び出し、長い会話の保持、ファイル操作の安定性が必要です。

特に小型モデルは、単発のコード生成なら動いても、Claude Codeのツールを正しく使えないことがあります。逆に大規模モデルは性能が期待できますが、VRAMや運用コストが一気に重くなります。

OllamaでClaude CodeからローカルLLMを使う方法

OllamaでClaude CodeとローカルLLMを接続する流れのスライド

Claude CodeでローカルLLMを試す最短ルートはOllamaです。Ollamaはローカルでモデルを起動し、Claude Codeが使うAnthropic互換のAPIとして振る舞えます。

基本の流れは次のとおりです。

  1. Ollamaをインストールする
  2. 使いたいモデルを取得する
  3. ollama launch claudeでClaude Codeを起動する
  4. 必要に応じてモデル名やコンテキスト長を調整する

Ollama公式のClaude Code連携では、次のコマンドで起動できます。

ollama launch claude

モデルを指定する場合は、次のように実行します。

ollama launch claude --model qwen3-coder

手動で設定する場合は、環境変数でClaude Codeの送信先をOllamaに向けます。

export ANTHROPIC_AUTH_TOKEN=ollama

export ANTHROPIC_API_KEY=""

export ANTHROPIC_BASE_URL=http://localhost:11434

claude --model qwen3-coder

この構成では、Claude Codeの操作画面はそのまま使いながら、裏側のモデル応答をOllama側へ向けます。すでに通常のClaude Codeを使っている人は、通常利用用のターミナルとローカルLLM検証用のターミナルを分けると安全です。

Ollama公式は、Claude Codeのようなコーディングツールでは大きなコンテキスト長が重要で、64k以上を推奨しています。小さなコンテキストのままだと、リポジトリ全体の理解やツール定義の処理が苦しくなり、単なるチャットデモに近くなります。

ローカルLLMを使うときの注意点

ローカルLLM利用時の注意点を整理したスライド

ローカルLLMを導入する前に、最低限この3点は押さえてください。

注意点内容対策
性能はフロンティアモデルより劣る最新のClaude、GPT、Gemini系より、設計判断や長い修正の安定性が落ちやすい重要判断はフロンティアモデル、下書きや小タスクはローカルLLMに分ける
モデルに応じたVRAMが必要20B級でも16GBから24GB以上が目安になることがあり、長いコンテキストほど重くなるまず小さめのモデルで動作確認し、用途に合わせて上げる
最新モデルが簡単に動くとは限らないOllama対応、量子化、ツール呼び出し、コンテキスト長の設定が揃わないと実用性が落ちる公式の推奨モデルと実行環境の対応状況を確認する

実際の検証記事でも、小型モデルではファイル作成やツール呼び出しが不安定になった例が多く見られます。Claude Codeはツール定義やプロジェクト文脈を大量に扱うため、一般的なチャットより要求水準が高いと考えてください。

セキュリティ面でも、ローカルなら無条件に安全というわけではありません。OllamaのポートをLANやインターネットへ不用意に公開しない、社内コードを扱うPC自体の権限管理を見直す、モデルや実行環境の更新を怠らない、といった基本対策は必要です。

Claude CodeのローカルLLM運用はどこから始めるべきか

最初から全作業をローカルLLMへ移す必要はありません。おすすめは、タスクを3つに分けることです。

タスク推奨モデルの考え方理由
設計判断、レビュー、複雑な修正フロンティアモデル中心長い文脈と判断品質が重要
小さな実装、サンプルコード、下書きローカルLLM候補多少の手直しを前提にすれば費用削減しやすい
社内コードの確認、機密寄りの相談ローカルLLMまたは社内ホスト外部送信を避ける必要がある場合に向く

実務では、Claude Codeを司令塔として使い、重要な判断はフロンティアモデルに任せ、単純な下書きや試作をローカルLLMへ寄せる構成が現実的です。

この使い分けなら、コストとセキュリティの不安を下げつつ、Claude Codeの強みであるプロジェクト理解や作業支援も活かせます。いきなり置き換えるのではなく、まず1つの小さなリポジトリで、ollama launch claudeから試すのがよいでしょう。

» Claude Codeの料金プランを徹底解説!MaxとAPI課金の選び方も紹介

Claude CodeとローカルLLMに関するよくある質問

導入前に出やすい疑問をまとめます。

Claude Codeを完全無料で使えるようになりますか?

ローカルLLM側の推論にAPI料金はかかりません。ただし、Claude Code本体の利用条件、PCやGPUの購入費、電気代、モデル管理の手間は残ります。無料化というより、外部APIへの依存とトークン課金を減らす選択肢と考える方が現実的です。

OllamaならどのモデルでもClaude Codeで使えますか?

接続できることと、実用的に動くことは別です。Claude Codeではツール呼び出し、ファイル編集、長いコンテキスト処理が必要です。モデルがツール呼び出しに対応していない、または小さすぎる場合は、APIエラーや不安定な出力につながります。

会社のコードをローカルLLMに渡せば安全ですか?

外部APIへ送らない構成を作りやすい点はメリットです。ただし、PC自体の管理、モデル実行サーバーの公開範囲、ログ、権限、社内ルールは別途確認が必要です。ローカルLLMはセキュリティ対策の一部であり、社内規程の代わりにはなりません。

最初に試すならどのモデルがよいですか?

Ollama公式のコーディング向け推奨では、qwen3-codergpt-oss:20bなどが候補に挙がっています。まずは手元PCのVRAMで動くモデルを選び、短いリポジトリで質問、簡単なコード生成、ファイル編集の順に試すのが安全です。

まとめ

ローカルLLMという選択肢のまとめスライド

Claude CodeでローカルLLMを使う方法は、以前よりかなりシンプルになりました。Ollamaを使えば、ollama launch claudeでClaude Codeの送信先をローカルまたはOllama側のモデルに向けられます。

一方で、ローカルLLMはフロンティアモデルの完全代替ではありません。性能はモデルに依存し、特にツール呼び出しや長いコンテキスト処理では差が出ます。さらに、モデルに応じたVRAMが必要で、最新モデルほど実行環境の確認も欠かせません。

まずは、重要判断をフロンティアモデルに残しつつ、小さな実装や機密性の高い試作をローカルLLMに寄せるところから始めましょう。料金、依存、セキュリティの不安を減らしながら、Claude Codeを使い続ける現実的な選択肢になります。

この記事のタグ

AI

執筆者について

中島大介(なかじ)監修 / Touch AI編集部

関連する記事

次のステップ

最新動向を学びに変える

話題のAIアップデートを、現役講師が背景と実務への影響まで解きほぐします。Touch AI の最新講座で、変化に追いつくための視点を得てください。

最新のAI講座を見る