VS CodeとローカルLLMを連携した使い方｜画像生成と会話するAIの魅力と可能性
https://note.com/chat_gpt777/n/nfc6aab4f11a4
ローカルLLMを活用するのに「Codex」「Claude Code」「VS Code」等を介して使うと使い勝手がいいらしいという情報をもとに、連携の仕方を調べてみた。
しかし、「Codex」や「Claude Code」などの専用ツールは、有料プランを契約しないと本領を発揮できない、あるいは使い物にならないようだった。そこで、オープンソースで無料から活用できる「VS Code」を使ったローカル連携の方法を模索してみた。
ネット上では「Codex」や「Claude Code」の使用例やノウハウはいろいろ出ているが、「ローカルLLM ＋ VS Code」の具体的な連携手順はなかなか見つからない。そのため、ChatGPTにアドバイスを求め、設定画面をキャプチャーしながら手探りで進めることになった。
試行錯誤の結果、下記のような構成で動かせる環境を構築できた。出来てしまえば非常にシンプルだが、慣れない専門用語にもぶつかり、途中経過ではかなり苦労させられた。
ローカル開発環境の構成
VS Code + Continue（拡張機能：インターフェース）
↓
Ollama（実行環境：LLMをローカルで動かすエンジン）
↓
Gemma 4 や Qwen 3.6（生成AIモデル：頭脳となるデータ）
今回のメインターゲットはローカルLLMだが、この構成はChatGPTやClaudeなどのクラウドLLMに接続して使うこともできる。「Claude Code」などを有料契約してクラウドLLMでガシガシ開発するのが主流かもしれないが、ローカルLLMにはそれに勝るとも劣らない独自の価値がある。
VS Code ＋ ローカルLLM連携のメリット・デメリット
実際に環境を構築してみて分かった、ローカルLLMをVS Codeと連携させる利点と注意点をまとめる。
メリット
完全無料かつ使い放題
クラウドLLMのように月額サブスクリプション費用（月20ドル〜）や、APIの従量課金（トークン消費によるコスト）を気にする必要がない。どれだけ長いコードを読み込ませても無料。
ソースコード（機密情報）が外部に漏洩しない
データ解析や通信がすべて自身のPC内で完結するため、業務コードや個人開発の未公開ソースコードを外部サーバーに送信することなく、安全に生成AIの恩恵を受けられる。
オフラインでも動作する
インターネットへの接続が不安定な場所や、完全にオフラインの環境でも、コーディングアシスタントとして機能する。
デメリット
PCのスペック（特にGPU・VRAM）が要求される
AIモデルをローカルで快適に動かすには、高性能なGPUやApple Silicon（Mシリーズの統一メモリ）、十分なRAM容量（16GB〜32GB以上推奨）が必要。スペックが不足していると、1文字ずつの生成速度が極端に遅くなる。
初期設定や環境構築のハードルが高い
プラグインを入れればすぐ動くクラウド型と違い、実行環境（Ollama）のセットアップ、モデルのダウンロード、拡張機能（Continue）の構成ファイル（`config.json`）の編集など、初心者にはやや難解な手順が必要になる。
クラウド最上位モデルに比べると精度が劣る場合がある
ローカルで動かせるサイズ（12Bや27Bなど）のモデルは非常に優秀になってきているが、超巨大なクラウド型（Claude 3.5 Sonnetなど）の持つ、プロジェクト全体を俯瞰した高度な推論能力には一歩及ばないことがある。
登場した主な用語の整理
今回の検証にあたって整理した、関連するキーワードの概要。
大規模言語モデル（LLM / Large Language Model）
膨大なテキストデータを学習し、人間のような自然な文章やプログラムコードを生成できるAIの総称。
クラウドLLM と ローカルLLM
クラウドLLM： OpenAIやAnthropicなどのサーバー側で処理を行うAI（ChatGPT、Claudeなど）。高性能だがコストやセキュリティの考慮が必要。
ローカルLLM： 自分のPCにモデルをダウンロードして動かすAI。安全かつ無料だがPCのパワーが必要。
Visual Studio Code（VS Code）
マイクロソフトが開発している、世界中で最も広く使われている無料のオープンソース・コードエディタ。拡張機能を入れることで強力なAI開発環境に変貌する。
Continue（コンティニュー）
VS CodeやJetBrainsなどのエディタ内で、ローカルLLMや各種APIと接続してチャットやコード補完（インライン生成）を行えるようにするオープンソースの拡張機能。
Ollama（オラマ）
Mac、Windows、Linuxなどのローカル環境で、LLMを極めて簡単かつ軽量に管理・実行できるようにするためのオープンソースソフトウェア。
Gemma 4 / Qwen 3.6
ローカル環境でも動作する代表的な高性能・オープンウェイト（モデルのデータが公開されている）LLM。Googleが開発する「Gemma 4」や、Alibabaチームが開発する「Qwen 3.6」などは、軽量ながらコーディング能力が非常に高いことで知られている。
「Claude Code」および「Codex」
Claude Code： Anthropic社が提供する、ターミナル上で動作する非常に強力なエンジニア向けAIエージェントツール。利用には主に有料プラン（Pro/Max）の契約やAPI費用が必要。
Codex： OpenAIがかつて提供していた初期のコード生成特化型モデル（現在はその後継となるGPT-4o等のモデルがGitHub Copilot等を通じて利用されている）。有料の仕組みに組み込まれていることが多い。
