Tech

WindowsでOllamaを動かす｜ローカルLLM入門

WindowsでOllamaを動かす｜ローカルLLM入門

ChatGPTやClaudeをブラウザで使うのが当たり前になった一方で、「手元のPCだけでLLMを動かしたい」と思ったことはないでしょうか。

APIキーも外部通信も使わず、ローカルに閉じた環境でモデルを試せると、検証や個人用途の心理的なハードルがぐっと下がります。

その入り口として手軽なのが、Windowsでも素直に動くOllamaというツールです。

この記事では、OllamaをWindowsに導入し、最初のモデルを動かすまでの手順を整理します。

つまずきやすいメモリ周りの注意点まで触れるので、「とりあえず動かしてみたい」が今日のうちに達成できるはずです。

目次

Ollamaとは（ローカルLLMの土台）

Ollamaは、ローカル環境でLLMをダウンロードして動かすためのランタイムなのです。

モデルの取得から実行、APIサーバーとしての常駐までを、ひとつのコマンド体系でまとめてくれるのが特徴です。

インストールするとバックグラウンドでサービスが立ち上がり、http://localhost:11434 でAPIを待ち受けます。

そのため、CLIから対話するだけでなく、自作スクリプトやアプリからローカルのモデルを呼び出す土台にもなるのが面白いところです。

公式サイトは ollama.com、ソースコードは GitHub で公開されています。

Windowsへのインストール（3つの方法）

WindowsでOllamaを導入する3ステップ（インストール・ollama runでモデル実行・localhost:11434のAPIサーバー化）とメモリ・ポートの注意点の図解

前提となるのはWindows 10以降で、インストール方法は大きく3つ。

方法1：公式インストーラ

一番わかりやすいのは、公式ダウンロードページ から OllamaSetup.exe を取得して実行する方法です。

方法2：winget

コマンドで完結させたいなら、Windows標準のパッケージ管理 winget を使う手があります。

winget install Ollama.Ollama

方法3：PowerShellワンライナー

公式が案内しているインストールスクリプトを、PowerShellに貼り付けて実行する方法もあります。

irm https://ollama.com/install.ps1 | iex

どの方法でも、インストール後はタスクトレイに常駐し、サービスが自動的に起動します。

最初のモデルを動かす

Ollamaの管理コマンド早見図：run・list・pull・ps・rmの役割と使いどころ

インストールが終わったら、PowerShellかコマンドプロンプトを開いて動作を確かめてみましょう。

ollama run llama3.2

初回はモデル本体が自動でダウンロードされるため、回線によっては数分かかります。

ダウンロードが終わると対話プロンプトが表示され、そのまま日本語で話しかけられるのが手軽なところです。

対話を抜けたいときは /bye と入力すれば終了します。

よく使う管理コマンドは次のとおりです。

  • ollama list … 取得済みモデルの一覧
  • ollama pull <model> … モデルだけ先にダウンロード
  • ollama ps … 実行中モデルの確認
  • ollama rm <model> … 不要になったモデルの削除

つまずきやすいポイント

最初の関門はメモリです。

一般的な目安として、7B〜8B級のモデルは8GB前後のRAMかVRAMがあると動かしやすく、足りないと動作が極端に遅くなったり起動に失敗したりします。

まずは軽量なモデルから試し、余裕を見ながら大きいモデルへ広げるのが安全です。

もうひとつは待ち受けポートで、既定の11434が他のアプリと衝突すると接続できなくなります。

常駐を止めたいときは、タスクトレイのアイコンから終了させればサービスも一緒に止まるのです。

APIサーバーとして呼び出す

対話画面で動かせたら、次はOllamaをアプリから呼べるAPIサーバーとして使ってみます。

常駐しているサービスは http://localhost:11434 でリクエストを待ち受けているのです。

難しい準備は要らず、HTTPで話せる相手がもう一台増える感覚に近いところ。

たとえばPowerShellやcurlから、次のように生成APIを叩けます。

curl http://localhost:11434/api/generate -d '{ "model": "llama3.2", "prompt": "日本の首都は？", "stream": false }'

モデル名とプロンプトを渡すと、生成結果がJSONで返ってきます。

一文字ずつ受け取るストリーミングにしたいなら、stream を true に変えるだけです。

さらに /v1 以下にはOpenAI互換のエンドポイントも用意されているのです。

既存のOpenAI向けSDKの向き先を差し替えるだけで、そのままローカルモデルへ繋ぎ替えられます。

ブラウザのチャットを、自分のコードから呼び出せる部品へと一段引き上げられるのが面白いところ。

最後に

Ollamaを使えば、Windowsでも数コマンドでローカルLLMの入り口に立てます。

ローカルで動かせるようになると、APIに送りたくないデータの検証や、オフラインでの実験など、できることの幅が一気に広がるのです。

以上です。