Ollamaの使い方｜ローカルLLMのコマンド一覧とAPIの呼び方

Ollama は、手元の PC でオープンなモデル（ローカル LLM）を動かすツールです。入れたあと ollama run モデル名 と打つと、モデルを取得して対話が始まります。 裏では 127.0.0.1:11434 で HTTP サーバーが動いていて、curl や Python から /api/chat や OpenAI 互換の /v1/chat/completions で呼べます。

ollama run gemma4                      # 取得して対話（/bye で終わる）
ollama run gemma4 "空はなぜ青い？"      # 1回だけ答えて終わる
curl http://localhost:11434/api/chat -d '{"model": "gemma4", "messages": [{"role": "user", "content": "こんにちは"}], "stream": false}'

確認環境：Ollama v0.40.3（GitHub の v0.40.3 タグのソース）、Python ライブラリ ollama 0.6.3・openai 3.29.0、Python 3.11.15（Linux）。コマンドとフラグ、対話中のスラッシュコマンド、環境変数と既定値、API のパス、エラー文は v0.40.3 のソース（cmd/cmd.go・cmd/interactive.go・envconfig/config.go・server/routes.go）で確かめました。Python の ollama と openai が送る URL と JSON、受け取り方、例外は、Ollama の API の形を返す擬似サーバー（手元の小さな HTTP サーバー）に向けて確かめました。モデルを動かした速度やメモリ量は載せていません。メモリ・GPU・Docker・インストールは、リポジトリの docs と docs.ollama.com に基づきます（確認日 2026年10月12日）。

Ollama とは：何が動いているか

Ollama は「サーバー」と「CLI（コマンド）」の2つでできています。 ollama run などのコマンドは、裏で動くサーバー（ollama serve）に HTTP でお願いを送っているだけです。Python や curl から呼ぶときも、同じサーバーに送ります。

macOS・Windows のアプリや Linux のインストールスクリプトで入れると、サーバーは自動で起動します。Linux で手で入れたときは ollama serve で起動します。

モデル名は 名前:タグ の形です。タグを省くと latest になります（例：gemma4 は gemma4:latest）。使えるモデルは ollama.com のライブラリに並んでいます。本文の例は、公式ドキュメントの例に合わせて gemma4 で書いています。

コマンド早見表（v0.40.3）

ソースの cmd/cmd.go に定義されているコマンドです。

• ollama -v は、サーバーの版を ollama version is 0.40.3 の形で出します。サーバーにつながらないと Warning: could not connect to a running Ollama instance と、クライアントの版が出ます。
• serve 以外のコマンドは、実行前にサーバーが動いているかを確かめます（ソースの checkServerHeartbeat）。
• 環境変数の一覧は ollama serve --help で出ます。

よく使う形

ollama pull gemma4                         # 取得だけ
ollama run gemma4 --verbose                # 答えのあとに速度などの統計を出す
ollama run gemma4 "この画像は？ ./screen.png"  # 画像に対応したモデルなら画像のパスを書ける
echo "要約して: $(cat README.md)" | ollama run gemma4   # 標準入力から渡す
ollama run gemma4 "" --keepalive 30m       # 先に読み込んでおく（30分保持）
ollama show gemma4 --modelfile             # そのモデルの Modelfile を見る
ollama ps                                  # GPU に載ったかを見る

対話中のスラッシュコマンド

ollama run の対話画面で /? と打つと出る一覧です（cmd/interactive.go）。

複数行を入れるときは """ で囲みます。

Modelfile：自分用のモデルを作る

Modelfile は、元のモデル・パラメータ・システムメッセージを書いた設定ファイルです。 ollama create で、名前の付いたモデルになります。

FROM gemma4
PARAMETER temperature 0.2
PARAMETER num_ctx 8192
SYSTEM """あなたは社内ヘルプデスクです。日本語で、100文字以内で答えます。"""

ollama create helpdesk -f Modelfile
ollama run helpdesk

OpenAI 互換 API にはコンテキストの長さを決める引数がありません。ドキュメントでは、PARAMETER num_ctx を書いた Modelfile でモデルを作る方法を案内しています。

REST API の呼び方（/api/generate・/api/chat）

/api/chat は会話（messages）、/api/generate は1つのプロンプトに答えます。 どちらも既定はストリーム（1行に1つの JSON が続く NDJSON 形式）です。まとめて1つの JSON で受けたいときは "stream": false を付けます。

curl http://localhost:11434/api/chat -d '{
  "model": "gemma4",
  "messages": [
    {"role": "system", "content": "簡潔に答えてください。"},
    {"role": "user", "content": "Ollamaとは？"}
  ],
  "stream": false,
  "options": {"temperature": 0.2, "num_ctx": 8192},
  "keep_alive": "10m"
}'

curl http://localhost:11434/api/generate -d '{
  "model": "gemma4",
  "prompt": "空はなぜ青い？",
  "stream": false
}'

共通の引数です。

最後の JSON（done: true）には統計が入ります。時間はナノ秒です。

ドキュメントでは、出力の速さ（トークン／秒）を eval_count / eval_duration * 10^9 で出せるとしています。

ほかの API です（server/routes.go で確認）。

Python から呼ぶ（ライブラリ ollama）

pip install ollama

from ollama import chat

response = chat(
    model="gemma4",
    messages=[{"role": "user", "content": "こんにちは"}],
)
print(response.message.content)       # response["message"]["content"] でも取れる
print(response.eval_count / response.eval_duration * 1e9, "tokens/s")

Python ライブラリの chat() は、既定で "stream": false を付けて送ります。 REST API の既定（ストリーム）とは逆です。擬似サーバーで受けた JSON です。

POST /api/chat
{"model":"gemma4","stream":false,"messages":[{"role":"user","content":"こんにちは"}],"tools":[]}

ストリーム

from ollama import chat

for part in chat(model="gemma4", messages=[{"role": "user", "content": "Ollamaを説明して"}], stream=True):
    print(part.message.content, end="", flush=True)
print()

2つに分けて返したとき、受け取った断片は次の3つでした。最後は中身が空で done=True です。

'Ollamaは'                         False
'ローカルでLLMを動かすツールです。'   False
''                                 True

generate とオプション

from ollama import generate

r = generate(
    model="gemma4",
    prompt="空はなぜ青い？",
    system="簡潔に",
    options={"temperature": 0.2, "num_ctx": 8192},
    keep_alive="10m",
)
print(r.response)

POST /api/generate
{"model":"gemma4","stream":false,"options":{"temperature":0.2,"num_ctx":8192},"keep_alive":"10m","prompt":"空はなぜ青い？","system":"簡潔に"}

構造化出力（Pydantic）

format に JSON Schema を渡すと、その形の JSON で答えます。Pydantic のクラスなら model_json_schema() を渡し、model_validate_json() で読みます。

from ollama import chat
from pydantic import BaseModel

class CalendarEvent(BaseModel):
    name: str
    date: str
    participants: list[str]

r = chat(
    model="gemma4",
    messages=[{"role": "user", "content": "金曜に佐藤さんと鈴木さんと定例会議"}],
    format=CalendarEvent.model_json_schema(),
    options={"temperature": 0},
)
event = CalendarEvent.model_validate_json(r.message.content)
print(event)

スキーマは "format":{"properties":{...},"required":["name","date","participants"],...} の形で送られていました。方式ごとの違いは、関連記事「LLMの構造化出力とJSON｜4方式の違いとPydantic検証の実行結果」で扱っています。

ツール（関数呼び出し）

Python の関数をそのまま tools に渡すと、型ヒントと docstring から定義を作って送ります。モデルが呼びたい関数は message.tool_calls に入ります。実行するのは自分のコードです。

from ollama import chat

def get_weather(city: str) -> str:
    """都市名を受け取り、今日の天気を返す

    Args:
      city: 都市名
    """
    return "晴れ"   # 本当は天気APIを呼ぶ

FUNCS = {"get_weather": get_weather}
messages = [{"role": "user", "content": "東京の天気は？"}]
r = chat(model="gemma4", messages=messages, tools=[get_weather])

if r.message.tool_calls:
    messages.append(r.message)
    for tc in r.message.tool_calls:
        result = FUNCS[tc.function.name](**tc.function.arguments)   # arguments は dict
        messages.append({"role": "tool", "content": str(result), "tool_name": tc.function.name})
    r = chat(model="gemma4", messages=messages, tools=[get_weather])
print(r.message.content)

関数から作られた定義と、2回目に送られた履歴です。

"tools":[{"type":"function","function":{"name":"get_weather","description":"都市名を受け取り、今日の天気を返す","parameters":{"type":"object","required":["city"],"properties":{"city":{"type":"string","description":"都市名"}}}}}]

"messages":[{"role":"user","content":"東京の天気は？"},
 {"role":"assistant","tool_calls":[{"function":{"name":"get_weather","arguments":{"city":"東京"}}}]},
 {"role":"tool","content":"晴れ","tool_name":"get_weather"}]

ツールに対応したモデルは、ollama.com で絞り込めます。仕組みの全体は、関連記事「Function Calling（tool use）の仕組みとPython実装」で扱っています。

画像

r = chat(model="gemma4", messages=[{
    "role": "user", "content": "この画像は？", "images": ["./screen.png"],
}])

ファイルのパスを渡すと、ライブラリが読み込んで base64 に変えて送っていました（"images":["iVBORw0KGgo..."]）。画像に対応したモデルが必要です。

別のホストにつなぐ

from ollama import Client

client = Client(host="http://192.168.1.10:11434")
r = client.chat(model="gemma4", messages=[{"role": "user", "content": "こんにちは"}])

host を省くと環境変数 OLLAMA_HOST を読み、それも無ければ http://127.0.0.1:11434 です。非同期は AsyncClient を使います。

OpenAI 互換 API で呼ぶ（ライブラリ openai）

OpenAI のライブラリの base_url を http://localhost:11434/v1/ にすると、そのまま Ollama を呼べます。 API キーは必須の引数ですが、Ollama は中身を見ません。

from openai import OpenAI

client = OpenAI(base_url="http://localhost:11434/v1/", api_key="ollama")
response = client.chat.completions.create(
    model="gemma4",
    messages=[{"role": "user", "content": "こんにちは"}],
)
print(response.choices[0].message.content)

POST /v1/chat/completions
{"model":"gemma4","messages":[{"role":"user","content":"こんにちは"}]}

gpt-3.5-turbo のような OpenAI のモデル名を前提にしたツールには、ドキュメントでは ollama cp gemma4 gpt-3.5-turbo のように別名を付ける方法が紹介されています。OpenAI の SDK の書き方は、関連記事「OpenAI API Python入門｜Responses APIのコピペ集」で扱っています。

環境変数（ollama serve --help に出るもの）

サーバーの設定は、ほぼすべて環境変数で決めます。 v0.40.3 のソース（envconfig/config.go）の説明と既定値です。

OS ごとの設定方法（FAQ）

# Linux（systemd のサービス）
sudo systemctl edit ollama.service
#   [Service]
#   Environment="OLLAMA_HOST=0.0.0.0:11434"
sudo systemctl daemon-reload
sudo systemctl restart ollama

# macOS（アプリ）
launchctl setenv OLLAMA_HOST "0.0.0.0:11434"   # そのあとアプリを再起動

# 手で起動するとき
OLLAMA_HOST=0.0.0.0:11434 OLLAMA_KEEP_ALIVE=30m ollama serve

Windows は、アプリを終了してから「環境変数を編集」でユーザーの環境変数を作り、アプリを起動し直します。

OLLAMA_HOST=0.0.0.0 にすると、同じネットワークのほかの PC から呼べるようになります。 既定の設定では API キーなしで呼べる（OpenAI 互換のドキュメントでも「キーの値は無視される」とある）ので、外に開くときはファイアウォールや、認証つきのリバースプロキシ（nginx など）を前に置く形が安全です。nginx の書き方は、関連記事「nginx location書き方｜優先順位とtry_filesをcurlで検証」で扱っています。

FAQ では、HTTP_PROXY を設定するとクライアントからサーバーへの接続を妨げることがあるので避け、HTTPS_PROXY を使うよう書かれています。

メモリ・GPU の目安（ドキュメントの記載）

モデルが GPU に全部載ったかどうかで、速さが大きく変わります。 ollama ps の PROCESSOR 列で確かめます。

NAME             ID              SIZE      PROCESSOR    CONTEXT    UNTIL
gemma4:latest    c6eb396dbd59    9.6 GB    100% GPU     131072     2 minutes from now

コンテキスト長の既定は、VRAM の量で変わります（コンテキスト長のページ）。

• ドキュメントでは、Web 検索・エージェント・コーディングツールのように長い文脈を使う用途は、少なくとも 64000 トークンにするよう勧めています。コンテキストを長くするほど、必要なメモリが増えます。
• OLLAMA_NUM_PARALLEL を上げると、必要なメモリは OLLAMA_NUM_PARALLEL × コンテキスト長 に比例して増えます（FAQ）。
• KV キャッシュ（会話の文脈を覚えておくメモリ）は、OLLAMA_KV_CACHE_TYPE=q8_0 で f16 の約1/2、q4_0 で約1/4 になります（FAQ。品質への影響はモデルによる）。
• 対応 GPU：NVIDIA は compute capability 5.0 以上・ドライバ 550 以上（5.0〜6.2 は 570 以上）。AMD は Linux で ROCm v7 のドライバ。Vulkan でも使えます。Apple の GPU は Metal で使えます。
• ディスク：Windows のページでは、本体に 4GB 以上、モデルは「数十〜数百 GB」になりうるとしています。保存先は OLLAMA_MODELS で変えられます。

FAQ の「既定のコンテキストは 4096」や Modelfile の表の「num_ctx の既定 2048」は、ページによって書かれた時期が違う値です。今の既定はコンテキスト長のページとソースの説明（VRAM に応じて 4k／32k／256k）に合わせて読むのが確実で、実際の値は ollama ps の CONTEXT 列で確かめられます。

Docker で起動する

公式のイメージは Docker Hub の ollama/ollama です。モデルはボリューム ollama に保存されます。

# CPU だけ
docker run -d -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama

# NVIDIA の GPU（NVIDIA Container Toolkit を先に入れる）
docker run -d --gpus=all -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama

# AMD の GPU（ROCm）
docker run -d --device /dev/kfd --device /dev/dri -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama:rocm

# コンテナの中でモデルを動かす
docker exec -it ollama ollama run gemma4

Compose で書くと次の形です（GPU の指定は Docker Compose の deploy.resources の書き方）。

services:
  ollama:
    image: ollama/ollama
    ports:
      - "11434:11434"
    volumes:
      - ollama:/root/.ollama
    environment:
      - OLLAMA_KEEP_ALIVE=30m
    deploy:
      resources:
        reservations:
          devices:
            - driver: nvidia
              count: all
              capabilities: [gpu]
volumes:
  ollama:

• FAQ では、macOS の Docker Desktop は GPU を渡せないため、GPU は使えないとしています。Mac ではアプリで入れるほうが GPU を使えます。
• 別のコンテナ（アプリ）から呼ぶときの接続先は http://ollama:11434（サービス名）です。localhost はそのコンテナ自身を指します。
• ログは docker logs ollama で見ます。

Compose の書き方は、関連記事「Docker Composeの使い方｜compose.yamlの書き方と開発環境の作り方」で扱っています。

よくあるエラー

エラーは {"error": "..."} の JSON で返ります。ストリームの途中で起きたときは、ステータスコードは 200 のまま、最後の行に {"error": "..."} が来ます（ドキュメントの Errors のページ）。ストリームを読むコードでは、各行の error も確かめます。

Python では次のように分けて受けられます。擬似サーバーで 404 を返したとき、ResponseError 404 model 'nope-model' not found と取れました。

import ollama

try:
    r = ollama.chat(model="gemma4", messages=[{"role": "user", "content": "こんにちは"}])
except ollama.ResponseError as e:
    print(e.status_code, e.error)      # 404 model 'gemma4' not found など
    if e.status_code == 404:
        ollama.pull("gemma4")
except ConnectionError as e:
    print("Ollama が起動していない:", e)

ログの場所は、Mac は ~/.ollama/logs/server.log、Linux（systemd）は journalctl -u ollama、Docker は docker logs <コンテナ名> です（トラブルシューティングのページ）。

よくある質問

Q. 社外にデータは送られますか。 A. FAQ では「ローカルで動かすとき、プロンプトやデータは見えない」としています。ollama.com のクラウドのモデルを使うときは処理のために送られます。クラウドの機能を止めるなら OLLAMA_NO_CLOUD=1 か ~/.ollama/server.json の "disable_ollama_cloud": true です。

Q. RAG に使えますか。 A. /api/embed（Python は ollama.embed()）で埋め込みを作れるので、検索と組み合わせられます。作り方は関連記事「RAGの作り方｜Pythonで動かす最小構成と精度の上げ方」で扱っています。

Q. モデルをすぐメモリから降ろしたいです。 A. ollama stop モデル名、または API で "keep_alive": 0 を送ります。

Q. クラウドの API（OpenAI・Gemini）と書き方をそろえたいです。 A. OpenAI 互換 API を使うと、base_url だけで切り替えられます。Gemini の書き方は、関連記事「Gemini API Python入門｜google-genaiのコピペ集」で扱っています。Claude は、関連記事「Claude API Python入門｜Anthropic SDKコピペレシピ集」で扱っています。

まとめ

• ollama run モデル名 で取得と対話。裏のサーバーは 127.0.0.1:11434
• よく使うのは pull・ls・ps・stop・show・create・rm。GPU に載ったかは ollama ps の PROCESSOR
• 独自の設定は Modelfile（FROM・PARAMETER・SYSTEM）→ ollama create
• REST API は /api/chat・/api/generate。既定はストリームで、まとめて受けるなら "stream": false
• Python の ollama.chat() は既定で stream: false。ストリームは stream=True
• OpenAI のライブラリは base_url="http://localhost:11434/v1/"。num_ctx は Modelfile で決める
• 設定は環境変数（OLLAMA_HOST・OLLAMA_MODELS・OLLAMA_KEEP_ALIVE・OLLAMA_CONTEXT_LENGTH）。外に開くときは認証つきのプロキシを前に

参考・出典

確認日はいずれも 2026年10月12日です。

• GitHub「ollama/ollama」（v0.40.3 のソースと docs）：https://github.com/ollama/ollama
• Ollama ドキュメント「CLI Reference」：https://docs.ollama.com/cli
• Ollama ドキュメント「API」（Introduction・Errors）：https://docs.ollama.com/api
• Ollama ドキュメント「OpenAI compatibility」：https://docs.ollama.com/api/openai-compatibility
• Ollama ドキュメント「Modelfile Reference」：https://docs.ollama.com/modelfile
• Ollama ドキュメント「FAQ」：https://docs.ollama.com/faq
• Ollama ドキュメント「Context length」：https://docs.ollama.com/context-length
• Ollama ドキュメント「Hardware support」：https://docs.ollama.com/gpu
• Ollama ドキュメント「Docker」：https://docs.ollama.com/docker
• Ollama ドキュメント「Linux」：https://docs.ollama.com/linux
• Ollama ドキュメント「Troubleshooting」：https://docs.ollama.com/troubleshooting
• GitHub「ollama/ollama-python」：https://github.com/ollama/ollama-python
• PyPI「ollama」：https://pypi.org/project/ollama/

株式会社RJC ― SI事業・SES事業・AI駆動開発。RJCは一緒に成長を楽しめる会社です。