API リファレンス

目次

1. 基本情報

• ベース URL: http://localhost:<port>（既定ポート 11434）。Wi-Fi 接続中は同じポートで LAN URL（http://<端末 IP>:<port>）も利用できます。
• 同居構成: API と WebUI は同一ポートで提供されます。API パス以外への GET は WebUI 配信に回されます。
• 認証: API キー認証はありません（Authorization ヘッダーは無視されます）。同一端末またはローカルネットワーク内での利用を想定しています。
• CORS: すべての応答に Access-Control-Allow-Origin: * を付与し、OPTIONS プリフライトには 204（Allow-Methods: GET, POST, OPTIONS）を返します。
• Content-Type: リクエストボディは JSON（application/json）。非ストリーミング応答は JSON、ストリーミング応答は /api/* が NDJSON（application/x-ndjson、chunked）、/v1/* が SSE（text/event-stream）です。
• ボディ上限: リクエストボディは最大 64 MB。超過時は 413 を返します（base64 画像・音声を含むマルチモーダル要求を想定した値です）。
• モデル指定: model には設定（プロファイル）名を指定します。プロファイル一覧は /api/tags または /v1/models で取得できます。

2. 互換性サマリ

チャット / 生成 / 埋め込みの主要な用途では Ollama・OpenAI の両仕様と互換です。トークン統計（Ollama の eval_count 系、OpenAI の usage）も返すため、Open WebUI や LangChain のような統計を参照するクライアントでもそのまま動作します。一方、本アプリは「端末内 1 モデル・1 推論」を前提とした実装のため、リポジトリ管理系のエンドポイントは提供しません。

「パフォーマンス指標を表示」を有効にすると、上記の統計フィールドとは別に、トークン数・処理時間・速度・端末温度が生成本文の末尾（OpenAI は追加 delta、Ollama は追加 chunk）にテキストとして付記されます。

3. 共通仕様

3-1. 同時実行と待機キュー

• 推論 slot は 1 つだけ（single-generation）。生成中の追加リクエストは最大 10 件まで待機キューに入り、既定で最大 600 秒待機します（設定の「ビジー時タイムアウト」で変更可能。0 で無制限）。
• キュー超過・待機タイムアウト時は 503 を返します。
• モデル再初期化（リセット）要求中は、新規リクエストを拒否し、待機中リクエストも打ち切ります（503）。
• 生成系だけでなく、埋め込み・トークナイズ・モデルロードも同じ slot を取得します。

3-2. エラー応答

/api/* 系と独自エンドポイントは {"error": "..."} 形式、/v1/* 系は OpenAI 形式のエラーオブジェクトを返します。

// /api/* のエラー形式
{ "error": "'input' is required" }

// /v1/* のエラー形式
{
  "error": {
    "message": "No messages provided",
    "type": "invalid_request_error",
    "code": 400
  }
}

ストリーミング中にエラーが発生した場合は、/api/* では error を含む chunk、/v1/* ではエラーオブジェクトの SSE イベントに続けて data: [DONE] を送出してストリームを閉じます。クライアント側が切断した場合はネイティブ生成もキャンセルされます。

4. POST/api/generate

単一プロンプトからの生成（Ollama generate 互換）。既定で streaming（NDJSON）。

リクエスト

非ストリーミング応答

curl http://localhost:11434/api/generate -d '{
  "model": "my-profile",
  "prompt": "日本の首都は？",
  "stream": false
}'

{
  "model": "my-profile",
  "created_at": "2026-08-13T03:10:00.000Z",
  "response": "日本の首都は東京です。",
  "done": true,
  "total_duration": 1843000000,
  "load_duration": 12000000,
  "prompt_eval_count": 18,
  "prompt_eval_duration": 231000000,
  "eval_count": 12,
  "eval_duration": 1600000000
}

ストリーミング応答（NDJSON）

1 行 1 JSON。各 chunk は "done": false で response に部分文字列。最後に "done": true と統計フィールドを含む chunk を送出します。

{"model":"my-profile","created_at":"...","response":"日本","done":false}
{"model":"my-profile","created_at":"...","response":"の首都は","done":false}
{"model":"my-profile","created_at":"...","response":"","done":true,"total_duration":1843000000,"prompt_eval_count":18,"eval_count":12,...}

統計フィールドはナノ秒単位で、Ollama の定義に合わせています（total_duration = load_duration + prompt_eval_duration + eval_duration）。tok/s を計算するクライアントはそのまま利用できます。

5. POST/api/chat

messages 配列による会話生成（Ollama chat 互換）。既定で streaming（NDJSON）。

リクエスト

非ストリーミング応答

curl http://localhost:11434/api/chat -d '{
  "model": "my-profile",
  "stream": false,
  "options": { "num_ctx": 8192, "temperature": 0.7 },
  "messages": [
    {"role": "system", "content": "あなたは簡潔に答えるアシスタントです。"},
    {"role": "user", "content": "富士山の標高は？"}
  ]
}'

{
  "model": "my-profile",
  "created_at": "2026-08-13T03:10:00.000Z",
  "message": { "role": "assistant", "content": "3,776 m です。" },
  "done": true,
  "total_duration": 980000000,
  "load_duration": 8000000,
  "prompt_eval_count": 34,
  "prompt_eval_duration": 180000000,
  "eval_count": 9,
  "eval_duration": 792000000
}

ストリーミング応答（NDJSON）

{"model":"my-profile","created_at":"...","message":{"role":"assistant","content":"3,776"},"done":false}
{"model":"my-profile","created_at":"...","message":{"role":"assistant","content":" m です。"},"done":false}
{"model":"my-profile","created_at":"...","message":{"role":"assistant","content":""},"done":true,"eval_count":9,...}

思考を有効にしたモデルでは、思考部分は本文ではなく message.reasoning_content として送出されます（15 章）。

6. GETPOST/api/tags

利用可能なモデル（プロファイル）一覧。Ollama tags 互換。

curl http://localhost:11434/api/tags

{
  "models": [
    {
      "name": "my-profile",
      "model": "my-profile",
      "modified_at": "2026-08-13T03:10:00.000Z",
      "size": 0,
      "details": {
        "format": "gguf",
        "family": "llama",
        "parameter_size": "unknown",
        "quantization_level": "unknown"
      }
    }
  ]
}

size や parameter_size 等は端末側で確定できないため固定値（0 / "unknown"）です。ファイルサイズ・ロード状態・モダリティ（vision / audio）まで必要な場合は /v1/models（8 章）を使ってください。

7. POST/v1/chat/completions

OpenAI Chat Completions 互換。既定で streaming（SSE）。OpenAI 公式 SDK の base_url をこのサーバーに向けるだけで利用できます。

リクエスト

非ストリーミング応答

curl http://localhost:11434/v1/chat/completions -d '{
  "model": "my-profile",
  "stream": false,
  "messages": [
    {"role": "user", "content": "Say hello in Japanese."}
  ]
}'

{
  "id": "chatcmpl-4f0a1c2e5b7d4a9f8c3e1b6d2a7f0e5c",
  "object": "chat.completion",
  "created": 1786000000,
  "model": "my-profile",
  "choices": [
    {
      "index": 0,
      "message": { "role": "assistant", "content": "こんにちは！" },
      "finish_reason": "stop"
    }
  ],
  "usage": {
    "prompt_tokens": 14,
    "completion_tokens": 5,
    "total_tokens": 19
  }
}

ストリーミング応答（SSE）

先頭に delta.role="assistant" の chunk、続いて delta.content を持つ chunk 群、最後に finish_reason:"stop" の chunk と data: [DONE] を送出します。全 chunk が同じ id / created を共有します。

data: {"id":"chatcmpl-4f0a…","object":"chat.completion.chunk","created":1786000000,"model":"my-profile","choices":[{"index":0,"delta":{"role":"assistant"},"finish_reason":null}]}

data: {"id":"chatcmpl-4f0a…","object":"chat.completion.chunk","created":1786000000,"model":"my-profile","choices":[{"index":0,"delta":{"content":"こん"},"finish_reason":null}]}

data: {"id":"chatcmpl-4f0a…","object":"chat.completion.chunk","created":1786000000,"model":"my-profile","choices":[{"index":0,"delta":{"content":"にちは！"},"finish_reason":null}]}

data: {"id":"chatcmpl-4f0a…","object":"chat.completion.chunk","created":1786000000,"model":"my-profile","choices":[{"index":0,"delta":{},"finish_reason":"stop"}]}

data: [DONE]

注意: ストリーミング応答の chunk には usage を含めません（stream_options.include_usage は未対応）。トークン統計が必要な場合は stream: false を使うか、Ollama 側の /api/chat（完了 chunk に eval_count 等を含む）を利用してください。

7-2. POST/v1/completions

OpenAI レガシー Completions 互換。チャットテンプレートを通さず、prompt をそのままモデルへ入力する素の補完用途です。応答は object: "text_completion" で、テキストは choices[].text に入ります。プロトコル上マルチモーダルは扱いません（画像・音声はチャット / Messages を利用してください）。

リクエスト

非ストリーミング応答

curl http://localhost:11434/v1/completions -d '{
  "model": "my-profile",
  "prompt": "東京を3行で紹介して",
  "max_tokens": 128,
  "stream": false
}'

{
  "id": "cmpl-2b7d4a9f8c3e1b6d2a7f0e5c4f0a1c2e",
  "object": "text_completion",
  "created": 1786000000,
  "model": "my-profile",
  "choices": [
    { "index": 0, "text": "東京は日本の首都です。…", "finish_reason": "stop", "logprobs": null }
  ],
  "usage": { "prompt_tokens": 12, "completion_tokens": 40, "total_tokens": 52 }
}

ストリーミング応答（SSE）

各 chunk は object: "text_completion" で、部分テキストが choices[].text に入ります。最後に finish_reason: "stop" の chunk と data: [DONE] を送出します。

data: {"id":"cmpl-…","object":"text_completion","created":1786000000,"model":"my-profile","choices":[{"index":0,"text":"東京は","finish_reason":null,"logprobs":null}]}

data: {"id":"cmpl-…","object":"text_completion","created":1786000000,"model":"my-profile","choices":[{"index":0,"text":"","finish_reason":"stop","logprobs":null}]}

data: [DONE]

7-3. POST/v1/messages（Anthropic Messages API）

Anthropic Messages API 互換。Anthropic 公式 SDK / クライアントの base URL をこのサーバーに向けて利用できます（x-api-key / anthropic-version ヘッダーは受理しますが無視されます）。system・マルチターン・思考（thinking ブロック）・画像 / 音声入力・基本的な tool_use / tool_result の往復に対応します。既定は非ストリーミング（stream:false）で、max_tokens は必須です。

リクエスト

非ストリーミング応答

curl http://localhost:11434/v1/messages -d '{
  "model": "my-profile",
  "max_tokens": 256,
  "messages": [
    {"role": "user", "content": "富士山の標高は？"}
  ]
}'

{
  "id": "msg_988412deab264f1abf8904b938f389a7",
  "type": "message",
  "role": "assistant",
  "model": "my-profile",
  "content": [
    { "type": "text", "text": "3,776 m です。" }
  ],
  "stop_reason": "end_turn",
  "stop_sequence": null,
  "usage": { "input_tokens": 15, "output_tokens": 8 }
}

思考を有効にすると、content の先頭に {"type":"thinking","thinking":"…"} ブロックが入り、続けて {"type":"text","text":"…"} が入ります。ツール呼び出し時は {"type":"tool_use","id":…,"name":…,"input":{…}} ブロックと stop_reason:"tool_use" を返します。

ストリーミング応答（名前付き SSE イベント）

Anthropic 準拠のイベント列を送出します。テキストは text_delta、思考は thinking_delta、ツール引数は input_json_delta として流れます。

event: message_start
data: {"type":"message_start","message":{"id":"msg_…","type":"message","role":"assistant","model":"my-profile","content":[],"stop_reason":null,"stop_sequence":null,"usage":{"input_tokens":15,"output_tokens":0}}}

event: content_block_start
data: {"type":"content_block_start","index":0,"content_block":{"type":"text","text":""}}

event: content_block_delta
data: {"type":"content_block_delta","index":0,"delta":{"type":"text_delta","text":"3,776 m です。"}}

event: content_block_stop
data: {"type":"content_block_stop","index":0}

event: message_delta
data: {"type":"message_delta","delta":{"stop_reason":"end_turn","stop_sequence":null},"usage":{"output_tokens":8}}

event: message_stop
data: {"type":"message_stop"}

トークン数の見積り: POST /v1/messages/count_tokens

生成を行わず、プロンプトの入力トークン数だけを返します。

curl http://localhost:11434/v1/messages/count_tokens -d '{
  "model": "my-profile",
  "messages": [{"role": "user", "content": "hello world"}]
}'

{ "input_tokens": 4 }

エラーは Anthropic 形式（{"type":"error","error":{"type":…,"message":…}}）で返します。max_tokens 欠落は invalid_request_error（400）です。

8. GET/v1/models・/models

OpenAI 互換のモデル一覧に加え、llama.cpp WebUI 向けの models 配列（状態・モダリティ）も同時に返します。

curl http://localhost:11434/v1/models

{
  "object": "list",
  "data": [
    {
      "id": "my-profile",
      "name": "my-profile",
      "object": "model",
      "owned_by": "llamacpp",
      "created": 1786000000,
      "in_cache": true,
      "path": "/data/.../my-model.gguf",
      "status": { "value": "loaded" },
      "tags": []
    }
  ],
  "models": [
    {
      "name": "my-profile",
      "model": "my-profile",
      "modified_at": "2026-08-13T03:10:00.000Z",
      "size": 4100000000,
      "capabilities": ["multimodal"],
      "modalities": { "vision": true, "audio": false },
      "details": { "format": "gguf", "family": "llama", "parameter_size": "unknown", "quantization_level": "unknown" }
    }
  ]
}

data[] が OpenAI 互換、models[] が llama.cpp WebUI 互換です。status.value は loaded / unloaded、in_cache は GGUF ファイルが端末内に存在するかどうか。modalities はロード済みモデルなら実際の対応状況、未ロードならファイルからの推定値を返します。details.family はモデルファイル名から推定したモデルファミリです。

9. POST埋め込み（Embeddings）

埋め込み用 GGUF（BERT 系 / *-embedding など）をプロファイルに設定しておくと、Ollama 形式と OpenAI 形式の両方でベクトルを取得できます。3 つのエンドポイントは同じネイティブ実装を共有し、入出力の形だけが異なります。

使用例（Ollama 形式・複数入力）

curl http://localhost:11434/api/embed -d '{
  "model": "my-embedding-profile",
  "input": ["東京の天気", "大阪の天気"]
}'

{
  "model": "my-embedding-profile",
  "embeddings": [[0.0123, -0.0456, ...], [0.0210, -0.0388, ...]],
  "total_duration": 84000000,
  "load_duration": 3000000,
  "prompt_eval_count": 12
}

使用例（OpenAI 形式）

curl http://localhost:11434/v1/embeddings -d '{
  "model": "my-embedding-profile",
  "input": "検索クエリのテキスト"
}'

{
  "object": "list",
  "data": [
    { "object": "embedding", "index": 0, "embedding": [0.0123, -0.0456, ...] }
  ],
  "model": "my-embedding-profile",
  "usage": { "prompt_tokens": 0, "total_tokens": 0 }
}

入力が空（"" や空配列）の場合は 400、埋め込み生成に失敗した場合は 500 を返します。長い入力はモデルの n_batch に合わせて内部で切り詰められます。/v1/embeddings の usage は互換性のためのプレースホルダで、常に 0 です。

10. POSTトークン数カウント

ロード中モデルのトークナイザで、テキストのトークン列 / トークン数を取得します。コンテキスト長の見積もりやチャンク分割に利用できます。

Ollama 形式: POST /api/tokenize

curl http://localhost:11434/api/tokenize -d '{
  "model": "my-profile",
  "content": "こんにちは、世界"
}'

{ "tokens": [123, 4567, 89, 1011] }

OpenAI 形式: POST /v1/responses/input_tokens

curl http://localhost:11434/v1/responses/input_tokens -d '{
  "model": "my-profile",
  "input": "こんにちは、世界"
}'

{ "input_tokens": 4, "object": "response.input_tokens" }

/api/tokenize は content、/v1/responses/input_tokens は input が必須です（空文字は 400）。/v1/responses/input_tokens で model を省略した場合は、ロード中のモデル → 既定プロファイルの順に解決されます。

11. POST/models/load・/models/unload

推論を伴わずにモデルの常駐状態を制御する独自エンドポイントです。ベンチマーク前のウォームアップや、メモリ解放に使えます。

// 指定プロファイルをロード（既にロード済みなら即座に成功）
curl http://localhost:11434/models/load -d '{"model": "my-profile"}'
{ "success": true }

// アンロード（メモリ解放）
curl http://localhost:11434/models/unload -d '{"model": "my-profile"}'
{ "success": true }

• model を省略した場合は、ロード中のモデル → 既定プロファイルの順に解決されます。
• ロードに失敗した場合は 500 と {"success": false, "error": "Failed to load model"} を返します。
• /models/unload は、指定プロファイルが現在ロード中の場合のみ解放します。生成中は 503（Model is busy）を返します。

12. GET/props・/slots・/health

主に同梱 WebUI（llama.cpp 風）の初期化に使われるエンドポイントです。?model=<プロファイル名> で対象を指定できます。

• /props: default_generation_settings（n_ctx や各サンプリング値、n_predict, seed, stop, grammar）、chat_template、modalities、model_path、build_info、webui_settings（systemMessage、Think 表示、共有 MCP / Function Definitions 設定）などを返します。total_slots は 1。max_tokens は生成上限が明示設定されている場合のみ含まれます（無制限時は省略）。
• /slots: slot 配列（要素 1 個）。id、n_ctx、params（サンプリング値）、is_processing などを返します。
• /health, /v1/health: {"status":"ok","role":"model"|"router","webui":true}。
• GET /api: {"status":"Ollama is running"}。Ollama クライアントの疎通確認用です。

curl "http://localhost:11434/props?model=my-profile"
curl http://localhost:11434/health

13. 生成・サンプリングパラメータ

13-1. コンテキストサイズ（num_ctx）

options.num_ctx（またはトップレベルの num_ctx）を指定すると、次回ロード時のコンテキスト長として反映されます。現在ロード中の値と異なる場合はモデルが自動的に再ロードされるため、初回リクエストの応答時間が伸びる点に注意してください。

{ "model": "my-profile", "options": { "num_ctx": 16384 }, "messages": [...] }

13-2. 生成トークン数

num_predict / n_predict / max_tokens のいずれでも指定できます（options 内・トップレベルの両方を参照。優先順位は num_predict → n_predict → max_tokens）。n_predict: 0 を指定すると pre-encode のみを行い、空応答で早期復帰します（プロンプト評価のウォームアップ用）。

13-3. サンプリングパラメータ

次のキーをリクエスト本文（/api/* は options 内でも可）に含めると、そのリクエストのあいだプロファイル設定を上書きします（指定しなかった項目はプロファイルの値を使用）。

options 経由で解釈されるのは num_ctx, num_predict, n_predict, temperature, top_k, top_p, min_p, repeat_penalty, repeat_last_n, mirostat, mirostat_tau, mirostat_eta です。その他のサンプラー（DRY / XTC / dynatemp / typ_p など）はトップレベルに置いてください。

14. 構造化出力（JSON / GBNF）

生成をスキーマや文法で制約できます。Ollama 形式と OpenAI 形式の両方を受け付け、指定はリクエスト単位で適用され、次のリクエストには引き継がれません。

// Ollama: JSON Schema による構造化出力
curl http://localhost:11434/api/chat -d '{
  "model": "my-profile",
  "stream": false,
  "format": {
    "type": "object",
    "properties": {
      "city": { "type": "string" },
      "temperature_c": { "type": "number" }
    },
    "required": ["city", "temperature_c"]
  },
  "messages": [{"role": "user", "content": "東京の気温を JSON で"}]
}'

// OpenAI: response_format
curl http://localhost:11434/v1/chat/completions -d '{
  "model": "my-profile",
  "stream": false,
  "response_format": {
    "type": "json_schema",
    "json_schema": {
      "name": "weather",
      "schema": {
        "type": "object",
        "properties": { "city": {"type":"string"}, "temperature_c": {"type":"number"} },
        "required": ["city", "temperature_c"]
      }
    }
  },
  "messages": [{"role": "user", "content": "Tokyo weather as JSON"}]
}'

// GBNF を直接指定（yes / no のみを出力させる）
{
  "model": "my-profile",
  "prompt": "富士山は日本で一番高い山ですか？",
  "grammar": "root ::= \"yes\" | \"no\""
}

15. 思考（Reasoning）制御

思考プロセスを持つモデル（DeepSeek-R1、Qwen3 系など）では、思考部分を本文と分離して reasoning_content として返します。有効 / 無効は次の優先順位で決まります。

1. think（Ollama 標準）: true / false、または文字列（"false" 以外は有効）。
2. reasoning_format: "none" で無効、"auto" で有効。
3. chat_template_kwargs: enable_thinking / enable_reasoning（bool）、reasoning（"off" で無効）。
4. プロファイル設定の「Enable Think」。

// 思考を明示的に無効化（Ollama 形式）
{ "model": "my-profile", "think": false, "messages": [...] }

// OpenAI 形式で思考出力を抑制
{ "model": "my-profile", "reasoning_format": "none", "messages": [...] }

// 応答例（OpenAI / 非ストリーミング）
{
  "id": "chatcmpl-…",
  "object": "chat.completion",
  "choices": [{
    "index": 0,
    "message": {
      "role": "assistant",
      "reasoning_content": "ユーザーは標高を尋ねている。富士山は 3,776 m。",
      "content": "3,776 m です。"
    },
    "finish_reason": "stop"
  }]
}

ストリーミング時は delta.reasoning_content を持つ chunk が本文 chunk より先に流れます。思考を無効にした場合、モデルが出力した <think> 等のタグは本文から除去されます。

16. マルチモーダル入力

/api/chat と /v1/chat/completions では、content をパーツ配列にすることで画像・音声を渡せます。Anthropic の /v1/messages でも同様に、content ブロック配列に画像 / 音声を含められます（下表）。いずれもロード中のモデルが vision / audio に対応している必要があり、非対応の場合は 400 を返します（対応状況は /v1/models の modalities で確認できます）。mmproj / projector を伴うモデルをロードしてください。

Anthropic /v1/messages のブロック: 画像は {"type":"image","source":{"type":"base64","media_type":"image/jpeg","data":"…"}}（source.type:"url" も可）。音声はローカル拡張として {"type":"audio","source":{"data":"<base64>","format":"wav"}} を受け付けます。内部では OpenAI 形式の image_url / input_audio に変換して同じ mmproj 経路で処理します。

対応画像形式: JPEG / PNG / BMP / GIF など、ネイティブ側デコーダ（stb_image）が読める形式のみです。Android の標準保存形式である HEIC / HEIF・WebP・AVIF は非対応で、送信すると 400 とその旨のメッセージを返します。事前に JPEG / PNG へ変換してください。

curl http://localhost:11434/v1/chat/completions -d '{
  "model": "my-vision-profile",
  "stream": false,
  "messages": [
    {
      "role": "user",
      "content": [
        {"type": "text", "text": "この画像を説明して"},
        {"type": "image_url", "image_url": {"url": "data:image/jpeg;base64,/9j/4AAQ..."}}
      ]
    }
  ]
}'

// 音声入力（wav / mp3）
{
  "role": "user",
  "content": [
    {"type": "text", "text": "この音声を文字起こしして"},
    {"type": "input_audio", "input_audio": {"data": "UklGR...", "format": "wav"}}
  ]
}

17. ツール / Function Calling

リクエストに tools を渡すか、アプリの「MCP 設定」で共有 MCP / Function Definitions を有効にすると、内部ツール実行ループに切り替わります。/api/generate・/api/chat・/v1/chat/completions・/v1/messages のいずれでも利用できます。

Anthropic /v1/messages: ツールは Anthropic 形式（name / description / input_schema）で渡し、tool_choice は auto / any / tool を受け付けます。応答はアシスタントの tool_use ブロック（stop_reason:"tool_use"）で返り、次ターンでユーザーの tool_result ブロックを送ることで往復します。共有 MCP を有効にした場合は MCP ツールがサーバー側で自動実行されます（リクエストで渡した tools はクライアント実行型です）。

• tools は OpenAI 互換の配列です。配列以外を渡すと 400 になります。
• tool_choice と parallel_tool_calls を受け取ります。
• 共有 MCP / Function Definitions を有効化している場合、メイン画面のプロンプトや各 API でも共通のツール設定が適用されます。
• 応答にはモデルが直接返した tool_calls に加え、本文中の tool-call マーカーや reasoning_content からの抽出結果も含まれることがあります。
• Ollama 形式では done_reason（"stop" / "tool_calls"）、OpenAI 形式では finish_reason が対応します。

// リクエスト（OpenAI 互換のツール定義）
{
  "model": "my-profile",
  "stream": false,
  "tools": [
    {
      "type": "function",
      "function": {
        "name": "get_weather",
        "description": "指定都市の現在の天気を返す",
        "parameters": {
          "type": "object",
          "properties": { "city": { "type": "string" } },
          "required": ["city"]
        }
      }
    }
  ],
  "messages": [{"role": "user", "content": "東京の天気は？"}]
}

// 応答（非ストリーミング）
{
  "id": "chatcmpl-…",
  "object": "chat.completion",
  "created": 1786000000,
  "model": "my-profile",
  "choices": [
    {
      "index": 0,
      "message": {
        "role": "assistant",
        "content": "",
        "tool_calls": [
          {
            "id": "call_1",
            "type": "function",
            "function": { "name": "get_weather", "arguments": "{\"city\":\"Tokyo\"}" }
          }
        ]
      },
      "finish_reason": "tool_calls"
    }
  ],
  "usage": { "prompt_tokens": 96, "completion_tokens": 21, "total_tokens": 117 }
}

18. クライアント例

OpenAI Python SDK

from openai import OpenAI

client = OpenAI(
    base_url="http://localhost:11434/v1",
    api_key="not-needed",  # 認証は不要（任意の文字列で可）
)

resp = client.chat.completions.create(
    model="my-profile",
    messages=[{"role": "user", "content": "こんにちは"}],
    stream=False,
)
print(resp.choices[0].message.content)
print(resp.usage)  # prompt_tokens / completion_tokens / total_tokens

OpenAI 互換ストリーミング（Python）

stream = client.chat.completions.create(
    model="my-profile",
    messages=[{"role": "user", "content": "俳句を1つ"}],
    stream=True,
)
for chunk in stream:
    delta = chunk.choices[0].delta
    if delta.content:
        print(delta.content, end="", flush=True)

構造化出力（Python）

resp = client.chat.completions.create(
    model="my-profile",
    messages=[{"role": "user", "content": "東京の気温を JSON で"}],
    response_format={
        "type": "json_schema",
        "json_schema": {
            "name": "weather",
            "schema": {
                "type": "object",
                "properties": {"city": {"type": "string"}, "temperature_c": {"type": "number"}},
                "required": ["city", "temperature_c"],
            },
        },
    },
    stream=False,
)
import json; print(json.loads(resp.choices[0].message.content))

埋め込み（Python）

vec = client.embeddings.create(
    model="my-embedding-profile",
    input=["東京の天気", "大阪の天気"],
)
print(len(vec.data), len(vec.data[0].embedding))

Anthropic Python SDK

from anthropic import Anthropic

client = Anthropic(
    base_url="http://localhost:11434",  # /v1/messages を提供
    api_key="not-needed",               # 認証は不要（無視されます）
)

msg = client.messages.create(
    model="my-profile",
    max_tokens=256,                     # 必須
    messages=[{"role": "user", "content": "こんにちは"}],
)
print(msg.content[0].text)
print(msg.usage.input_tokens, msg.usage.output_tokens)

Anthropic Messages（curl / SSE）

curl -N http://localhost:11434/v1/messages -d '{
  "model": "my-profile",
  "max_tokens": 256,
  "stream": true,
  "messages": [{"role": "user", "content": "俳句を1つ"}]
}'

Ollama 公式 Python クライアント

from ollama import Client

client = Client(host="http://localhost:11434")

res = client.chat(
    model="my-profile",
    messages=[{"role": "user", "content": "自己紹介して"}],
    options={"num_ctx": 8192, "temperature": 0.7},
)
print(res["message"]["content"])
print(res["eval_count"], res["eval_duration"])  # tok/s の計算に利用可能

emb = client.embed(model="my-embedding-profile", input="検索クエリ")
print(len(emb["embeddings"][0]))

Ollama 互換（curl / NDJSON）

curl -N http://localhost:11434/api/chat -d '{
  "model": "my-profile",
  "messages": [{"role": "user", "content": "自己紹介して"}]
}'

JavaScript（fetch / SSE）

const res = await fetch("http://localhost:11434/v1/chat/completions", {
  method: "POST",
  headers: { "Content-Type": "application/json" },
  body: JSON.stringify({
    model: "my-profile",
    messages: [{ role: "user", content: "Hello" }],
    stream: true,
  }),
});

const reader = res.body.getReader();
const decoder = new TextDecoder();
while (true) {
  const { value, done } = await reader.read();
  if (done) break;
  for (const line of decoder.decode(value).split("\n")) {
    if (!line.startsWith("data: ")) continue;
    const data = line.slice(6);
    if (data === "[DONE]") break;
    const json = JSON.parse(data);
    process.stdout.write(json.choices[0].delta.content ?? "");
  }
}

ウォームアップ → 生成 → 解放（curl）

# 1. モデルを常駐させる（推論なし）
curl http://localhost:11434/models/load -d '{"model":"my-profile"}'

# 2. プロンプトのトークン数を確認
curl http://localhost:11434/api/tokenize -d '{"model":"my-profile","content":"長い入力テキスト…"}'

# 3. 生成
curl http://localhost:11434/api/chat -d '{"model":"my-profile","stream":false,"messages":[{"role":"user","content":"要約して"}]}'

# 4. メモリを解放
curl http://localhost:11434/models/unload -d '{"model":"my-profile"}'

本ページは現行の Android 実装（OllamaApiServer）に基づきます。応答例は説明のため整形しています。実際のフィールド構成・既定値はアプリのバージョンにより変わることがあります。