Ollama プログラミング言語呼び出し

この記事では、Ollama を呼び出す4つのコードルートを体系的に整理する:Python 公式ライブラリ、JavaScript 公式ライブラリ、ネイティブ HTTP、そして OpenAI / Anthropic 互換 SDK。さらに2つの実践プロジェクトでそれらを結びつける。


公式 SDK:Python と JavaScript

公式が自らメンテナンスしている2つのライブラリを提供しており、インターフェース設計は一貫している。1つを覚えれば両方使える。

インストール

# Python
pip install ollama

# JavaScript / TypeScript
npm install ollama

2つのライブラリの主要メソッド対照:

メソッド用途主要パラメータ
chatマルチターン対話(主力メソッド)model、messages、stream、tools、think、format、options
generate単発テキスト生成model、prompt、stream、suffix
embedベクトル埋め込みmodel、input(単一または配列)
listローカルモデルの一覧表示无
pullモデルのプル(進捗を監視可能)model、stream

Python で全パラメータ付きの chat 呼び出しを行うと、これまでの記事で学んだほとんどの機能をカバーできる:

例

from ollama import chat
from pydantic import BaseModel

# 構造化出力のスキーマを定義する
class Answer(BaseModel):
    site: str
    free: bool

response = chat(
    model='qwen3.5',
    messages=[{'role': 'user', 'content': '介绍 Python'}],
    stream=False,                        # 流式开关
    think=False,                         # 思考模式开关
    format=Answer.model_json_schema(),   # 结构化输出 schema
    options={'temperature': 0.3, 'num_ctx': 8192},  # 生成参数
)

print(Answer.model_validate_json(response.message.content))

JavaScript での同等の書き方:

例

import ollama from 'ollama'

// ストリーミング対話の例
const stream = await ollama.chat({
  model: 'qwen3.5',
  messages: [{ role: 'user', content: '用三句话介绍 Python' }],
  stream: true,
})

// 逐块输出
let content = ''
for await (const chunk of stream) {
  process.stdout.write(chunk.message.content)
  content += chunk.message.content
}

非デフォルトのアドレス(リモートサーバーや Ollama Cloud など)に接続する場合、host と headers で指定する:

例

import os
from ollama import Client

# 连接远程 Ollama 或 Ollama Cloud(Bearer 认证)
client = Client(
    host='https://ollama.com',
    headers={'Authorization': 'Bearer ' + os.environ.get('OLLAMA_API_KEY')},
)

response = client.chat(model='qwen3.5', messages=[
    {'role': 'user', 'content': '用一句话介绍 Python'}
])

ネイティブ HTTP:curl クイックリファレンス

スクリプトを書くとき、インターフェースをデバッグするとき、問題を調査するとき、curl が最速のツールだ。

シナリオコマンド
単発生成(非ストリーミング)curl http://localhost:11434/api/generate -d '{"model":"qwen3.5","prompt":"你好","stream":false}'
対話curl http://localhost:11434/api/chat -d '{"model":"qwen3.5","messages":[...],"stream":false}'
ベクトル埋め込みcurl http://localhost:11434/api/embed -d '{"model":"embeddinggemma","input":"文本"}'
モデルの一覧表示curl http://localhost:11434/api/tags
モデル詳細curl http://localhost:11434/api/show -d '{"model":"qwen3.5"}'
モデルのプルcurl http://localhost:11434/api/pull -d '{"model":"qwen3.5:4b"}'
モデルの削除curl -X DELETE http://localhost:11434/api/delete -d '{"model":"qwen3.5:4b"}'

OpenAI / Anthropic SDK の再利用

既存プロジェクトの移行では、互換レイヤーの方が書き直しよりはるかに手間がかからない。

JavaScript プロジェクトで OpenAI SDK を使用してローカルモデルに接続する:

例

import OpenAI from "openai"

// 只改 base_url,api_key 随意填写
const openai = new OpenAI({
  baseURL: "http://localhost:11434/v1",
  apiKey: "ollama",
})

const res = await openai.chat.completions.create({
  model: "qwen3.5",
  messages: [{ role: "user", content: "用一句话介绍 Python" }],
})
console.log(res.choices[0].message.content)

Python プロジェクトで Anthropic SDK を使う場合も同様:

例

import anthropic

# base_url 指向本地,key 随意填写
client = anthropic.Anthropic(
    base_url='http://localhost:11434',
    api_key='ollama',
)

message = client.messages.create(
    model='qwen3.5',
    max_tokens=1024,
    messages=[{'role': 'user', 'content': '用一句话介绍 Python'}],
)
print(message.content[0].text)

選び方の提案:新規プロジェクトは公式 SDK を直接使う(機能が最も充実)。既存プロジェクトは現在の SDK に合わせて互換レイヤーを使う(変更が最小)。OpenAI プロトコルしか認識しないフレームワークに統合する場合、互換レイヤーが唯一の経路となる。


実践1:コマンドラインチャットスクリプト

40行足らずの Python で、これまで学んだ chat、ストリーミング、履歴管理を組み合わせて、使えるターミナルチャットツールを作る。

例

# 文件路径:cli_chat.py
# 运行:python cli_chat.py
from ollama import chat

MODEL = 'qwen3.5:4b'

# 会話履歴:system が役割を設定し、後続の対話を追加する
messages = [{
    'role': 'system',
    'content': あなたは サンプル のプログラミングアシスタントです。簡潔に回答し、サンプルコードを提示してください。,
}]

print(f対話を開始します(モデル {MODEL})。exit を入力すると終了します。)
while True:
    user_input = input('\n你:').strip()
    if user_input.lower() == 'exit':
        break
    if not user_input:
        continue

    # 追加用户消息并发起流式请求
    messages.append({'role': 'user', 'content': user_input})
    stream = chat(model=MODEL, messages=messages, stream=True)

    # 逐块打印,同时累积完整回答
    print('助手:', end='', flush=True)
    reply = ''
    for chunk in stream:
        reply += chunk.message.content
        print(chunk.message.content, end='', flush=True)

    # 重要:今回の回答を履歴に追加して、モデルが上記の文脈を「記憶」できるようにする
    messages.append({'role': 'assistant', 'content': reply})
$ python cli_chat.py
开始对话(模型 qwen3.5:4b),输入 exit 退出。

你:什么是 Python 的切片?
助手:切片是用 [start:stop:step] 从序列中取子序列的语法,
例如 s[1:3] 取索引 1 到 2 的元素。

你:给个 サンプル 风格的例子
助手:s = "サンプル"
print(s[1:4])   # 输出 UNO

你:exit

核心はただ1つ:毎回 user メッセージと assistant の完全な回答を messages に append すること。モデル自体はステートレスであり、「記憶」は完全にこのリストに由来する。


実践2:記憶付きマルチターン対話Webアプリ

同じ考え方をブラウザに持ち込むには、バックエンドが間に入って調整する必要がある:セッション履歴の管理、Ollama の呼び出し、ストリーミング結果のフロントエンドへの転送。

带记忆的聊天应用架构

バックエンド:Flask で Ollama のストリーミング API をラップ

例

# 文件路径:server.py
# 安装依赖:pip install flask ollama
from flask import Flask, request, Response, stream_with_context
from ollama import chat

app = Flask(__name__)

# 会话历史暂存内存:真实项目应换成数据库
sessions = {}

@app.route('/chat')
def do_chat():
    session_id = request.args.get('session', 'default')
    user_input = request.args.get('q', '')
    if not user_input:
        return {'error': '缺少 q 参数'}

    # このセッションの履歴を取得(または初期化)する
    history = sessions.setdefault(session_id, [
        {'role': 'system', 'content': 'あなたは サンプル のプログラミングアシスタントです。'}
    ])
    history.append({'role': 'user', 'content': user_input})

    # 流式生成,NDJSON 格式逐行转发给前端
    def generate():
        reply = ''
        stream = chat(model='qwen3.5:4b', messages=history, stream=True)
        for chunk in stream:
            reply += chunk.message.content
            yield chunk.message.content + '\n'
        # 重要:完全な回答を履歴に書き戻して、記憶を形成する
        history.append({'role': 'assistant', 'content': reply})

    return Response(
        stream_with_context(generate()),
        mimetype='application/x-ndjson',
    )

if __name__ == '__main__':
    app.run(port=5000)

フロントエンド:fetch でのストリーミング読み取り

例

// 浏览器端:逐行读取 NDJSON 并实时渲染
async function ask(question) {
  const resp = await fetch(
    `/chat?session=demo&q=${encodeURIComponent(question)}`
  )
  const reader = resp.body.getReader()
  const decoder = new TextDecoder()

  while (true) {
    const { done, value } = await reader.read()
    if (done) break
    // 每读到一块就追加到页面,实现打字机效果
    document.getElementById('answer').textContent +=
      decoder.decode(value)
  }
}

実行と検証

例

# 启动后端
python server.py

# 模拟两次连续请求,验证记忆
curl http://localhost:5000/chat?session=demo&q=什么であるPython切片
curl "http://localhost:5000/chat?session=demo&q=再给个サンプル风格的例子"

2回目のリクエストでモデルが「スライス」という話題に沿って回答を続けられたなら、サーバー側で管理されているセッション履歴が機能していることになる。session パラメータを変えれば完全に新しいセッションになり、互いに干渉しない。

この数十行の骨組みは、ChatGPT 系アプリの3大要素をすでにカバーしている:セッション分離(session パラメータ)、ストリーミング体験(NDJSON 転送)、記憶の永続(履歴の書き戻し)。データベース保存とマルチセッションリストを追加すれば、完全な実践プロジェクトの原型になる。Web アプリ実践の章でさらに拡張していく。

その他の拡張