Ollama プログラミング言語呼び出し
この記事では、Ollama を呼び出す4つのコードルートを体系的に整理する:Python 公式ライブラリ、JavaScript 公式ライブラリ、ネイティブ HTTP、そして OpenAI / Anthropic 互換 SDK。さらに2つの実践プロジェクトでそれらを結びつける。
公式 SDK:Python と JavaScript
公式が自らメンテナンスしている2つのライブラリを提供しており、インターフェース設計は一貫している。1つを覚えれば両方使える。
インストール
pip install ollama
# JavaScript / TypeScript
npm install ollama
2つのライブラリの主要メソッド対照:
| メソッド | 用途 | 主要パラメータ |
|---|---|---|
| chat | マルチターン対話(主力メソッド) | model、messages、stream、tools、think、format、options |
| generate | 単発テキスト生成 | model、prompt、stream、suffix |
| embed | ベクトル埋め込み | model、input(単一または配列) |
| list | ローカルモデルの一覧表示 | 无 |
| pull | モデルのプル(進捗を監視可能) | model、stream |
Python で全パラメータ付きの chat 呼び出しを行うと、これまでの記事で学んだほとんどの機能をカバーできる:
例
from pydantic import BaseModel
# 構造化出力のスキーマを定義する
class Answer(BaseModel):
site: str
free: bool
response = chat(
model='qwen3.5',
messages=[{'role': 'user', 'content': '介绍 Python'}],
stream=False, # 流式开关
think=False, # 思考模式开关
format=Answer.model_json_schema(), # 结构化输出 schema
options={'temperature': 0.3, 'num_ctx': 8192}, # 生成参数
)
print(Answer.model_validate_json(response.message.content))
JavaScript での同等の書き方:
例
// ストリーミング対話の例
const stream = await ollama.chat({
model: 'qwen3.5',
messages: [{ role: 'user', content: '用三句话介绍 Python' }],
stream: true,
})
// 逐块输出
let content = ''
for await (const chunk of stream) {
process.stdout.write(chunk.message.content)
content += chunk.message.content
}
非デフォルトのアドレス(リモートサーバーや Ollama Cloud など)に接続する場合、host と headers で指定する:
例
from ollama import Client
# 连接远程 Ollama 或 Ollama Cloud(Bearer 认证)
client = Client(
host='https://ollama.com',
headers={'Authorization': 'Bearer ' + os.environ.get('OLLAMA_API_KEY')},
)
response = client.chat(model='qwen3.5', messages=[
{'role': 'user', 'content': '用一句话介绍 Python'}
])
ネイティブ HTTP:curl クイックリファレンス
スクリプトを書くとき、インターフェースをデバッグするとき、問題を調査するとき、curl が最速のツールだ。
| シナリオ | コマンド |
|---|---|
| 単発生成(非ストリーミング) | curl http://localhost:11434/api/generate -d '{"model":"qwen3.5","prompt":"你好","stream":false}' |
| 対話 | curl http://localhost:11434/api/chat -d '{"model":"qwen3.5","messages":[...],"stream":false}' |
| ベクトル埋め込み | curl http://localhost:11434/api/embed -d '{"model":"embeddinggemma","input":"文本"}' |
| モデルの一覧表示 | curl http://localhost:11434/api/tags |
| モデル詳細 | curl http://localhost:11434/api/show -d '{"model":"qwen3.5"}' |
| モデルのプル | curl http://localhost:11434/api/pull -d '{"model":"qwen3.5:4b"}' |
| モデルの削除 | curl -X DELETE http://localhost:11434/api/delete -d '{"model":"qwen3.5:4b"}' |
OpenAI / Anthropic SDK の再利用
既存プロジェクトの移行では、互換レイヤーの方が書き直しよりはるかに手間がかからない。
JavaScript プロジェクトで OpenAI SDK を使用してローカルモデルに接続する:
例
// 只改 base_url,api_key 随意填写
const openai = new OpenAI({
baseURL: "http://localhost:11434/v1",
apiKey: "ollama",
})
const res = await openai.chat.completions.create({
model: "qwen3.5",
messages: [{ role: "user", content: "用一句话介绍 Python" }],
})
console.log(res.choices[0].message.content)
Python プロジェクトで Anthropic SDK を使う場合も同様:
例
# base_url 指向本地,key 随意填写
client = anthropic.Anthropic(
base_url='http://localhost:11434',
api_key='ollama',
)
message = client.messages.create(
model='qwen3.5',
max_tokens=1024,
messages=[{'role': 'user', 'content': '用一句话介绍 Python'}],
)
print(message.content[0].text)
選び方の提案:新規プロジェクトは公式 SDK を直接使う(機能が最も充実)。既存プロジェクトは現在の SDK に合わせて互換レイヤーを使う(変更が最小)。OpenAI プロトコルしか認識しないフレームワークに統合する場合、互換レイヤーが唯一の経路となる。
実践1:コマンドラインチャットスクリプト
40行足らずの Python で、これまで学んだ chat、ストリーミング、履歴管理を組み合わせて、使えるターミナルチャットツールを作る。
例
# 运行:python cli_chat.py
from ollama import chat
MODEL = 'qwen3.5:4b'
# 会話履歴:system が役割を設定し、後続の対話を追加する
messages = [{
'role': 'system',
'content': あなたは サンプル のプログラミングアシスタントです。簡潔に回答し、サンプルコードを提示してください。,
}]
print(f対話を開始します(モデル {MODEL})。exit を入力すると終了します。)
while True:
user_input = input('\n你:').strip()
if user_input.lower() == 'exit':
break
if not user_input:
continue
# 追加用户消息并发起流式请求
messages.append({'role': 'user', 'content': user_input})
stream = chat(model=MODEL, messages=messages, stream=True)
# 逐块打印,同时累积完整回答
print('助手:', end='', flush=True)
reply = ''
for chunk in stream:
reply += chunk.message.content
print(chunk.message.content, end='', flush=True)
# 重要:今回の回答を履歴に追加して、モデルが上記の文脈を「記憶」できるようにする
messages.append({'role': 'assistant', 'content': reply})
$ python cli_chat.py 开始对话(模型 qwen3.5:4b),输入 exit 退出。 你:什么是 Python 的切片? 助手:切片是用 [start:stop:step] 从序列中取子序列的语法, 例如 s[1:3] 取索引 1 到 2 的元素。 你:给个 サンプル 风格的例子 助手:s = "サンプル" print(s[1:4]) # 输出 UNO 你:exit
核心はただ1つ:毎回 user メッセージと assistant の完全な回答を messages に append すること。モデル自体はステートレスであり、「記憶」は完全にこのリストに由来する。
実践2:記憶付きマルチターン対話Webアプリ
同じ考え方をブラウザに持ち込むには、バックエンドが間に入って調整する必要がある:セッション履歴の管理、Ollama の呼び出し、ストリーミング結果のフロントエンドへの転送。
バックエンド:Flask で Ollama のストリーミング API をラップ
例
# 安装依赖:pip install flask ollama
from flask import Flask, request, Response, stream_with_context
from ollama import chat
app = Flask(__name__)
# 会话历史暂存内存:真实项目应换成数据库
sessions = {}
@app.route('/chat')
def do_chat():
session_id = request.args.get('session', 'default')
user_input = request.args.get('q', '')
if not user_input:
return {'error': '缺少 q 参数'}
# このセッションの履歴を取得(または初期化)する
history = sessions.setdefault(session_id, [
{'role': 'system', 'content': 'あなたは サンプル のプログラミングアシスタントです。'}
])
history.append({'role': 'user', 'content': user_input})
# 流式生成,NDJSON 格式逐行转发给前端
def generate():
reply = ''
stream = chat(model='qwen3.5:4b', messages=history, stream=True)
for chunk in stream:
reply += chunk.message.content
yield chunk.message.content + '\n'
# 重要:完全な回答を履歴に書き戻して、記憶を形成する
history.append({'role': 'assistant', 'content': reply})
return Response(
stream_with_context(generate()),
mimetype='application/x-ndjson',
)
if __name__ == '__main__':
app.run(port=5000)
フロントエンド:fetch でのストリーミング読み取り
例
async function ask(question) {
const resp = await fetch(
`/chat?session=demo&q=${encodeURIComponent(question)}`
)
const reader = resp.body.getReader()
const decoder = new TextDecoder()
while (true) {
const { done, value } = await reader.read()
if (done) break
// 每读到一块就追加到页面,实现打字机效果
document.getElementById('answer').textContent +=
decoder.decode(value)
}
}
実行と検証
例
python server.py
# 模拟两次连续请求,验证记忆
curl http://localhost:5000/chat?session=demo&q=什么であるPython切片
curl "http://localhost:5000/chat?session=demo&q=再给个サンプル风格的例子"
2回目のリクエストでモデルが「スライス」という話題に沿って回答を続けられたなら、サーバー側で管理されているセッション履歴が機能していることになる。session パラメータを変えれば完全に新しいセッションになり、互いに干渉しない。
その他の拡張この数十行の骨組みは、ChatGPT 系アプリの3大要素をすでにカバーしている:セッション分離(session パラメータ)、ストリーミング体験(NDJSON 転送)、記憶の永続(履歴の書き戻し)。データベース保存とマルチセッションリストを追加すれば、完全な実践プロジェクトの原型になる。Web アプリ実践の章でさらに拡張していく。