Paramètres de chat et de génération d'Ollama

Ce chapitre explore en détail l'utilisation d'Ollama en mode conversationnel : plusieurs modes de chat, les paramètres de génération qui contrôlent la "personnalité" du modèle, les fenêtres de contexte, le mode réflexion et les conversations multimodales.


Trois modes de chat : interactif, one-shot et pipeline

La même commande run a des usages différents et s'applique à différents scénarios.

Mode interactif : chat multi-tours

Lancez directement pour entrer dans une conversation ; le modèle se souvient du contexte de la session en cours, ce qui le rend adapté aux questions de suivi :

Exemple

# Entrer dans une conversation interactive multi-tours
ollama run qwen3.5

Q&R one-shot : une question, une réponse

Ajoutez la question directement comme argument ; quittez immédiatement après avoir obtenu la réponse. Adapté aux tâches ponctuelles :

Exemple

# Q&R one-shot sans entrer dans l'interface interactive
ollama run qwen3.5 "Présentez Python en une phrase"

Entrée pipeline : intégration dans des scripts

Alimentez le modèle en texte via un pipe, ce qui facilite la combinaison avec d'autres commandes :

Exemple

# Donnez le contenu du fichier au modèle pour qu'il le résume
cat README.md | ollama run qwen3.5 "Résume ce contenu"

De plus, saisir trois guillemets doubles dans une conversation encadre le texte multiligne ; appuyer sur Entrée pour un retour à la ligne n'est pas considéré comme une soumission.


Paramètres de génération : contrôler la "personnalité" du modèle

Chaque fois que le modèle génère un mot (token), il passe par le même pipeline interne ; les paramètres de génération interviennent à différentes étapes de ce pipeline.

token 采样流程:概率分布、temperature 调整、截断过滤、采样输出

temperature accentue ou aplatit la distribution de probabilité ; top_k / top_p / min_p suppriment les candidats de faible qualité ; enfin, l'échantillonnage aléatoire sélectionne le token suivant.

Les paramètres courants sont résumés ci-dessous (valeurs par défaut issues de la documentation officielle) :

ParamètreValeur par défautEffetUtilisation typique
temperature0.8Plus la valeur est élevée, plus le résultat est créatif ; plus elle est basse, plus il est rigoureux.Utilisez 0~0.3 pour l'écriture de code et l'extraction d'informations ; autour de 1.0 pour l'écriture créative.
top_k40Échantillonnez uniquement parmi les k meilleurs candidats par probabilité.Diminuez-la pour rendre la sortie plus conservatrice.
top_p0.9Échantillonner uniquement à partir de chaque jeton dont la probabilité cumulée atteint p.À utiliser comme alternative à top_k pour le réglage fin.
min_p0.0Définir un plancher de candidats en fonction de la proportion de la probabilité la plus élevée.0.05 est souvent utilisé comme substitut de top_p.
repeat_penalty1.0Pénaliser le contenu.1.1 atténue le radotage répétitif.
seed0Fixer la graine aléatoire pour garantir.Fixer les résultats pendant les tests et le débogage.
stopAucuneArrêter la génération immédiatement lorsqu'une chaîne spécifiée est rencontrée.Supprimez les formules de politesse inutiles ou la mise en forme fixe.
num_predict-1Nombre maximal de jetons générés ; -1 signifie aucune limite.Limitez la longueur de sortie des réponses longues.

Ajustez à tout moment avec les commandes intégrées en mode interactif :

Exemple

>>> /set parameter temperature 0.3
>>> /set parameter seed 42

Pour rendre les paramètres définitivement effectifs, écrivez-les dans un Modelfile afin de créer un modèle « pré-réglé ». C’est l’utilisation principale de Modelfile dans le prochain article.

Une petite expérience pour vérifier l’effet de la graine : fixez la graine et posez deux fois la même question ; les sorties seront identiques. Libérez la graine et chaque réponse sera différente.


Fenêtre de contexte num_ctx : la mémoire de travail du modèle

La fenêtre de contexte détermine la quantité de contenu que le modèle peut « voir » en une fois, y compris le prompt système, l’historique de conversation et votre question, mesurée en jetons.

Le contenu qui ne tient pas dans la fenêtre est tronqué ; c’est la cause profonde du fait que le modèle « oublie le début au fur et à mesure que la conversation avance ».

Ollama sélectionne automatiquement la longueur de contexte par défaut en fonction de la VRAM : moins de 24GiB utilise 4K par défaut, 24-48GiB utilise 32K par défaut, et au-dessus de 48GiB utilise 256K par défaut. Les modèles cloud utilisent par défaut le contexte maximal.

Il existe trois façons de l’ajuster manuellement :

Exemple

# Méthode 1 : Ajuster la session en cours en mode interactif
/set paramètre num_ctx 8192

# Méthode 2 : Définir une valeur par défaut globale au démarrage du service
OLLAMA_CONTEXT_LENGTH=8192 ollama serve

# Méthode 3 : Spécifier à la demande dans les requêtes API (options.num_ctx, voir le chapitre API)

Le coût de l’augmentation de la fenêtre est une utilisation accrue de la mémoire ; utilisez ollama ps du chapitre précédent pour vérifier la colonne CONTEXT et confirmer la valeur actuelle.

Lors de l’intégration d’Ollama dans des agents, des outils de codage ou des scénarios de recherche web, la recommandation officielle est de définir le contexte sur au moins 64K ; sinon, la grande quantité de contenu renvoyée par les outils risque d’empiéter sur l’espace de conversation.


Mode réflexion : Laisser le modèle réfléchir avant de répondre

Les modèles de raisonnement (tels que qwen3.5, deepseek-r1) prennent en charge la génération d’un processus de réflexion avant de donner une réponse, ce qui convient aux tâches de mathématiques et de logique.

Ollama active la réflexion par défaut et fournit également des commutateurs pour un contrôle total :

Exemple

# Forcer l’activation de la réflexion
ollama run qwen3.5 --think "Combien font 17 fois 23 ?"

# Désactiver la réflexion et donner directement la réponse
ollama run qwen3.5 --think=false "Présentez Python en une phrase"

# Réfléchir comme d'habitude, mais ne pas afficher le processus de réflexion dans le terminal
ollama run qwen3.5 --hidethinking "Quel est le plus grand, 9.9 ou 9.11 ?"

In interactive mode, use/set thinket/set nothinkpour basculer à tout moment.

Some models support thinking effort levels; for example, gpt-oss only accepts three levels: low, medium, and high. Use--think=mediumpour le spécifier sous cette forme.

Désactiver la réflexion peut réduire considérablement le temps de réponse, mais la précision des tâches de raisonnement peut diminuer. Les scénarios qui privilégient la vitesse de réponse, comme les assistants de codage, choisissent souvent hidethinking — préservant la qualité de la réflexion tout en évitant que le terminal ne soit inondé par le processus.


Multimodal : laissez le modèle voir des images

qwen3.5 prend nativement en charge les entrées d'images ; en ligne de commande, il suffit de placer le chemin de l'image après la question :

Exemple

# Chemin de l'image + question, effectuez un Q&R d'image en une seule ligne
ollama run qwen3.5 ./screenshot.png Quelle page se trouve dans cette capture d'écran ?

L'utilisation de l'API et du SDK est légèrement plus complexe (encodage base64) et est démontrée dans le chapitre sur les capacités de vision. Elle peut aussi être combinée avec une sortie structurée pour réaliser une « conversion d'image en données structurées ».


Sortie structurée : Transformez les réponses en JSON fiable

Lorsqu'un programme analyse les réponses du modèle, la plus grande crainte est que le format diffère à chaque fois. Ollama permet de forcer le modèle à produire une sortie conforme à un JSON Schema.

Exemple

curl http://localhost:11434/api/chat -d '{
  "model": "qwen3.5",
"messages": [{ "role": "user", "content": "Présentez Python" }],
  "format": {
    "type": "object",
    "properties": {
      "name": { "type": "string" },
      "category": { "type": "string" },
      "free": { "type": "boolean" }
    },
    "required": ["name", "category", "free"]
  },
  "stream": false
}'

Le contenu renvoyé est une chaîne JSON qui respecte strictement le schéma et peut être directement désérialisée en un objet programme.

En Python, utiliser Pydantic pour définir le schéma puis valider le résultat est la combinaison la plus pratique ; la pratique complète se trouve dans le chapitre sur les capacités du modèle.

Deux détails pratiques : abaisser la température à 0 lors d'une sortie structurée est plus stable ; si vous écrivez seulement format sans expliquer les exigences dans le prompt, l'effet peut être amoindri. Il est préférable de décrire aussi la signification des champs dans le prompt.


Gestion du contexte et pièges courants dans les conversations à plusieurs tours

En mode interactif, à chaque tour de conversation, Ollama concatène l'historique complet dans la fenêtre de contexte et l'envoie au modèle. Cela a deux conséquences que vous devez connaître.

Premièrement, au sein d'une session, le modèle a de la mémoire ; après avoir quitté (/bye), la mémoire est effacée. Le relancer démarre une toute nouvelle session ; il ne se souvient pas de ce que vous avez dit la fois précédente.

Deuxièmement, lorsque l'historique est trop long, le contenu le plus ancien est évincé de la fenêtre en premier, ce qui donne l'impression que le modèle « oublie » soudainement les accords du début.

Stratégies pratiques correspondantes :

SymptômeCauseContre-mesure
Le modèle oublie complètement après la réouverture de la conversationLe contexte de session n'est pas conservé entre les processusÉcrivez les accords importants dans le champ SYSTEM d'un Modelfile, ou utilisez l'API pour gérer vous-même l'historique des messages
La seconde moitié d'une longue conversation commence à « perdre la mémoire »La fenêtre de contexte est pleine ; l'ancien contenu est tronquéAugmentez num_ctx ; ou démarrez périodiquement une nouvelle session, en n'apportant que les conclusions clés
Les réponses deviennent plus lentes et moins bonnes après avoir collé un long documentUn contenu long sature le contexteCollez uniquement les extraits pertinents ; confiez le document entier à une solution de base de connaissances RAG

Pour contourner ces restrictions afin d’obtenir une mémoire persistante, vous devez utiliser l’API pour maintenir vous-même le tableau messages ; c’est l’objet du chapitre sur l’API.


Référence rapide des commandes intégrées en mode interactif

Les commandes intégrées disponibles directement à l’invite de conversation sont les suivantes. Saisissez /? à tout moment pour voir la liste réelle de la version actuelle.

CommandeDescription
/?Afficher l’aide et toutes les commandes disponibles
/set parameter <name> <value>Ajuster les paramètres de génération, tels que temperature, num_ctx
/set system "<prompt>"Modifier temporairement le prompt système
/set think / /set nothinkActiver / désactiver le mode de réflexion
/clearEffacer le contexte de la session en cours et recommencer
/load <model>Passer à un autre modèle sans quitter le terminal
/save <name>Enregistrer la session actuelle (y compris le prompt système et les paramètres) en tant que nouveau modèle
/show info / /show parametersAfficher les informations du modèle actuel / les paramètres actuellement actifs
/byeQuitter la conversation

/save mérite une mention spéciale : il fige une conversation avec des paramètres ajustés directement dans un nouveau modèle, ce qui équivaut à une personnalisation rapide sans écrire de Modelfile. Le chapitre suivant le comparera à l'approche Modelfile.

Autres extensions