Paramètres de chat et de génération d'Ollama
Ce chapitre explore en détail l'utilisation d'Ollama en mode conversationnel : plusieurs modes de chat, les paramètres de génération qui contrôlent la "personnalité" du modèle, les fenêtres de contexte, le mode réflexion et les conversations multimodales.
Trois modes de chat : interactif, one-shot et pipeline
La même commande run a des usages différents et s'applique à différents scénarios.
Mode interactif : chat multi-tours
Lancez directement pour entrer dans une conversation ; le modèle se souvient du contexte de la session en cours, ce qui le rend adapté aux questions de suivi :
Exemple
ollama run qwen3.5
Q&R one-shot : une question, une réponse
Ajoutez la question directement comme argument ; quittez immédiatement après avoir obtenu la réponse. Adapté aux tâches ponctuelles :
Exemple
ollama run qwen3.5 "Présentez Python en une phrase"
Entrée pipeline : intégration dans des scripts
Alimentez le modèle en texte via un pipe, ce qui facilite la combinaison avec d'autres commandes :
Exemple
cat README.md | ollama run qwen3.5 "Résume ce contenu"
De plus, saisir trois guillemets doubles dans une conversation encadre le texte multiligne ; appuyer sur Entrée pour un retour à la ligne n'est pas considéré comme une soumission.
Paramètres de génération : contrôler la "personnalité" du modèle
Chaque fois que le modèle génère un mot (token), il passe par le même pipeline interne ; les paramètres de génération interviennent à différentes étapes de ce pipeline.
temperature accentue ou aplatit la distribution de probabilité ; top_k / top_p / min_p suppriment les candidats de faible qualité ; enfin, l'échantillonnage aléatoire sélectionne le token suivant.
Les paramètres courants sont résumés ci-dessous (valeurs par défaut issues de la documentation officielle) :
| Paramètre | Valeur par défaut | Effet | Utilisation typique |
|---|---|---|---|
| temperature | 0.8 | Plus la valeur est élevée, plus le résultat est créatif ; plus elle est basse, plus il est rigoureux. | Utilisez 0~0.3 pour l'écriture de code et l'extraction d'informations ; autour de 1.0 pour l'écriture créative. |
| top_k | 40 | Échantillonnez uniquement parmi les k meilleurs candidats par probabilité. | Diminuez-la pour rendre la sortie plus conservatrice. |
| top_p | 0.9 | Échantillonner uniquement à partir de chaque jeton dont la probabilité cumulée atteint p. | À utiliser comme alternative à top_k pour le réglage fin. |
| min_p | 0.0 | Définir un plancher de candidats en fonction de la proportion de la probabilité la plus élevée. | 0.05 est souvent utilisé comme substitut de top_p. |
| repeat_penalty | 1.0 | Pénaliser le contenu. | 1.1 atténue le radotage répétitif. |
| seed | 0 | Fixer la graine aléatoire pour garantir. | Fixer les résultats pendant les tests et le débogage. |
| stop | Aucune | Arrêter la génération immédiatement lorsqu'une chaîne spécifiée est rencontrée. | Supprimez les formules de politesse inutiles ou la mise en forme fixe. |
| num_predict | -1 | Nombre maximal de jetons générés ; -1 signifie aucune limite. | Limitez la longueur de sortie des réponses longues. |
Ajustez à tout moment avec les commandes intégrées en mode interactif :
Exemple
>>> /set parameter seed 42
Pour rendre les paramètres définitivement effectifs, écrivez-les dans un Modelfile afin de créer un modèle « pré-réglé ». C’est l’utilisation principale de Modelfile dans le prochain article.
Une petite expérience pour vérifier l’effet de la graine : fixez la graine et posez deux fois la même question ; les sorties seront identiques. Libérez la graine et chaque réponse sera différente.
Fenêtre de contexte num_ctx : la mémoire de travail du modèle
La fenêtre de contexte détermine la quantité de contenu que le modèle peut « voir » en une fois, y compris le prompt système, l’historique de conversation et votre question, mesurée en jetons.
Le contenu qui ne tient pas dans la fenêtre est tronqué ; c’est la cause profonde du fait que le modèle « oublie le début au fur et à mesure que la conversation avance ».
Ollama sélectionne automatiquement la longueur de contexte par défaut en fonction de la VRAM : moins de 24GiB utilise 4K par défaut, 24-48GiB utilise 32K par défaut, et au-dessus de 48GiB utilise 256K par défaut. Les modèles cloud utilisent par défaut le contexte maximal.
Il existe trois façons de l’ajuster manuellement :
Exemple
/set paramètre num_ctx 8192
# Méthode 2 : Définir une valeur par défaut globale au démarrage du service
OLLAMA_CONTEXT_LENGTH=8192 ollama serve
# Méthode 3 : Spécifier à la demande dans les requêtes API (options.num_ctx, voir le chapitre API)
Le coût de l’augmentation de la fenêtre est une utilisation accrue de la mémoire ; utilisez ollama ps du chapitre précédent pour vérifier la colonne CONTEXT et confirmer la valeur actuelle.
Lors de l’intégration d’Ollama dans des agents, des outils de codage ou des scénarios de recherche web, la recommandation officielle est de définir le contexte sur au moins 64K ; sinon, la grande quantité de contenu renvoyée par les outils risque d’empiéter sur l’espace de conversation.
Mode réflexion : Laisser le modèle réfléchir avant de répondre
Les modèles de raisonnement (tels que qwen3.5, deepseek-r1) prennent en charge la génération d’un processus de réflexion avant de donner une réponse, ce qui convient aux tâches de mathématiques et de logique.
Ollama active la réflexion par défaut et fournit également des commutateurs pour un contrôle total :
Exemple
ollama run qwen3.5 --think "Combien font 17 fois 23 ?"
# Désactiver la réflexion et donner directement la réponse
ollama run qwen3.5 --think=false "Présentez Python en une phrase"
# Réfléchir comme d'habitude, mais ne pas afficher le processus de réflexion dans le terminal
ollama run qwen3.5 --hidethinking "Quel est le plus grand, 9.9 ou 9.11 ?"
In interactive mode, use/set thinket/set nothinkpour basculer à tout moment.
Some models support thinking effort levels; for example, gpt-oss only accepts three levels: low, medium, and high. Use--think=mediumpour le spécifier sous cette forme.
Désactiver la réflexion peut réduire considérablement le temps de réponse, mais la précision des tâches de raisonnement peut diminuer. Les scénarios qui privilégient la vitesse de réponse, comme les assistants de codage, choisissent souvent hidethinking — préservant la qualité de la réflexion tout en évitant que le terminal ne soit inondé par le processus.
Multimodal : laissez le modèle voir des images
qwen3.5 prend nativement en charge les entrées d'images ; en ligne de commande, il suffit de placer le chemin de l'image après la question :
Exemple
ollama run qwen3.5 ./screenshot.png Quelle page se trouve dans cette capture d'écran ?
L'utilisation de l'API et du SDK est légèrement plus complexe (encodage base64) et est démontrée dans le chapitre sur les capacités de vision. Elle peut aussi être combinée avec une sortie structurée pour réaliser une « conversion d'image en données structurées ».
Sortie structurée : Transformez les réponses en JSON fiable
Lorsqu'un programme analyse les réponses du modèle, la plus grande crainte est que le format diffère à chaque fois. Ollama permet de forcer le modèle à produire une sortie conforme à un JSON Schema.
Exemple
"model": "qwen3.5",
"messages": [{ "role": "user", "content": "Présentez Python" }],
"format": {
"type": "object",
"properties": {
"name": { "type": "string" },
"category": { "type": "string" },
"free": { "type": "boolean" }
},
"required": ["name", "category", "free"]
},
"stream": false
}'
Le contenu renvoyé est une chaîne JSON qui respecte strictement le schéma et peut être directement désérialisée en un objet programme.
En Python, utiliser Pydantic pour définir le schéma puis valider le résultat est la combinaison la plus pratique ; la pratique complète se trouve dans le chapitre sur les capacités du modèle.
Deux détails pratiques : abaisser la température à 0 lors d'une sortie structurée est plus stable ; si vous écrivez seulement format sans expliquer les exigences dans le prompt, l'effet peut être amoindri. Il est préférable de décrire aussi la signification des champs dans le prompt.
Gestion du contexte et pièges courants dans les conversations à plusieurs tours
En mode interactif, à chaque tour de conversation, Ollama concatène l'historique complet dans la fenêtre de contexte et l'envoie au modèle. Cela a deux conséquences que vous devez connaître.
Premièrement, au sein d'une session, le modèle a de la mémoire ; après avoir quitté (/bye), la mémoire est effacée. Le relancer démarre une toute nouvelle session ; il ne se souvient pas de ce que vous avez dit la fois précédente.
Deuxièmement, lorsque l'historique est trop long, le contenu le plus ancien est évincé de la fenêtre en premier, ce qui donne l'impression que le modèle « oublie » soudainement les accords du début.
Stratégies pratiques correspondantes :
| Symptôme | Cause | Contre-mesure |
|---|---|---|
| Le modèle oublie complètement après la réouverture de la conversation | Le contexte de session n'est pas conservé entre les processus | Écrivez les accords importants dans le champ SYSTEM d'un Modelfile, ou utilisez l'API pour gérer vous-même l'historique des messages |
| La seconde moitié d'une longue conversation commence à « perdre la mémoire » | La fenêtre de contexte est pleine ; l'ancien contenu est tronqué | Augmentez num_ctx ; ou démarrez périodiquement une nouvelle session, en n'apportant que les conclusions clés |
| Les réponses deviennent plus lentes et moins bonnes après avoir collé un long document | Un contenu long sature le contexte | Collez uniquement les extraits pertinents ; confiez le document entier à une solution de base de connaissances RAG |
Pour contourner ces restrictions afin d’obtenir une mémoire persistante, vous devez utiliser l’API pour maintenir vous-même le tableau messages ; c’est l’objet du chapitre sur l’API.
Référence rapide des commandes intégrées en mode interactif
Les commandes intégrées disponibles directement à l’invite de conversation sont les suivantes. Saisissez /? à tout moment pour voir la liste réelle de la version actuelle.
| Commande | Description |
|---|---|
| /? | Afficher l’aide et toutes les commandes disponibles |
| /set parameter <name> <value> | Ajuster les paramètres de génération, tels que temperature, num_ctx |
| /set system "<prompt>" | Modifier temporairement le prompt système |
| /set think / /set nothink | Activer / désactiver le mode de réflexion |
| /clear | Effacer le contexte de la session en cours et recommencer |
| /load <model> | Passer à un autre modèle sans quitter le terminal |
| /save <name> | Enregistrer la session actuelle (y compris le prompt système et les paramètres) en tant que nouveau modèle |
| /show info / /show parameters | Afficher les informations du modèle actuel / les paramètres actuellement actifs |
| /bye | Quitter la conversation |
Autres extensions/save mérite une mention spéciale : il fige une conversation avec des paramètres ajustés directement dans un nouveau modèle, ce qui équivaut à une personnalisation rapide sans écrire de Modelfile. Le chapitre suivant le comparera à l'approche Modelfile.