Configuration du modèle DeepSeek Harness

DeepSeek Harness peut utiliser la configuration officielle de DeepSeek, ou des modèles tiers.

Type de fournisseurDe quoi s'agit-ilExigences relatives aux identifiantsScénarios applicables
DeepSeekPoint de terminaison officiel DeepSeekClé API DeepSeek (en écriture seule)Par défaut, le plus rapide pour démarrer
Fournisseur de catalogueFournisseurs du catalogue installé, tels qu’Anthropic, OpenAIClés API pour chaque fournisseur ; l’authentification native nécessite leurs identifiants respectifs.Connexion à des fournisseurs courants déjà inclus
Fournisseur personnaliséPoints de terminaison auto-hébergés, tels que les passerelles d’entreprise ou les serveurs auto-hébergés.ID du fournisseur, baseURL, protocole, identifiants, modèlePoints de terminaison non présents dans le catalogue

Ouvrez http://127.0.0.1:3080/. L’interface complète est la suivante. Nous pouvons d’abord cliquer sur Paramètres pour configurer la clé API :

Si vous n’avez pas encore de clé API, vous pouvez vous rendre surhttps://platform.deepseek.com/api_keysDemande.

Ensuite, ouvrez Paramètres → Modèles. Sur la carte DeepSeek se trouve un champ de saisie de clé API. Remplissez-le et enregistrez.


Ajouter un fournisseur de catalogue

Les fournisseurs de catalogue obtiennent les points de terminaison, les protocoles et les listes de modèles à partir du catalogue installé de dsh.

Choisissez Ajouter un fournisseur, sélectionnez un fournisseur tel qu’Anthropic ou OpenAI, saisissez sa clé API, puis enregistrez.

Le catalogue installé fournit automatiquement les points de terminaison, les protocoles et les listes de modèles ; aucune saisie manuelle n’est nécessaire.

Par exemple, nous configurons le forfait de plan de codage de Zhipu :

Une fois la configuration terminée, nous pouvons voir les modèles ajoutés dans la liste des modèles de la boîte de dialogue de chat :

Les fournisseurs utilisant l’authentification native nécessitent leurs propres identifiants natifs ; remplir uniquement le champ de clé API ne terminera pas la configuration.

ProviderNatif requis
BedrockIdentifiants AWS et région
SommetProjet ADC
Azureapi-version
CodexO

Ajouter un fournisseur personnalisé

Pour les points de terminaison qui ne figurent pas dans la liste, utilisez un fournisseur personnalisé.

Sélectionnez Ajouter un fournisseur personnalisé et renseignez les champs suivants.

FieldsDescriptionObligatoire ?
ID du fournisseurIdentifiant permanent en minusculesRequis
Nom d'affichageLe nom affiché dans l'interface utilisateurOptional
URL de basebaseURL du point de terminaisonRequis
Protocole APIpar ex. openai-completionsRequis
IdentifiantRéférence à une clé API ou à une variable d'environnementRequis
ModèleAu moins un modèleRequis

L'ID du fournisseur est permanent car les requêtes, les sessions enregistrées, les valeurs par défaut des modèles et les références d'identification l'utilisent tous.

Si vous devez renommer un fournisseur, ajoutez un nouveau fournisseur et supprimez l'ancien.

Le nom d'affichage, l'URL de base, le protocole, les identifiants et les modèles restent modifiables.

Sélectionnez « récupérer les modèles disponibles » dans le catalogue de modèles pour interroger l'URL de base et les identifiants actuellement affichés dans le formulaire.

La sélection d'un candidat ne met à jour que le brouillon ; le fournisseur n'est pas stocké tant qu'il n'est pas enregistré.

Les fournisseurs de catalogue utilisent le catalogue installé et n'effectuent aucune requête réseau.


Entrée d'image : déclarer la modalité pour les modèles de vision

Les modèles saisis manuellement sont traités comme texte uniquement par défaut ; pour prendre en charge les images, vous devez le déclarer explicitement.

Comme aucune partie du processus ne peut demander au point de terminaison quelles modalités il accepte, dsh utilise une stratégie « déclarer d'abord, puis utiliser ».

L'ajout d'images à de tels modèles sera refusé avant l'envoi, et le modèle concerné sera nommé.

Les modèles de vision sous un fournisseur personnalisé nécessitent une ligne supplémentaire ; le formulaire n'a pas de champ correspondant.

Veuillez ajouter input pour ce modèle dans $DSH_HOME/settings.yaml.

# 文件路径:$DSH_HOME/settings.yaml
# 顶层键 llm-pi-ai 是模型路由插件的 id,providers 下按提供方 id 组织
llm-pi-ai:
  providers:
    my-gateway:
      apiKeyEnv: GATEWAY_API_KEY          # 凭据引用:从 GATEWAY_API_KEY 环境变量读取
      api: openai-completions             # API 协议:OpenAI 兼容的补全协议
      baseURL: https://gateway.example.example/v1  # 你的网关端点
      models:
        - id: legacy-chat                 # 纯文本模型,不写 input 即按纯文本对待
        - id: vision-preview              # 视觉模型
          input: [text, image]            # 声明同时接受文本与图片

input accepte text et image, et ne s'applique qu'à ce modèle, de sorte qu'une seule route peut desservir les deux types de modèles.

Omettre cette option, ou écrire une liste vide, sont deux formulations synonymes.

Dans ce cas, conservez la modalité enregistrée dans le catalogue installé pour ce modèle ; les modèles non décrits dans le catalogue se rabattent sur le defaultInput de la route.

Si tous vos modèles saisis manuellement acceptent les images, vous pouvez définir une valeur de repli une fois sur la route.

# 文件路径:$DSH_HOME/settings.yaml
# defaultInput 是回退值而不是覆盖值,默认为 [text]
llm-pi-ai:
  providers:
    vision-gateway:
      apiKeyEnv: GATEWAY_API_KEY
      api: openai-completions
      baseURL: https://vision.example.example/v1
      defaultInput: [text, image]         # 对本路由下目录未描述的模型生效
      models:
        - id: first-model
        - id: second-model

Pour restreindre la modalité d'un modèle dans un fournisseur de catalogue, écrivez-la sous modelOverrides, avec l'id du modèle comme clé.

# 文件路径:$DSH_HOME/settings.yaml
# 目录提供方没有可填写的 models 列表,覆盖走 modelOverrides
llm-pi-ai:
  providers:
    anthropic:
      modelOverrides:
        claude-sonnet-4-5:
          input: [text]                   # 把该模型的图片能力去掉

input et defaultInput sont des assertions à propos de votre point de terminaison, et non des vérifications de celui-ci.

Un modèle qui déclare des capacités d'image que le point de terminaison ne fournit pas réellement ne sera pas bloqué ici ; à la place, le fournisseur rejette la requête.


Tableau de dépannage

Lorsqu'une configuration de modèle est incorrecte, dsh fournit des messages d'erreur clairs. Utilisez le tableau ci-dessous pour dépanner.

ErreurSignificationRégner
MISSING_CREDENTIALClé de fournisseur manquanteStockez la clé du fournisseur via la page Models, ou fournissez la variable d'environnement référencée.
UNKNOWN_MODELLe modèle demandé n'est pas configuréSélectionnez un modèle configuré, ou ajoutez le modèle manquant à un fournisseur personnalisé.
La récupération des modèles disponibles renvoie 401La clé est invalide, ou le point de terminaison ne prend pas en charge la découverte des modèles.Vérifiez la clé ; la découverte des modèles appelle le GET /models compatible OpenAI. Pour les services qui ne fournissent pas ce point de terminaison, saisissez le modèle manuellement.
Image rejetée avant l'envoiLe modèle ne déclare pas la modalité imageAjoutez input: [text, image] aux modèles du fournisseur personnalisé ; les routes propres à DeepSeek sont uniquement textuelles et ne peuvent pas être modifiées via la configuration.
Le fournisseur a rejeté la requête avec des imagesLe modèle déclare des capacités d'image que le point de terminaison ne fournit pas réellement.Retirez image de la liste qui lui accorde des capacités d'image, puis démarrez une nouvelle session.
autres extensions