English Français العربية

Glossaire de l’IA

146 termes expliqués simplement, en anglais, en français et en arabe.

  • 11 thèmes
  • Anglais, français et arabe

15 termes

A

Inférence Auto-hébergement Exécuter un modèle à poids ouverts sur vos propres serveurs ou instances cloud au lieu d'appeler l'API d'un fournisseur.

C

Inférence Clé d'API Une chaîne secrète qui identifie votre compte auprès de l'API d'un fournisseur ; qui la détient peut dépenser votre crédit.

D

Inférence Délai du premier jeton (TTFT) Le temps entre l'envoi d'une requête et l'arrivée du premier jeton de réponse.

E

Inférence Échantillonnage La façon dont le modèle choisit chaque jeton suivant parmi ses probabilités, au lieu de toujours prendre le plus probable. Inférence Effort (effort de raisonnement) Un réglage des modèles de raisonnement qui contrôle combien ils réfléchissent avant de répondre, en arbitrant coût, vitesse et qualité.

I

Inférence IA embarquée (edge) Exécuter des modèles directement sur téléphones, ordinateurs ou autres appareils plutôt que dans le cloud.

J

Inférence Jetons de réflexion Les jetons qu'un modèle de raisonnement génère en travaillant un problème avant sa réponse finale ; facturés comme sortie. Inférence Jetons maximum (max tokens) La limite que vous fixez au nombre de jetons générés dans une réponse. Inférence Jetons par seconde La vitesse à laquelle un modèle génère sa sortie, mesure courante de rapidité.

L

Inférence Limite de débit Le plafond fixé par le fournisseur au nombre de requêtes ou de jetons par minute ou par jour.

R

Inférence Résidence des données Garder le traitement des données dans une région précise, comme l'UE ou les États-Unis, souvent exigé par la loi ou un contrat.

S

Inférence Streaming (diffusion en continu) Envoyer la sortie à l'utilisateur jeton par jeton pendant sa génération, au lieu d'attendre la réponse complète.

T

Inférence Tarification contexte long Des tarifs par jeton plus élevés appliqués par certains fournisseurs quand une requête dépasse un seuil de taille. Inférence Température Un réglage qui contrôle le caractère aléatoire de la sortie : basse, réponses ciblées et reproductibles ; haute, réponses plus variées. Inférence Top-p (échantillonnage par noyau) Un réglage qui limite le choix au plus petit ensemble de jetons probables dont les probabilités cumulées atteignent p.