Génération autorégressive

Produire la sortie jeton par jeton, chaque nouveau jeton étant prédit à partir de tous les précédents. Les modèles de langage sont autorégressifs : c'est pourquoi le texte s'affiche mot à mot, et pourquoi les jetons de sortie sont plus lents et plus chers que la lecture des jetons d'entrée.