Tarification
Mise en cache du prompt
Réutiliser le début déjà traité d'un prompt d'une requête à l'autre, pour que le contenu répété coûte beaucoup moins.
Une lecture en cache coûte généralement 10 % du prix d'entrée normal ou moins, et certains fournisseurs facturent l'écriture du cache. C'est rentable quand le même grand contexte est envoyé souvent.
Questions fréquentes
Que signifie Mise en cache du prompt ?
Réutiliser le début déjà traité d'un prompt d'une requête à l'autre, pour que le contenu répété coûte beaucoup moins. Une lecture en cache coûte généralement 10 % du prix d'entrée normal ou moins, et certains fournisseurs facturent l'écriture du cache. C'est rentable quand le même grand contexte est envoyé souvent.