🤖 Intelligence Artificielle
Inference
Inférence du modèle
Définition
Phase d'utilisation d'un modèle IA entraîné pour générer des prédictions ou du texte. Par opposition à l'entraînement, l'inférence est ce qui se produit quand vous posez une question à ChatGPT.
Exemples concrets
- 1Chaque réponse de Claude = une inférence
- 2Le coût d'inférence est ce qui est facturé à l'usage dans les APIs IA
Termes liés
LLM
Modèle de langage de grande taille entraîné sur d'immenses corpus de textes. Les LLMs (GPT-4, Claude...
Fine-tuning
Processus d'entraînement supplémentaire d'un modèle pré-entraîné sur des données spécifiques à un do...
Token
Unité de base du traitement de texte par les LLMs. Un token correspond approximativement aux trois q...