Un jeton est un petit morceau de texte, à peu près un fragment de mot. Une fenêtre de contexte est le nombre maximal de jetons qu'un appel peut contenir : les instructions, la conversation jusqu'à présent, les passages récupérés et la réponse.
L'IA est le domaine ; un grand modèle linguistique est un type de modèle à l'intérieur de celui-ci, un LLM de base continue le texte au lieu de suivre les instructions, et Nemotron 3 Super est un mélange d'experts de 123.6B.
Un LLM est un programme entraîné sur de grandes quantités de texte pour prédire le prochain "token", un petit morceau de texte. Il répond à partir de ses poids et de l'invite que vous envoyez, et non à partir d'une base de données qu'il recherche.
Un récupérateur associe un modèle d'intégration qui transforme le texte en vecteurs à un reranker qui note les passages. multilingual-e5-large est MIT avec des blocs de 512 tokens ; embeddinggemma-300m prend 2048.
Le RAG est un pipeline, pas un modèle : votre application récupère des passages et le modèle répond à partir de ceux-ci. Seule la dernière étape est une complétion de chat ; l'intégration (embedding) et le reranking sont des appels distincts.
Un modèle s'exécute là où un endpoint s'exécute, et la ligne enregistre sa région et sa classe. La résidence est un filtre appliqué avant la notation : si rien ne la satisfait, la requête renvoie 409 no_endpoint_for_policy.
Les poids ouverts signifient que les fichiers sont téléchargeables ; un point de terminaison signifie que quelqu'un les exécute pour vous. De nombreux déploiements européens utilisent les deux : une API pour une charge variable, un point de contrôle auto-hébergé pour un travail sensible.
Un prix est lu à partir du taux enregistré par une ligne de point de terminaison, par million de jetons entrants et sortants, plus un frais visible par requête. Une ligne sans taux enregistré est affichée sans prix.
Une licence est un champ enregistré sur chaque fiche de modèle : un identifiant SPDX et un lien vers le texte. « Poids ouverts » signifie que les poids sont téléchargeables, pas que l'utilisation commerciale est autorisée.
Une limite de débit ici est un plafond par compartiment dans une fenêtre fixe : 600 appels par clé et 1800 par organisation chaque minute, avec au maximum 8 requêtes en cours sur une seule clé.
Un routeur transforme une requête ne nommant aucune machine en une réponse de point de terminaison. Une fonction pure filtre les candidats par politique et résidence, évalue ce qui survit et prend le score le plus élevé.