Title: Wat is een contextvenster, en wat is een token? Canonical: https://llmeu.com/nl/learn/context-window-and-tokens/ Markdown mirror: https://llmeu.com/nl/learn/context-window-and-tokens.md Machine-readable: https://llmeu.com/llms.txt (index) - https://llmeu.com/llms-full.txt (full catalogue) - https://llmeu.com/llms-catalogue.json # Wat is een contextvenster, en wat is een token? Een token is een klein stukje tekst, ruwweg een woordfragment. Een contextvenster is het maximum aantal tokens dat %C3%A9%C3%A9n aanroep mag bevatten: instructies, het gesprek tot nu toe, opgehaalde passages en het antwoord. ## Twee getallen die bepalen wat je kunt versturen Lange context, 200k context en token zijn drie manieren om %C3%A9%C3%A9n vraag te stellen, dus het loont om de twee grootheden erachter uit elkaar te houden. Een token is de eenheid die een model leest en schrijft. Een contextvenster is hoeveel van die eenheden in %C3%A9%C3%A9n aanroep passen. Beide staan op elke modelkaart hier, en beide worden gehandhaafd in plaats van aangeprezen: de routeringsengine weigert een model waarvan het gedocumenteerde venster kleiner is dan je geschatte invoer plus je uitvoerbudget, en legt de reden vast. ## Wat een token is Modellen zien geen tekens of woorden. Tekst wordt opgesplitst in tokens, en een token is ruwweg een woordfragment: veelvoorkomende korte woorden zijn meestal %C3%A9%C3%A9n token, lange of zeldzame woorden en samenstellingen vallen in meerdere tokens uiteen. Leestekens en witruimte hechten aan de naburige tokens. Een Duitse samenstelling is doorgaans twee of drie tokens waar het Engelse equivalent er %C3%A9%C3%A9n is, en dat is de praktische reden waarom een document in de ene taal merkbaar meer kan kosten om te verwerken dan hetzelfde document in een andere taal. De schatting die hier wordt gebruikt is bewust grof en gedocumenteerd: ongeveer vier tekens per token voor Latijns schrift, naar boven afgerond. Naar boven afronden is de veilige richting, want daardoor wordt de contextcontrole strenger in plaats van soepeler. Een afbeelding wordt geschat op 850 tokens per afbeeldingsdeel, plus een kleine marge per bericht. Niets hiervan is een meting met een tokenizer; het is een budget waarmee de router een verzoek weigert dat niet zou passen. ## Wat het venster is, en wat het niet is Het venster telt alles in de aanroep bij elkaar op: het systeembericht, elk bericht tot nu toe, alle passages die je applicatie heeft opgehaald, de tooldefinities en de tokens die het model mag terugschrijven. Invoer en uitvoer delen het. Een model dat binnen een venster van 32k goed antwoordt, krijgt er niet stilzwijgend capaciteit bij wanneer je 40k stuurt; het verzoek moet passend worden gemaakt. De gepubliceerde vensters hier verschillen met orden van grootte. EuroLLM 9B, EuroLLM 22B en Mistral 7B Instruct v0.3 vermelden 32.768 tokens. Pharia-1-LLM-7B-control-aligned vermeldt 8.192 en Teuken 7B Instruct v0.6 vermeldt 4.096. Mistral Small 4, Mistral Large 3, Gemma 4 31B en NVIDIA Nemotron 3 Super vermelden 262.144. Llama 3.1 8B Instruct, Llama 3.3 70B Instruct, Command A+ en Command R (08-2024) vermelden ongeveer 128k. Llama 4 Scout 17B-16E Instruct staat op 10.485.760 tokens, door de leverancier gepubliceerd. Twee eigenaardigheden horen op de kaart thuis en niet in een samenvatting: Command A+ documenteert 128K invoer en 64K uitvoer terwijl de configuratie 200.000 posities toestaat, en Nemotron 3 Super adverteert context tot %C3%A9%C3%A9n miljoen tokens terwijl de configuratie 262.144 toestaat, met door de leverancier gerapporteerde RULER-scores van 96,30 bij 256k en 91,75 bij %C3%A9%C3%A9n miljoen. Waar een kaart de ene waarde noemt en een configuratiebestand een andere, worden beide vastgelegd. Kleine vensters zijn ook niet verdwenen: EuroLLM 1.7B Instruct vermeldt 4.096 tokens, een pagina of twee tekst in plaats van een documentverzameling. ## Waarom "200k context" een tweede vraag nodig heeft Een lang venster is een capaciteit, geen kwaliteitsbelofte. De vraag die telt is wat het model aan het verre einde nog doet. Leveranciers publiceren zelden retrievalkwaliteit per taal over een venster, en als ze een getal publiceren is het meestal een long-contextbenchmark gedraaid met hun eigen harness; daarom labelen de kaarten die cijfers als door de leverancier gerapporteerd. Een RULER-score zegt dat het model onder een specifieke test iets terugvond in een lange invoer; hij zegt niet dat een Franse clausule op pagina 400 van een Duits contract even betrouwbaar wordt behandeld als een clausule op pagina 1. De tweede vraag is kosten. Invoertokens worden gefactureerd of ze nu nuttig waren of niet, en een pipeline die bij elke beurt een groot venster opnieuw verstuurt, groeit lineair met het gesprek. Lange context is echt goedkoper wanneer ze een retrievalpipeline vervangt, en echt duurder wanneer ze alleen chunking vervangt die je al had. De derde is de val die de retrievalgids noemt: de kleinste limiet in de keten is bepalend. Embed met een model waarvan de kaart een maximale sequentielengte van 512 tokens gebruikt, en een chunk van 900 tokens wordt tijdens het embedden stilzwijgend afgekapt, hoe groot het venster van de generator ook is. Bepaal de chunklengte aan de hand van het embeddingmodel, niet van de generator. ## Hoe het venster bij een verzoek wordt gehandhaafd Invoertokens worden geschat, je maximale uitvoerbudget wordt erbij opgeteld, en elke kandidaat waarvan het gedocumenteerde venster kleiner is dan dat totaal wordt afgewezen met een vastgelegde reden die het venster en de eis noemt. Die controle zit na de residentie- en modaliteitsfilters en v%C3%B3%C3%B3r het prijsplafond, dus een model kan volledig zijn toegestaan door het beleid en toch worden verwijderd omdat het te klein is. Afwijzingen zijn zichtbaar. De routeerreden telt hoeveel endpoints zijn uitgesloten en de trace bewaart de redenen per endpoint. Als een verzoek mislukt omdat er niets overbleef, noemt het antwoord wat je moet aanpassen in plaats van stilzwijgend opnieuw te proberen met een kortere prompt; de invoer inkorten is jouw beslissing, niet die van de router. ## Praktische regels die standhouden Stuur wat de taak nodig heeft en niets meer. Een venster van 262k is geen reden om een hele codebase te sturen; het is een reden waarom een samenvattingstaak een heel rapport in %C3%A9%C3%A9n keer aankan. Houd de instructie en het materiaal dicht bij elkaar in plaats van de vraag te begraven onder veertig pagina's context, want aandacht over een lange invoer is in de praktijk niet gelijkmatig verdeeld. Budgetteer de uitvoer expliciet. Uitvoertokens worden gefactureerd zoals elke andere token, en een redeneermodus die lang tussenwerk produceert wordt op dezelfde manier gefactureerd, zoals meerdere taaknotities hier opmerken. Kies voor lange documenten bewust tussen %C3%A9%C3%A9n lange aanroep en een keten van korte. E%C3%A9n aanroep houdt het document intact en kost invoertokens %C3%A9%C3%A9n keer; een keten laat je tussenresultaten controleren en houdt elke stap klein. Geen van beide is altijd juist. Meet ten slotte met je eigen materiaal. Een gepubliceerd contextvenster is een gedocumenteerde capaciteit, een geadverteerd maximum is de claim van de leverancier met een bron, en een benchmark in jouw taal op jouw documenten is het enige cijfer dat iets zegt over jouw werklast. Deze catalogus past dezelfde regel op zichzelf toe: elk getal draagt zijn bron, en een waarde die niemand heeft genoemd wordt als onbekend vastgelegd in plaats van geraden. ## Veelgestelde vragen ### Wordt een contextvenster gemeten in woorden of in tekens? Geen van beide: het wordt gemeten in tokens, en dat zijn woordfragmenten. Als ruwe rekenregel schat dit platform ongeveer vier tekens per token voor Latijns schrift en rondt het naar boven af, waardoor de contextcontrole strenger uitvalt in plaats van soepeler. ### Delen invoer en uitvoer hetzelfde venster? Ja, en de router telt ze bij elkaar op. Een kandidaat-model waarvan het gedocumenteerde venster kleiner is dan de geschatte invoer plus je maximale aantal uitvoertokens wordt v%C3%B3%C3%B3r de scoring afgewezen, waarbij het venster en de eis in de trace worden vastgelegd. ### Betekent een venster van 200k dat het model het hele venster goed benut? Niet per se. Scores voor lange context zijn meestal benchmarks die de leverancier zelf heeft gedraaid met de eigen harness, en de kaarten labelen ze ook zo. Kwaliteit per taal over een lang venster wordt zelden gepubliceerd, dus test op je eigen documenten voordat je op het verre einde vertrouwt. ## Zie ook: