Een context window is de hoeveelheid tekst (gemeten in tokens) die een AI-model in één keer kan meenemen in zijn redenatie. Je kunt het zien als het geheugen van de AI op dat moment. Veel AI-taalmodellen kunnen bijvoorbeeld zo’n 4000 tokens tegelijk verwerken (ongeveer een paar pagina’s tekst). Voor juridische documenten – vonnissen, contracten of dossiers – is dat een uitdaging, want die bevatten vaak vele pagina’s. Begrijpt de AI het geheel nog wel als de tekst langer is dan het context window toestaat?

Grenzen van het context window

Wanneer een document groter is dan het model aankan, moet de tekst worden opgesplitst of samengevat, anders “vergeet” de AI automatisch wat buiten het venster valt. Dit betekent dat zonder aanvullende maatregelen belangrijke details uit lange stukken verloren kunnen gaan in de analyse. Stel je hebt een memorandum van 50 pagina’s: een standaard model kan dat niet in één keer lezen. Het context window vormt dus een harde grens aan hoeveel een AI tegelijk kan lezen en begrijpen. Nieuwe generaties LLM’s vergroten deze capaciteit (sommige modellen hebben inmiddels 16k of zelfs 100k tokens context window), maar er blijft altijd een limiet. Juridische professionals moeten erop kunnen vertrouwen dat, ook bij lange documenten, niets belangrijks wordt gemist door de AI.

Legal Momo’s aanpak voor lange documenten

Legal Momo gaat slim om met contextlimieten. Onze AI-assistent herkent allereerst wanneer een document te groot is voor het context window. Vervolgens wordt de tekst automatisch opgedeeld in logische segmenten (bijvoorbeeld per hoofdstuk of per onderwerp). Elk segment analyseert het model afzonderlijk, zodat alle onderdelen aandacht krijgen. Daarna worden de deelanalyses gecombineerd: Legal Momo kan tussentijds samenvattingen of conclusies van eerdere segmenten meenemen naar de volgende, zodat de rode draad intact blijft. Daarnaast gebruiken we een geavanceerde tokenizer om teksten efficiënt te splitsen (zie ook onze blog over tokenization). Door deze aanpak behoudt Legal Momo het overzicht, zelfs bij zeer omvangrijke dossiers. Het resultaat is dat gebruikers gewoon een heel lang stuk kunnen invoeren, terwijl de AI toch binnen zijn context window blijft en niets belangrijks overslaat.

Conclusie

Het context window bepaalt de geheugenlimiet van AI voor tekstinvoer. Voor juridische toepassingen, waar documenten dikwijls honderden pagina’s beslaan, is dit een cruciale factor. Legal Momo ondervangt de beperkingen van het context window door documenten op te delen en stapsgewijs te verwerken. Zo gaat er geen detail verloren en kan de AI ook bij lange teksten een compleet en accuraat antwoord formuleren. Door slim om te gaan met zijn context window, levert Legal Momo betrouwbare analyses – of het nu gaat om een kort adviesmemo of een lijvig contract.

Wil je als eerste kennismaken met Legal Momo? Meld je dan aan voor onze demo.