Een bekend risico van generatieve AI is de zogeheten hallucinatie: de AI verzint feiten of bronnen die niet kloppen, maar presenteert ze wel zelfverzekerd. In de juridische context kan zo’n hallucination erg gevaarlijk zijn – denk aan een AI die een niet-bestaande uitspraak aanhaalt of een wet verkeerd citeert. Hallucination AI verwijst naar dit fenomeen waarbij het model antwoorden geeft die wel grammaticaal correct en plausibel klinken, maar inhoudelijk onjuist of geheel uit de duim gezogen zijn.

Hoe ontstaan AI-hallucinaties?

AI-hallucinaties ontstaan meestal doordat het model koste wat kost een antwoord probeert te formuleren. Zelfs als het eigenlijk onvoldoende gegevens of context heeft. In plaats van “geen antwoord” te geven, vult het model de gaten op met wat lijkt te passen. Bij algemene chatbots zie je dit als ze bijvoorbeeld fictieve referenties geven of feiten verdraaien zonder bron. Bij een juridisch model als Legal Momo wil je dit natuurlijk voorkomen. Oorzaken kunnen zijn: een te klein context window (waardoor relevante info wegviel), gebrek aan specifieke trainingsdata over het onderwerp, of simpelweg de neiging van het model om coherent door te praten ook als het zekerheidsniveau laag is. Het resultaat is echter misleidend: voor een niet-deskundige kan een hallucinatie lastig te herkennen zijn. Omdat de stijl en toon kloppen terwijl de inhoud fout is.

Voorkomen van hallucinaties in Legal Momo

Legal Momo is zo ontworpen dat hallucinaties zoveel mogelijk worden ingedamd. Ten eerste is het model gespecialiseerd getraind op juridische bronnen. Wat betekent dat het minder snel onzin verzint over wetgeving of rechtspraak – het heeft immers echte teksten paraat. Ten tweede verwijst Legal Momo in antwoorden altijd naar bronnen (bijv. wetsartikelen of ECLI-nummers van uitspraken). Als een bronvermelding ontbreekt, is dat voor de gebruiker een sein om op te letten.

Bovendien leert het systeem van feedback: als een jurist aangeeft “dit klopt niet”, wordt dat meegenomen om toekomstige fouten te vermijden (reinforcement learning met menselijke feedback). Uniek aan Legal Momo is ook de ensemble-aanpak: twee AI-advocaten en een AI-rechter controleren als het ware elkaars werk. Dit meerlagen-systeem filtert veel hallucinaties eruit. Bijvoorbeeld, als één AI-advocaat een verkeerd argument “verzint”, zal de andere dat kunnen tegenspreken en de AI-rechter zal doorvragen bij onduidelijkheden. Pas als informatie standhoudt bij deze interne check, komt het in het eindantwoord. Deze aanpak, in combinatie met voortdurende broncontrole, zorgt ervoor dat Legal Momo’s output betrouwbaar blijft.

Conclusie: Hallucination AI

AI-hallucinaties herinneren ons eraan dat een AI soms overtuigend uit de bocht kan vliegen. Legal Momo adresseert dit probleem frontaal door zijn gespecialiseerde training, bronverwijzingen bij antwoorden en een uniek systeem van meerdere AI’s die elkaar corrigeren. Helemaal uitsluiten dat een AI nooit iets verkeerd heeft, kan niet. Maar Legal Momo maakt de kans op schadelijke verzinsels wel heel klein. Voor de juridische professional betekent dit gemoedsrust. De adviezen en informatie uit Legal Momo zijn niet zomaar gefantaseerd, maar zoveel mogelijk gestoeld op echte juridische bronnen en dubbel gecheckte redeneringen. Zo minimaliseert Legal Momo de risico’s van hallucination en kun jij vertrouwen op de output.

Wil je als eerste kennismaken met Legal Momo? Meld je dan aan voor onze demo.