Het bekendste bezwaar tegen AI, en terecht. Maar het is een bekend probleem met bekende oplossingen.
Een AI-hallucinatie is een antwoord dat vloeiend en zelfverzekerd klinkt maar feitelijk onjuist is: een verzonnen bron, een niet-bestaande functie, een prijs die nergens vandaan komt. Het ontstaat doordat een taalmodel het waarschijnlijkste vervolg genereert in plaats van iets op te zoeken.
IN GEWONE TAAL
Waarom het gebeurt
Een taalmodel raadpleegt geen database. Het voorspelt woord voor woord wat logisch volgt op basis van patronen. Als de kennis ontbreekt, produceert het toch een vloeiend antwoord — want vloeiend zijn is precies waarop het getraind is.
Er zit geen ingebouwd verschil tussen zeker weten en aannemelijk vinden. Beide komen er even overtuigend uit, en dat is wat het gevaarlijk maakt in een zakelijke context.
Het is dus geen storing die met een update verdwijnt. Het is inherent aan hoe deze modellen werken, en je gaat het te lijf met de opzet eromheen.
WAAROM HET UITMAAKT
Hoe wij het tegengaan
De belangrijkste maatregel is de agent laten antwoorden uit jouw documenten in plaats van uit algemene kennis. Dan is er iets om naar te verwijzen, en is een antwoord controleerbaar.
Daarnaast leren we de agent expliciet dat "dat weet ik niet, ik verbind je door" een goed antwoord is. Klinkt vanzelfsprekend, maar zonder die instructie kiest een model altijd voor een antwoord.
- Antwoorden uit eigen bronnen — de belangrijkste maatregel.
- Bron tonen — een antwoord zonder herkomst is niet controleerbaar.
- Niet-weten toestaan — expliciet instrueren, anders gokt het model.
- Menselijke goedkeuring — bij alles met financiële of juridische gevolgen.
- Gesprekken bewaren — zodat je fouten terugvindt en kunt bijsturen.
- Meekijken bij de start — de eerste weken lees je gewoon mee.
VEELGESTELDE VRAGEN
Meer over een AI-hallucinatie
Kun je hallucinaties helemaal uitsluiten?
Nee, en iedereen die dat belooft, overdrijft. Je kunt de kans sterk verkleinen door te werken met eigen bronnen, en de schade beperken door menselijke goedkeuring bij handelingen die gevolgen hebben. Restrisico blijft, en daar hoor je een klant eerlijk over te informeren.
Is dit een reden om geen AI te gebruiken?
Voor sommige toepassingen ja. Bij juridisch of medisch advies wegen de gevolgen te zwaar. Bij het beantwoorden van veelgestelde klantvragen uit je eigen documentatie is het risico klein en het rendement groot. Het hangt af van wat er misgaat als het misgaat.
Hoe merk ik het als het gebeurt?
Door gesprekken te bewaren en de eerste weken mee te lezen. Daarna steekproefsgewijs, en met een meldknop voor gebruikers. Zonder logboek merk je het pas als een klant erover belt.
AI met grenzen?
Wij bouwen agents die doorverwijzen wanneer ze het niet zeker weten. Vertel welk proces je in gedachten hebt.