Beperk wat het model zelf moet raden

Hoe meer ontbrekende context een model zelf moet invullen, hoe groter de kans op plausibel klinkende maar foutieve output. Een goede workflow levert daarom expliciete brondata, duidelijke grenzen en een concrete taak. Laat het model niet uitvinden welke klant, order of policy bedoeld wordt wanneer die informatie deterministisch kan worden opgehaald.

Een nuttig uitgangspunt is dat het model zo weinig mogelijk feiten zelf hoeft te verzinnen. Klantgegevens, contractstatus, productprijzen en interne policies kunnen beter rechtstreeks uit de bron worden opgehaald en als context worden meegegeven. Het model mag die informatie vervolgens samenvatten of interpreteren, maar hoeft niet te raden welke record of regel van toepassing is.

Structureer de output voordat ze andere systemen raakt

Vrije tekst is moeilijk betrouwbaar te valideren. Voor classificatie, extractie en systeemacties gebruiken we liever gestructureerde output met een beperkt schema. Daarna controleert klassieke software of verplichte velden aanwezig zijn, waarden geldig zijn en de output binnen de toegelaten opties valt voordat een volgende stap uitgevoerd wordt.

Daarnaast helpt het om expliciet een “onvoldoende informatie”-pad te ontwerpen. Wanneer context ontbreekt of bronnen elkaar tegenspreken, is escaleren vaak de juiste uitkomst. Dat voelt minder spectaculair dan een model dat altijd antwoordt, maar is in productie veel waardevoller. Onzekerheid zichtbaar maken is een eigenschap van een goed systeem, geen tekortkoming.

Een goede AI-flow weet wanneer hij moet stoppen

Niet elke input heeft voldoende context voor een betrouwbaar antwoord. De workflow moet daarom expliciet een onzeker of onvolledig resultaat kunnen teruggeven en escaleren naar een mens. Dat is vaak professioneler dan het model te dwingen altijd een antwoord te produceren, zeker wanneer de output financiële, operationele of klantgerichte gevolgen heeft.

Test hallucinaties met echte foutgevallen en niet alleen met nette demo-input. Geef onvolledige documenten, tegenstrijdige waarden, ongebruikelijke formuleringen en irrelevante context. Meet vervolgens hoeveel fouten worden opgevangen door retrieval, schema-validatie en menselijke checkpoints. Zo ontdek je waar de architectuur moet verbeteren voordat de workflow zelfstandig belangrijke acties mag uitvoeren.