Verzint AI feiten in het verhaal van je kind? | MijnEigenBoekje
“Papa, weten vissen echt hoe laat het is?” Onze dochter had net een AI-gegenereerd verhaaltje gehoord waarin een goudvis precies uitlegde hoe laat het avondeten begon. Grappig bedoeld, verder onschuldig. Maar het zette Edwin, data engineer bij MijnEigenBoekje, aan het denken over een minder onschuldig scenario: wat als een AI-verhaal een detail verzint dat wél als een feit klinkt, en je kind gelooft het gewoon?
Wat ‘hallucineren’ precies betekent bij een taalmodel
Een taalmodel als het model achter een AI-verhaal voorspelt, heel simpel gezegd, telkens het meest waarschijnlijke volgende woord op basis van patronen in enorme hoeveelheden tekst. Het raadpleegt geen feitendatabase en heeft geen ingebouwd “dit klopt niet”-alarm. Daardoor kan het model een verzonnen detail met precies dezelfde zelfverzekerde toon presenteren als een correct feit.
Dit heet in de AI-literatuur “hallucinatie”, en het is geen incidentele bug maar een structurele eigenschap van hoe deze modellen tekst genereren. Een uitgebreid overzichtsartikel van Ji et al. (2023) in ACM Computing Surveys brengt tientallen studies samen die laten zien dat vrijwel elk taalmodel, van klein tot zeer groot, in meer of mindere mate feitelijk onjuiste beweringen produceert, juist ook in vloeiende, overtuigend klinkende tekst.
Waarom dit bij kinderen zwaarder weegt dan bij volwassenen
Een volwassene die een AI-tekst leest, heeft doorgaans een ingebouwde reflex om twijfelachtige beweringen te checken. Jonge kinderen hebben die reflex nog nauwelijks. Ontwikkelingspsycholoog Vikram Jaswal onderzocht in een studie in Cognitive Psychology (2010) hoe sterk peuters en kleuters vertrouwen op wat een volwassene hun vertelt, zelfs wanneer dat ingaat tegen wat ze met hun eigen ogen zien. Kinderen bleken keer op keer de mondelinge uitleg te geloven boven hun eigen waarneming.
Die bevinding vertaalt zich rechtstreeks naar voorlezen. Een kind van vier heeft niet de kritische afstand om een terloops verzonnen “feit” in een verhaal te herkennen als onwaar. Als een AI-verhaal met dezelfde vanzelfsprekende toon vertelt dat een verhaaldetail klopt of dat een dier een bepaalde eigenschap heeft, is de kans groot dat een jong kind dat gewoon aanneemt.
Hoe de AI-industrie dit probeert te beperken
Ontwikkelaars van taalmodellen werken met een aantal bekende technieken om hallucinatie terug te dringen. Retrieval-augmented generation koppelt een model aan een geverifieerde bron in plaats van het volledig op eigen “geheugen” te laten vertrouwen. Strengere systeeminstructies beperken waar een model wel en niet over mag beweren. Een lagere “temperature”-instelling maakt de output voorspelbaarder en minder geneigd tot creatieve, maar onjuiste, invullingen. Menselijke review blijft daarnaast de meest betrouwbare laag, al is die niet schaalbaar voor elk los gegenereerd verhaal.
Geen van deze technieken brengt het risico naar nul. Ze verkleinen de kans, ze elimineren die niet. In onze eigen uitleg van hoe het maakproces in elkaar zit lees je welke controlestappen we naast de tekstgeneratie zelf hebben ingebouwd.
Waar dit niet perfect oplosbaar is
Eerlijk gezegd: voor content waarbij feitelijke precisie het hele punt is, is een AI-gegenereerd verhaal niet de juiste tool, van ons of van wie dan ook. Wil je je kind exact uitleggen hoe een specifieke medische ingreep werkt, hoe fotosynthese in elkaar zit, of een precies historisch feit meegeven, kies dan een non-fictieboek van een redactie die daadwerkelijk feiten controleert. Uitgeverijen als Gottmer en Lannoo brengen fact-checked non-fictiereeksen voor kinderen uit, met een redactieproces dat een AI-model per definitie niet heeft.
Ook voor kinderen die heel letterlijk denken en moeite hebben met het onderscheid tussen fictie en feit, is extra oplettendheid op zijn plek. Een enkel vreemd detail in een verzonnen avontuur is voor de meeste kinderen onschuldig, maar niet voor ieder kind even makkelijk te plaatsen.
Hoe wij dit in onze eigen verhaalpipeline aanpakken
Edwin: “We houden het model bewust binnen de lijnen van fictie. Het systeemprompt verbiedt expliciet historische personen, natuurkundige of biologische ‘feiten’ als vaststaand gegeven, en elke bewering die als objectieve waarheid gelezen kan worden. Het verhaal mag fantastisch zijn - een pratende vis, een vliegende fiets - zolang dat overduidelijk fictie is en niet als kennis wordt gepresenteerd.”
Als vader ziet hij het verschil ook thuis terug. “Als mijn dochter vraagt of een vliegende fiets echt bestaat, weet ze het antwoord eigenlijk al - het voelt duidelijk als verzinsel. Dat is precies waarom we het verhaal bewust in die fictieve laag houden. Zodra een ‘feit’ zich voordoet als kennis in plaats van fantasie, verdwijnt dat onderscheid voor een kind van vier of vijf.” Onze uitleg van de volledige gpt-image-2-pipeline laat zien hoe diezelfde zorgvuldigheid terugkomt in de manier waarop de illustraties tot stand komen.
Het fictieve kader als bescherming
De sterkste bescherming tegen hallucinatie in een kinderverhaal is niet een technisch trucje achteraf, maar een bewuste keuze vooraf: houd het verhaal overduidelijk fictie, en laat het nooit doen alsof het feiten leert. Dat lost het onderliggende probleem van taalmodellen niet op, maar het zorgt er wel voor dat een verzonnen detail nooit als kennis bij je kind landt. Wie precies wil weten hoe wij met de geüploade foto van een kind omgaan, leest dat in onze uitleg over wat er met een foto van je kind gebeurt in de AI-pipeline.