AI-ethiek bij kinderfoto's: onze drie harde grenzen

Een AI-model dat binnen enkele seconden een illustratie van een kind maakt, roept vragen op die verder gaan dan privacy alleen. Toestemming, imitatie van echte mensen en het uitbuiten van kwetsbare gebruikers zijn drie aparte ethische categorieën, en kinderen vallen in wetgeving steeds vaker onder een eigen, strenger regime. De EU AI Act (Verordening (EU) 2024/1689) verbiedt in artikel 5 expliciet AI-systemen die de kwetsbaarheid van een specifieke groep - waaronder kinderen - uitbuiten om hun gedrag te beïnvloeden op een manier die schade toebrengt. UNICEF publiceerde in 2021 een aparte beleidsrichtlijn voor AI en kinderen, met als kernpunt dat kinderen niet de “kleine volwassenen” van AI-ontwerp zijn: hun rechten, kwetsbaarheden en ontwikkelingsfase vragen om eigen afwegingen, los van wat voor volwassenen als voldoende bescherming geldt.

Voor een dienst die illustraties maakt op basis van een geüploade foto van een kind is dat geen abstracte discussie. Bij MijnEigenBoekje trekken we drie harde grenzen die los staan van wat er technisch mogelijk zou zijn.

Grens 1: geen foto zonder toestemming van de ouder

De eerste grens is de meest voor de hand liggende, en tegelijk de moeilijkste om technisch af te dwingen: alleen de ouder of verzorger van het kind mag de foto uploaden, en dat gebeurt met een expliciete bevestiging bij het uploadmoment. Een systeem kan onmogelijk met zekerheid vaststellen wie er precies op een foto staat of wie die persoon is voor de uploader. Wat wel kan: geen enkele foto wordt permanent bewaard, gedeeld tussen accounts, of hergebruikt voor een ander boek dan waarvoor hij is geüpload. Zodra de illustraties zijn gegenereerd en goedgekeurd, verdwijnt de foto automatisch van de servers.

Dat is een bewuste keuze: toestemming kun je niet verifiëren, maar je kunt wel het risico van misbruik na de upload zo klein mogelijk maken. Meer over de technische kant van die belofte lees je in ons artikel over wat er precies met een geüploade foto gebeurt.

Grens 2: geen imitatie van echte, herkenbare personen

De tweede grens ligt dichter bij de techniek zelf. Het systeem is niet ontworpen om een specifieke, bij naam genoemde bekende persoon na te bootsen, en ook niet om een ander kind dan het geüploade te genereren op basis van een tekstbeschrijving. Dat is dezelfde onderliggende logica als de reden waarom we in onze eigen stijlopties nooit de naam van een specifieke illustrator of studio gebruiken: safety-classifiers van modellen zoals gpt-image-2 reageren scherp op de combinatie van een naam en een kindcontext, en terecht. Een systeem dat leert “wees voorzichtig met naam plus kind” is precies het soort grens die je wil bij content die met en over kinderen gaat.

Edwin, de data-engineer achter de pipeline: “We hebben er bewust voor gekozen om stijlen te beschrijven in plaats van te benoemen. Dat is niet alleen een technische omweg om afwijzingen te voorkomen, het is ook inhoudelijk de juiste keuze: je wilt geen systeem bouwen dat het makkelijk maakt om het gezicht van een kind te koppelen aan het werk of de identiteit van een specifieke, echte derde partij.”

Grens 3: geen uitbuitingspatronen

De derde grens gaat over het ontwerp van de dienst zelf, niet over de illustratie. Geen advertenties die rechtstreeks op kinderen zijn gericht, geen kunstmatige tijdsdruk of nep-schaarste in de bestelflow, en geen profilering van kinderen voor advertentiedoeleinden. De persoon die het formulier invult en betaalt is de ouder, en de dienst is daar ook op ingericht: het kind is onderwerp van het boek, nooit doelgroep van marketing.

Dat klinkt vanzelfsprekend, maar de EU AI Act noemt dit soort “dark patterns” richting kwetsbare groepen expliciet als het type manipulatie dat de wetgeving wil voorkomen. Voor een dienst die zich rechtstreeks op gezinnen met jonge kinderen richt, is het geen overbodige luxe om die grens hardop te benoemen in plaats van hem stilzwijgend te veronderstellen.

Wanneer dit niet genoeg zekerheid geeft

Voor sommige ouders is elke garantie onvoldoende: zij willen principieel geen foto van hun kind aan een AI-systeem toevertrouwen, hoe de waarborgen ook zijn ingericht. Dat is een legitiem standpunt, geen wantrouwen dat weerlegd hoeft te worden. Voor die situatie is een boek dat personaliseert via een beschrijving in plaats van een foto-upload - zoals Wonderbly doet met naam, haarkleur en huidtint - de eerlijkere keuze. Ons eigen vergelijk tussen Wonderbly en MijnEigenBoekje zet dat verschil naast elkaar.

Edwin’s kant van het verhaal

Edwin bouwt de pipeline en is zelf vader van twee kinderen. “Als data-engineer kan ik uitleggen hoe de verwijdering en de anonimisering technisch werken. Als vader vraag ik mezelf een simpeler ding af: zou ik zelf een foto van mijn kinderen uploaden bij een dienst die ik niet zelf gebouwd had? Die vraag houdt me scherper dan een compliance-checklist. Karakterconsistentie over alle pagina’s - hoe we ervoor zorgen dat het gezicht van je kind herkenbaar blijft van de eerste tot de laatste pagina - beschrijven we trouwens in een apart artikel over die technische kant.”

Ethiek bij AI en kinderen is geen vakje dat je afvinkt en dan is opgelost. Het is een doorlopende afweging tussen wat technisch kan, wat wettelijk moet en wat je als ouder zelf zou willen voor je eigen kind. Die laatste toets is uiteindelijk de strengste van de drie.

👉 Bekijk hoe een gepersonaliseerd kinderboek van MijnEigenBoekje werkt