AI-hallucinaties: waarom taalmodellen dingen verzinnen en wie aansprakelijk is

Waarom verzinnen taalmodellen dingen?

Een taalmodel is getraind om het meest waarschijnlijke volgende woord te voorspellen. Het heeft geen database met feiten die het raadpleegt, en het weet niet wanneer het iets niet weet. Vraagt u om een bron, dan produceert het iets dat eruitziet als een bron.

Hallucinaties komen vaker voor bij:

• specifieke feiten: namen, data, bedragen, artikelnummers, uitspraken;
• onderwerpen die weinig in de trainingsdata voorkwamen, zoals lokale regelgeving;
• vragen naar bronnen of citaten;
• lange antwoorden, waarin fouten minder opvallen.

Wat het in de praktijk kostte

Het bekendste voorbeeld is Mata v. Avianca (2023). Advocaten in New York dienden een processtuk in met jurisprudentie die ChatGPT had verzonnen. De rechter legde in juni 2023 sancties op en droeg hen op elke rechter te informeren die ten onrechte als auteur van een niet-bestaande uitspraak was genoemd.

Ook in Nederland raakte het de rechtspraak. In 2024 gebruikte een kantonrechter in Gelderland ChatGPT als bron bij een schatting in een burenzaak over zonnepanelen. De rechtbank benadrukte dat het geen rol speelde in de uitkomst, maar het leidde tot brede discussie over de vraag of dat verantwoord was.

Voor organisaties is het risico minder zichtbaar maar vergelijkbaar: een verkeerd bedrag in een offerte, een niet-bestaande clausule in een advies, een verkeerde dosering in een patiëntbrief.

Wie is aansprakelijk?

Degene die de uitvoer gebruikt. Een advocaat blijft verantwoordelijk voor zijn processtuk, een arts voor zijn brief, een organisatie voor wat ze naar klanten stuurt. De voorwaarden van AI-leveranciers sluiten aansprakelijkheid voor de juistheid van de uitvoer doorgaans uit.

Beroepsorganisaties zeggen hetzelfde. De advocatenorde in Nederland, de BRAK in Duitsland en de CNB in Frankrijk benadrukken allemaal dat de professional eindverantwoordelijk blijft. Zie AI in de advocatuur. En de Europese Commissie noemt het risico op hallucinaties expliciet als onderwerp voor AI-geletterdheid. Zie AI-geletterdheid.

Hoe u het risico beheerst

1. Laat het model werken vanuit eigen bronnen. Met RAG antwoordt het model op basis van uw documenten en noemt het de bron, zodat een medewerker het kan nalopen. Zie AI op uw eigen documenten.
2. Vraag geen feiten uit het geheugen van het model. Gebruik AI voor samenvatten, herschrijven en structureren van tekst die u zelf aanlevert.
3. Menselijke controle voor alles wat naar buiten gaat of waarop een beslissing rust, met extra aandacht voor namen, getallen en citaten.
4. Kies het model per taak. Voor precisiewerk een groter model; voor classificeren volstaat een kleiner.
5. Train medewerkers om hallucinaties te herkennen en te melden.

Met werqly draaien de modellen en de koppelingen met uw eigen documenten op een eigen node. Antwoorden verwijzen naar de bron uit uw organisatie, en de audit log legt vast welke bron bij welk antwoord hoorde. Zie Wat is private AI?