AI-chatbots verzinnen bronnen, en die verzonnen bronnen belanden steeds vaker in gepubliceerd wetenschappelijk werk. Een audit van 2,5 miljoen papers schat dat er in 2025 alleen al zo’n 146.900 niet-bestaande citaties in stonden. Dat raakt iedereen die op onderzoek vertrouwt, van arts tot journalist. Hoe diep die gokreflex zit, zag Cohere Labs in een cultuurtest met raadsels: modellen kozen daar in 0,7 procent van de gevallen voor ‘weet ik niet’, ook al mocht dat.
Update 25 september 2026 De cijfers in dit stuk komen uit twee verschillende audits; dat is nu uit elkaar gehaald. De 146.900 komt uit het onderzoek van Zhao e.a. (arXiv, 8 mei 2026), de reeks 1 op 2.828 tot 1 op 277 uit de biomedische Lancet-audit (7 mei 2026). Het voorbeeld met Vermeulen en Van Dijk is nu duidelijk als verzonnen gemarkeerd. Nieuw: onderzoekers van Microsoft vonden in juli 2026 dat ongeveer 1 op 20 papers van NeurIPS en USENIX Security minstens twee waarschijnlijk verzonnen referenties bevat (arXiv).
De cijfers die de wetenschap moet erkennen
Een audit van 2,5 miljoen papers op arXiv, bioRxiv, SSRN en PubMed Central, samen goed voor 111 miljoen referenties, komt tot een voorzichtige schatting van 146.932 verzonnen citaties in 2025 alleen (Bron: Zhao e.a., arXiv). Een tweede, biomedische audit in The Lancet laat zien hoe steil de curve loopt (Bron: Retraction Watch):
- 2023: 1 op 2.828 papers bevatte een verzonnen referentie
- 2025: 1 op 458 papers (zesvoudige toename in twee jaar)
- Begin 2026 (eerste zeven weken): 1 op 277 papers
Dat is geen randverschijnsel. Dat is een structurele kwaliteitsdaling in de wetenschappelijke literatuur binnen een tijdsbestek van drie jaar. En het gaat niet alleen om obscure tijdschriften. Ook buiten de wetenschap gebeurt het — op ons eigen platform zette een hallucinatie onjuiste feiten in profielen van echte mensen.
Beginner-tip Heb je geen wetenschappelijke achtergrond? Geen probleem — dit raakt ook journalistiek, juridisch werk, beleidsanalyse en elk vak waar je op bronnen leunt die je niet zelf gecontroleerd hebt. Lees onze bredere gids over AI-hallucinaties herkennen voor de algemene principes; dit stuk gaat over hoe het in onderzoekswerk concreet zit.
Dezelfde verzonnen bronnen duiken inmiddels ook op in afstudeerwerk: een hogeschool controleerde een hele lichting na AI-fraude bij het afstuderen. Voor studenten die zich afvragen wat dan nog wél mag, zetten we de regels op een rij in mag je AI gebruiken voor je scriptie.
NeurIPS, ICLR en de top-tijdschriften
Het probleem is niet beperkt tot tweederangs-publicaties. Twee opmerkelijke vondsten van het detectiebedrijf GPTZero, uit december 2025 en januari 2026:
NeurIPS 2025 (een van de prestigieuze AI-conferenties wereldwijd) had ruim 50 papers met verzonnen citaties: ongeveer 1% van de 4.841 geaccepteerde papers. GPTZero vond daarin 100 verzonnen citaten die door de peer review gleden (Bron: GPTZero).
ICLR 2026 (vergelijkbaar topniveau): van 300 gescande inzendingen hadden er 50 minstens één duidelijke hallucinatie. Elk daarvan was al door 3 tot 5 reviewers beoordeeld, die het allemaal misten (Bron: GPTZero).
Met andere woorden: drie tot vijf experts per paper, topconferentie, en de fake citaten kwamen er gewoon doorheen. Dit is geen kwestie van onverschilligheid of slechte review; het is een teken dat het onderscheid tussen echte en AI-gegenereerde citaten visueel moeilijk is geworden.
Hoe een hallucinated citaat eruitziet
Een verzonnen voorbeeld om concreet te maken wat de uitdaging is. Een paper kan beweren:
“Recent work suggests that LLM-generated text contains 12% more hedging phrases than human-written text (Vermeulen & van Dijk, 2024).”
Stel dat er echt onderzoekers Vermeulen en Van Dijk bestaan die in dit domein publiceren. De vorm van de citatie klopt. Het tijdschrift heet plausibel. Maar het artikel zelf bestaat niet — of het bestaat wel, maar zegt iets heel anders, of het bestaat in een ander jaar.
Drie soorten hallucinaties zien we het meest:
- Volledig verzonnen — auteurs, titel en publicatie bestaan geen van drie
- Hybride — echte auteurs, verzonnen titel
- Mis-attribuut — bestaande artikel met verkeerde claim erbij geplakt
Voor wie even verder kijkt is dit detecteerbaar (Google Scholar, CrossRef-search). Voor wie scant en doorgaat, niet.
Dezelfde dynamiek speelt buiten de wetenschap. Toen Googles AI-zoekoverzicht twee bedrijven ten onrechte aan oplichting koppelde, oordeelde een Duitse rechter dat Google daar zelf aansprakelijk voor is. Ook luchtiger: gevraagd om een WK-winnaar verzonnen sommige chatbots er een verkeerde finalelocatie bij, zoals we beschrijven in kan AI het WK voorspellen?
The Lancet-studie en de medische component
Op 7 mei 2026 publiceerde The Lancet een audit van onderzoekers onder leiding van Maxim Topaz (Columbia University) die de versnelling in biomedische literatuur kwantificeerde (Bron: STAT News). Ze controleerden 97 miljoen referenties in ongeveer 2,5 miljoen papers uit de open-accessdatabase PubMed Central en vonden 4.046 verzonnen referenties in 2.810 papers (Bron: Retraction Watch). De zorg in deze sector is bijzonder omdat:
- Medische claims worden vaak overgenomen in klinische richtlijnen
- Klinische richtlijnen beïnvloeden directe patiëntenzorg
- Een hallucinated citaat over een “trial” die niet bestaat kan medische beslissingen kleuren
Voor verloskundigen, artsen, apothekers en klinisch onderzoekers betekent dit dat citatie-verificatie nu professionele standaard moet zijn, niet langer optionele zorgvuldigheid. Voor wie het bredere context wil over hoe AI in de zorg landt: onze stuk over Microsoft Copilot for Health raakt vergelijkbare governance-vragen. In hetzelfde tijdschrift verscheen in oktober 2026 een studie naar een diagnose-chatbot van Google, met een arts die elk gesprek live controleerde.
De distributie verbaast
De hallucinaties verspreiden zich niet random (Bron: Zhao e.a., arXiv):
- Disproportioneel toegeschreven aan prominente onderzoekers — AI-modellen kennen de namen van veel-geciteerde mensen en gebruiken die
- Disproportioneel mannelijk — weerspiegelt waarschijnlijk de scheve verdeling in trainings-data
- Meest bij kleine teams en beginnende onderzoekers, en in vakgebieden die AI snel omarmden
Dat laatste punt heeft een opmerkelijke implicatie: hallucinaties zijn niet altijd opzettelijke fraude. Veel auteurs schrijven met AI-hulp en checken niet elke bron. Dat is geen ontschuldiging, maar wel context: het probleem zit deels in een tool-gebruik-discipline-vacuüm, niet alleen in slechte intenties.
Gevorderden De interessante onderzoeksvraag onder dit alles is hoe compounding werkt in citatie-netwerken. Een hallucinated citaat in paper A wordt overgenomen door paper B (die het origineel niet checkt), en die wordt op zijn beurt geciteerd in paper C. Tegen de tijd dat onderzoekers achter de oorspronkelijke fout komen, is de fictionele claim al onderdeel geworden van het wetenschappelijke discours. Dit is precies hoe verkeerde feiten in eerdere decennia ook zich verspreidden — alleen nu in versnelde vorm. De analyse over onze eigen omgang met informatiebronnen raakt deze laag.
Wat dit voor Nederlandse organisaties betekent
Drie groepen worden direct geraakt.
Onderzoekers en academici. Verifieer elke citaat in jouw eigen werk voor publicatie. Tools zoals Zotero met CrossRef-koppeling, of een specifieke AI-citaat-verifier zoals GPTZero. Reken op een halve dag per paper extra werk; het is dat waard.
Journalisten en redacties. Als je een wetenschappelijk artikel citeert voor je publiek, check niet alleen het artikel zelf maar ook drie of vier van zijn key-citaties. Een onderzoek dat leunt op hallucinated bronnen is fundamenteel ongeloofwaardig.
Beleidsmakers en juristen. Klinische richtlijnen, beleidsadviezen, juridische memoranda — overal waar onderzoek geciteerd wordt om beleid te onderbouwen, hoort dezelfde verificatie-discipline. De governance-stappen onder de EU AI Act raken dit niet direct, maar de bredere zorg over AI-output-betrouwbaarheid is hetzelfde.
Dezelfde fout in een rechtszaal kost geld: een advocaat in New Mexico werd beboet omdat hij ChatGPT-getuigen niet controleerde.
Voor wie het breder wil kaderen: dit is de andere kant van Karpathy’s LLM Wiki-aanpak. De Wiki schrijft alleen vanuit bronnen die jij hebt aangedragen — een gedisciplineerde versie. Maar als je AI gebruikt zonder die discipline, krijg je dezelfde hallucinaties die nu in academic literature opduiken.
Hoe je vandaag een check-routine opzet
Stap 1. Bij elk paper of essay dat je publiceert: pak de drie meest impactvolle citaten en klik door. Bestaat het artikel? Klopt de claim?
Stap 2. Voor de overige citaten: een snelle CrossRef-check (gratis API, ook beschikbaar via Zotero). Geen hit = onderzoek doen.
Stap 3. Als je AI gebruikt bij het schrijven of samenvatten: laat AI nooit citaties genereren. Laat AI tekst genereren rond citaten die jij zelf hebt geverifieerd. Dat klinkt rigide maar is in 2026 de enige veilige route.