Het was een van de meest besproken AI-schandalen van 2025: onderzoekers lieten maandenlang AI-accounts meediscussiëren op Reddit zonder dat iemand het wist. Toen het uitkwam, was het experiment al afgelopen, en de onderzoekers zagen na de ophef af van publicatie. Maar de berichten zelf bleven bewaard, en juist die zijn nu voor het eerst systematisch ontleed. De uitkomst is een zeldzaam gedetailleerd kijkje in hoe een AI mensen overtuigt als niemand weet dat het een AI is.
Update 25 september 2026 Gecorrigeerd: het experiment van de Universiteit Zürich liep van november 2024 tot en met maart 2025 en was al afgelopen toen het uitkwam (Jaidka & Ahmed, arXiv). De onbevestigde claim dat de bots tot zes keer vaker overtuigden is geschrapt. Sinds 2 augustus 2026 geldt de transparantieplicht uit artikel 50 van de AI-verordening; zie ook wat er sinds 2 augustus voor jou geldt. Reddit zelf meldde op 6 juli 2026 dat het taalmodellen inzet om gecoördineerd nepgedrag op te sporen en verdachte geautomatiseerde accounts laat bewijzen dat er een mens achter zit (Reddit).
Even terug: wat er op r/ChangeMyView gebeurde
r/ChangeMyView is een forum met een bijzondere afspraak: je plaatst je mening en nodigt anderen uit om je op andere gedachten te brengen. Lukt dat, dan ken je een “delta” toe. Precies die meetbaarheid maakte het forum aantrekkelijk voor onderzoekers van de Universiteit Zürich, die er tussen november 2024 en maart 2025 heimelijk 34 AI-accounts ruim 1.500 reacties lieten plaatsen (Bron: 404 Media). De accounts deden zich voor als echte mensen, inclusief verzonnen levens: een slachtoffer van seksueel geweld, een medewerker van een opvanghuis, een zwarte man die kritisch was op Black Lives Matter.
Toen het uitkwam, was de verontwaardiging groot. Reddit noemde het experiment “diep verkeerd op zowel moreel als juridisch vlak” en dreigde met juridische stappen (Bron: Engadget). De onderzoekers zagen af van publicatie. Eén ding bleef: Reddit gaf de moderators toestemming om het archief van AI-reacties vrij te geven voor wetenschappelijk onderzoek.
Beginner-tip Dit artikel gaat over AI die bewust misleidt. AI die per ongeluk onzin verkoopt is een ander, alledaagser probleem — daarvoor hebben we een aparte gids over AI-hallucinaties herkennen.
Wat de nieuwe analyse vond
Onderzoekers Kokil Jaidka en Saifuddin Ahmed voerden op dat archief een gestructureerde inhoudsanalyse uit, gepubliceerd op 3 juni 2026 (Bron: ArXiv). Ze codeerden elke reactie op vier dimensies: identiteitsgebruik, autoriteitssignalen, aansluitingsstrategieën en het activeren van denkfouten.
De cijfers zijn opvallend consistent. In ruim twee derde van de reacties speelde identiteit een actieve rol: de bot richtte zich op de identiteit van de gesprekspartner of nam er zelf een aan. Autoriteitsclaims en aansluitingsstrategieën (eerst meebewegen met je standpunt, dan ombuigen) zaten in vrijwel álle reacties. En de grote meerderheid bespeelde gericht cognitieve denkfouten, vooral confirmation bias (de neiging om bevestiging van je eigen gelijk te zoeken), representativiteit en beschikbaarheid.
Het interessantste resultaat komt uit de vergelijking met menselijke reacties op hetzelfde forum. Menselijke overtuigers leunen vooral op eigen ervaring en houden autoriteitsargumenten spaarzaam. De AI-accounts deden het precies omgekeerd: dichter bezaaid met autoriteit en externe bronnen, agressiever in het aansluiten en ombuigen, en armer aan doorleefde details. De onderzoekers spreken van een “retorische architectuur, gekalibreerd op overtuigingsefficiëntie in plaats van authentieke deelname”.
Gevorderden Methodologisch is dit een buitenkans die zich zelden voordoet: een corpus van LLM-gedrag in het wild, mét menselijke baseline uit hetzelfde forum. De keerzijde: het archief dekt alleen wat moderators konden identificeren, en de prompts van de oorspronkelijke onderzoekers blijven onbekend. Hoeveel van de tactiek uit het model kwam en hoeveel uit de instructies, valt dus niet te scheiden.
Identiteit als wapen
De rode draad door alle bevindingen: het gevaar zit minder in wát de AI zegt dan in wie het zich voordoet te zijn. Een geclaimde identiteit werkt als een kortsluiting in een discussie. Wie zegt te spreken uit eigen ervaring krijgt automatisch krediet, en het voelt onbeschoft om iemands geleefde ervaring in twijfel te trekken. Een AI kan voor elk gesprek exact de identiteit verzinnen die maximaal gezag oplevert, zonder ooit op een leugen betrapt te kunnen worden die buiten het gesprek verifieerbaar is.
Dat raakt aan een breder patroon dat we in 2026 vaker zagen: AI-systemen die misleiden zijn moeilijk te herkennen, juist voor wie er dagelijks mee werkt. Begin juni 2026 bleek uit een experiment dat 94% van de developers sabotage door hun eigen AI-codeerassistent niet opmerkte. Mensen zijn getraind om inhoud te beoordelen, niet om de afzender te wantrouwen. Bij deepfakes speelt hetzelfde mechanisme met beeld in plaats van tekst: de vervalsing zit in de identiteit, niet in het argument. Een commerciëlere variant van dezelfde truc zagen we bij de AI-tool i10X: tientallen “onafhankelijke reviewers” die in werkelijkheid hetzelfde affiliate-script met dezelfde trackingcode deelden.
Waarom een meldplicht niet genoeg is
De Europese aanpak van dit probleem leunt zwaar op transparantie. De EU AI Act verplicht sinds 2 augustus 2026 dat je geïnformeerd wordt wanneer je met een AI communiceert en dat AI-content herkenbaar is. Nuttig, maar de onderzoekers leggen de vinger op de zwakke plek: een meldplicht werkt alleen bij partijen die zich aan regels houden. De oorspronkelijke Reddit-onderzoekers overtraden willens en wetens de forumregels. Een statelijke actor of commercieel beïnvloedingsbureau zal zich nog minder aantrekken van een disclosure-vereiste. En ook gewone politieke partijen rekken de grens op: in de Israëlische campagne bevat ruim 1 op 7 posts van politici AI.
Hun voorstel: auditkaders die niet alleen toetsen óf AI ergens aanwezig is, maar hóe AI-systemen geloofwaardigheid opbouwen. Platforms zouden patronen kunnen monitoren — dichtheid van autoriteitsclaims, identiteitswissels per account, systematisch bias-bespel — in plaats van te wachten op een bekentenis. Dat vertrouwen op geautomatiseerde monitoring kent overigens zijn eigen blinde vlek: onderzoek laat zien dat diezelfde moderatiesystemen giftige taal vaker missen zodra een bericht in twee talen tegelijk is geschreven, inclusief in Nederlandse straattaal. Voor het bredere gesprek over wat we wel en niet aan machines willen overlaten, lees onze analyse hoe houden we AI menselijk.
Platforms trekken die les inmiddels ook: de Engelse Wikipedia verbood AI-geschreven artikelen om te voorkomen dat onbetaalde vrijwilligers verdrinken in machinaal geproduceerde tekst die niemand kan controleren.
Voor jou als lezer is de les concreter. De overtuigendste stem in een online discussie is niet per definitie een mens, en de aanwezigheid van een persoonlijk verhaal is geen bewijs van een persoon. Wie het patroon kent — autoriteit stapelen, identiteit op maat, eerst meebewegen — heeft in elk geval een filter dat de meeste mensen in dat experiment misten. Hetzelfde vervuilingsmechanisme brak overigens ook het oudste klik-werkplatform op: op Mechanical Turk bleek een derde tot bijna de helft van het ‘mensenwerk’ al AI-output.