Een cliënt zit levenslang uit. Zijn advocaat vraagt ChatGPT om een samenvatting van het proces en legt die als hogerberoepsschrift voor aan het hooggerechtshof van New Mexico. Daarin staan getuigen die nooit hebben bestaan. Vorige week beboette dat hof hem met 5.000 dollar, hield hem in contempt en haalde hem van de zaak af.
Wat er precies in dat schriftuur stond
De advocaat is Stephen Aarons, een strafpleiter uit Santa Fe. Hij behandelde het hoger beroep van Oscar Renee Sandoval, die vorig jaar tot levenslang werd veroordeeld voor de moord op de moeder van zijn kinderen. Aarons voerde een computergegenereerd transcript en ander dossiermateriaal in ChatGPT, in de veronderstelling dat er een “bulletproof summary” uit zou rollen. Zijn woorden, tijdens een zitting op 21 augustus.
Wat eruit rolde, bevatte volgens het hof “false testimony from wholly fabricated witnesses” — verklaringen van getuigen die het model zelf had bedacht. Het hof had hem in augustus al gevraagd te verklaren hoe het materiaal in zijn primaire schriftuur terecht was gekomen, waaronder de fictieve mededeling dat de schutter een donkere broek en een wit shirt droeg (Bron: Al Jazeera/Reuters).
Het hof rekende hem niet alleen de verzinsels aan, maar ook zijn houding: hij toonde “a lack of remorse and a lack of concern for his client”. Naast de boete gaat de zaak naar de tuchtcommissie voor advocaten. Aarons zelf zegt tegen Reuters dat hij spijt heeft en niet had begrepen in welke mate AI feiten kan verzinnen: “It is a lesson learned for all professionals who rely upon this powerful but sometimes unstable technology.”
Beginner-tipEen taalmodel is geen zoekmachine. Het voorspelt welke woorden logisch op elkaar volgen, en een verzonnen getuigenverklaring past taalkundig net zo goed als een echte. Waarom dat zo hardnekkig is, leggen we uit inWaarom AI zo zelfverzekerd onzin vertelt.
Eén detail uit de zitting verdient het om te blijven hangen. Rechter C. Shannon Bacon vroeg Aarons of hij het nieuws volgt: “Do you listen to the radio? Do you read anything about what’s going on in the world? Because the problem with lawyers relying on AI hallucinations is an above-the-fold story every single day.”
Dit is geen Amerikaans probleem
Dat laatste geldt ook hier. Op 27 juli publiceerde de Raad van Discipline in het ressort ‘s-Hertogenbosch een berisping voor een advocate die processtukken door een AI-tool had laten opstellen zonder de gegenereerde jurisprudentie te controleren. In twee huurdossiers haalde zij acht uitspraken aan: één ECLI-nummer bestond niet, de andere zeven verwezen naar totaal andere zaken, waaronder een echtscheidingsbeschikking en een strafzaak. De kantonrechter in Oost-Brabant gaf het signaal, de deken in Limburg diende het bezwaar in (Bron: Raad van Discipline).
Welke tool het was, is nooit vastgesteld. De advocate kon zelf niet achterhalen waarmee ze de stukken had gemaakt en noemde alleen LegalPA als het programma dat ze het laatst had gebruikt. Dit is dus geen ChatGPT-zaak; het is een controle-zaak.
De raad zag daarin een schending van twee kernwaarden van het beroep: deskundigheid en integriteit. Zwaar woog dat de advocate de uitspraken klakkeloos overnam en haar cliënten op zitting niet bijstond om vragen te beantwoorden. Zij kreeg een berisping en 1.250 euro proceskosten. Het verwijt dat zij haar geheimhoudingsplicht had geschonden werd ongegrond verklaard: er was geen bewijs dat cliëntgegevens in de tool waren ingevoerd.
Drie weken later ging de rechtbank Amsterdam een stap verder dan een vermaning. In een geschil over de verkoop van een bedrijf haalden gedaagden een citaat aan uit het DSM/Fox-arrest over contractsuitleg. Dat arrest bestaat; het citaat niet. De rechtbank noemde dat “kwalijk” omdat het zowel de tegenpartij als de rechtbank nodeloos tijd had gekost, en begrootte die kosten op een halve punt in de proceskostenveroordeling: 2.315,50 euro extra, bovenop een totaal van 26.100,85 euro (Bron: Mr. Online).
Eén nuance hoort daarbij, juist in een verhaal over ongecontroleerde claims: de advocaat in kwestie ontkende AI te hebben gebruikt, en de rechtbank liet in het midden waar het citaat vandaan kwam. Wat bestraft werd, is het verzonnen citaat zelf — niet aantoonbaar de tool erachter.
GevorderdenLet op het verschil in wie de rekening krijgt. De Bossche berisping raakt de advocaat persoonlijk via het tuchtrecht. De Amsterdamse proceskostenveroordeling landt bij de procespartij: de cliënt betaalt voor een fout in het stuk van zijn eigen raadsman, en moet die schade daarna zelf zien te verhalen.
Wat jij hiermee moet
De praktische les is oncomfortabel: de controle die hier ontbrak, kun je zelf grotendeels uitvoeren. Elke gepubliceerde Nederlandse uitspraak heeft een ECLI-nummer en staat gratis op uitspraken.rechtspraak.nl. Krijg je een processtuk of advies met verwijzingen, typ de nummers dan in. Duurt twee minuten. Vind je de uitspraak wel maar het citaat niet, dan is dat precies het Amsterdamse geval.
Dat geldt breder dan de advocatuur. Een boekhouder die een fiscale regeling citeert, een HR-adviseur die naar een CAO-artikel verwijst, een verzekeraar die een polisvoorwaarde aanhaalt: hetzelfde patroon, dezelfde controle. Dat AI-besluiten navolgbaar moeten zijn is inmiddels ook een juridische eis geworden, zoals we beschreven in AI nam een besluit over jou.
Er is een tweede laag. Aansprakelijkheid voor onjuiste AI-output is aan het schuiven, en niet alleen bij beroepsbeoefenaars. Een Duitse rechter hield Google eerder dit jaar aansprakelijk voor onjuiste AI Overviews, wat we uitzochten in Google aansprakelijk voor onjuiste AI Overviews. Wie de fout maakt, wie de tool bouwt en wie de rekening betaalt zijn in AI-zaken nog steeds drie verschillende vragen.
Beginner-tipVraag je dienstverlener niet óf hij AI gebruikt — bijna iedereen doet dat inmiddels. Vraag hoe hij de output controleert, en of hij jouw gegevens invoert. Dat tweede was in de Bossche zaak juist het punt waarop het verwijt niet stand hield, omdat niemand kon aantonen dat er cliëntgegevens in de tool waren gegaan.
De richting waarin dit beweegt
Tientallen advocaten zijn wereldwijd al gesanctioneerd voor processtukken met verzonnen citaten of verkeerd geciteerde wetgeving. Wat de zaak van Aarons apart zet, is dat het model niet alleen jurisprudentie verzon maar getuigenverklaringen in een strafzaak. Het hoger beroep van Sandoval loopt nog en is op 2 september toegewezen aan een pro-Deoadvocaat.
In Nederland zit de lijn in de sancties. Van een vermaning in een vonnis, via een berisping met 1.250 euro proceskosten, naar 2.315,50 euro die de wederpartij niet zelf hoeft te dragen. De Nederlandse dekens houden de gevallen sinds dit jaar bij: drie advocaten gewaarschuwd, twee naar een AI-cursus. Dat lijkt bescheiden, en dat is het ook — precies zoals het aantal rechtszaken bescheiden was in het jaar voordat de eerste AI-advocaat een zaak won.
Dat het ook anders kan, laat advocatenkantoor Cooley zien: het bouwde een eigen, gevalideerde ChatGPT-tool voor beursgangen in plaats van blind op onbewaakte prompts te vertrouwen (ChatGPT als jurist).
De beroepsgroep is er dus mee bezig. Maar zolang de controle bij de opdrachtgever net zo goed werkt als bij de opdrachtnemer, is het naslaan van een ECLI-nummer geen wantrouwen. Het is de goedkoopste twee minuten in je dossier.