Begin juli 2026 publiceerde een ontwikkelaar op dev.to een ogenschijnlijk doodgewone technische tutorial: hoe je het taalmodel mBERT traint om giftige taal te herkennen in Hinglish, de code-mixed omgangstaal van Hindi en Engels (Bron: dev.to). Onder de motorkap van die ene how-to schuilt een probleem dat veel verder reikt dan Hindi-Engelse social media: AI-moderatiesystemen zijn stelselmatig minder betrouwbaar zodra mensen twee talen door elkaar gebruiken. En dat doen ze, ook hier in Nederland, voortdurend.
Update 25 september 2026 Gecorrigeerd: de plicht voor grote platforms om systemische risico’s zoals discriminatie te beoordelen komt uit de Digital Services Act (sinds 2023), niet uit AI Act-regels “sinds mei 2026” (EUR-Lex). Ook preciseerden we dat het onderzoek vooral méér onterecht gemarkeerde berichten vond, en dat TikTok in oktober 2024 zo’n 300 moderatorbanen in Amsterdam schrapte.
Eén tutorial, een veel groter probleem
De schrijver van de dev.to-gids legt precies uit waarom een kant-en-klare Engelse toxiciteitsdetector faalt op een zin als “yaar tum kitne pagal ho”: niet omdat het model slecht is, maar omdat het nooit Hinglish te zien kreeg tijdens de training. Woordvolgorde verschuift, scripts wisselen midden in een zin, en Engelse tokenizers struikelen over Devanagari-schrift. Dat is geen exotisch randgeval. Code-switching is wereldwijd de normale spreektaal van tientallen miljoenen mensen, en juist de meest gebruikte moderatiemodellen zijn primair op schoon, eentalig Engels getraind (Bron: UNITYAI-GUARD, arXiv).
Beginner-tip Een taalmodel “getraind op toxiciteit” leert patronen uit voorbeeldzinnen die mensen als giftig hebben gelabeld. Staat een taalcombinatie niet of nauwelijks in die voorbeelden, dan heeft het model simpelweg geen patroon om op terug te vallen — het gokt, en gokt vaker fout.
De cijfers: hoeveel foutgevoeliger wordt moderatie in gemengde taal?
Een studie van juni 2026 naar Tamil-Engelse code-mixed berichten over haatzaaiende taal maakt het verschil concreet meetbaar. Onderzoekers namen dezelfde onderliggende boodschap, één keer in schoon Engels en één keer in Tamil-Engelse mengtaal, en lieten een moderatiesysteem er onafhankelijk over oordelen. Resultaat: in 26,5% van de gevallen sloeg de beslissing om zodra dezelfde boodschap in gemengde taal stond (Bron: arXiv). Het aandeel onschuldige berichten dat onterecht als schadelijk werd gemarkeerd steeg van 6,9% naar 10,4%, en het aandeel berichten dat een menselijke moderator moest doorlezen liep op van 13,8% naar 29,7% — meer dan het dubbele controlewerk voor exact dezelfde hoeveelheid content.
Een simpele oplossing bestaat niet. Onderzoekers testten een regel waarbij het systeem twijfelgevallen automatisch doorstuurt naar een mens in plaats van zelf te beslissen. Dat verlaagt de automatische foutmarge, maar verschuift het probleem alleen naar meer menselijk controlewerk.
Gevorderden Dit is een workflow-probleem, geen puur classificatieprobleem. Een model kan een keurige F1-score halen op een testset en toch, zodra het in een echte moderatiepijplijn draait, structureel meer twijfelgevallen produceren zodra de input code-mixed is. Standaard benchmarkcijfers laten dat effect vaak niet zien.
Waarom dit ook in Nederland speelt
Er is geen publiek onderzoek dat exact meet hoe vaak Nederlandse platforms giftige straattaal missen. Maar het onderliggende mechanisme is taalonafhankelijk, en Nederlandse straattaal is een schoolvoorbeeld van code-switching: het mixt structureel Sranantongo, Engels, Marokkaans-Arabisch en Berber, met wortels in de komst van Surinaamse Nederlanders in de jaren zeventig (Bron: NOS). Diezelfde taalmenging die onderzoekers bij Hinglish en Tamil-Engels documenteerden, zit dus letterlijk in de manier waarop een deel van de Nederlandse jongeren online met elkaar praat.
Dat komt op een gevoelig moment. Grote platforms hebben hun menselijke moderatieteams de afgelopen jaren juist ingekrompen ten gunste van automatisering: TikTok schrapte in het najaar van 2024 zo’n 300 moderatorbanen in Amsterdam, terwijl het meer op automatische moderatie ging leunen (Bron: DutchCowboys). Precies de mensen die culturele nuance en taalmenging het beste kunnen beoordelen, verdwijnen dus op het moment dat onderzoek laat zien dat automatische systemen daar het zwakst in zijn. Dat die zwakte verder gaat dan moderatie, liet een cultuurtest met raadsels uit 45 landen zien: zelfs de sterkste chatbots kwamen in sommige gemeenschappen niet verder dan 22 procent.
Dat sluit aan bij het bredere patroon dat we eerder beschreven in ons onderzoek naar AI-bots die Reddit-gebruikers overtuigden met valse identiteiten: geautomatiseerde systemen die menselijke taal en gedrag moeten inschatten, hebben blinde vlekken die pas zichtbaar worden zodra iemand ze gericht test. Diezelfde onzichtbare foutmarge speelt ook bij AI die hypotheekaanvragen beoordeelt of bij claims over wat een AI-test over je persoonlijkheid zou kunnen aflezen — telkens gaat het om een systeem dat zelfverzekerd oordeelt over iets waar het eigenlijk onvoldoende voorbeelden van heeft gezien.
Wat hier tegenover staat
De EU AI Act classificeert contentmoderatiesystemen op grote platforms niet automatisch als hoogrisico-AI (wat de AI Act wél vraagt). De stok achter de deur zit in een andere wet: de Digital Services Act (DSA). Die verplicht de allergrootste platforms sinds 2023 om jaarlijks hun systemische risico’s te beoordelen en te beperken, waaronder negatieve effecten op grondrechten zoals non-discriminatie, en daarbij expliciet naar hun moderatiesystemen te kijken (Bron: EUR-Lex, DSA artikel 34 en 35). Of “slechter werken op code-mixed straattaal” concreet onder die risicocategorie valt, is nog geen uitgemaakte zaak, en geen enkel Nederlands platform heeft tot nu toe cijfers gepubliceerd die daarop ingaan.
Voor jou als gebruiker verandert dat weinig aan de praktijk: als je bericht in meerdere talen tegelijk is geschreven, is de kans groter dat een moderatiesysteem het in beide richtingen verkeerd inschat. Onschuldige berichten worden vaker onterecht gemarkeerd of weggehaald, en echt schadelijke taal kan er juist doorheen glippen. Precies het soort spanning die zichtbaar wordt zodra iemand, zoals begin juli op dev.to, de code opentrekt en laat zien wat er onder de motorkap gebeurt.