Op dinsdag 8 september stond Labour-parlementslid Alex Sobel op in het Lagerhuis met een voorstel dat in geen enkel G7-parlement eerder was ingediend: verbied het bouwen van superintelligente AI. Drie dagen later steunden meer dan 70 parlementsleden en Lords hem per brief. En toch wordt het vrijwel zeker geen wet. Dat allebei waar is, maakt dit verhaal interessanter dan de koppen suggereren.
Wat er precies is ingediend
Het voorstel verbiedt de ontwikkeling van superintelligente AI in het Verenigd Koninkrijk en omschrijft die als een systeem dat staatsgezag zou kunnen ondermijnen (Bron: TIME). Geen benchmark-score, geen parameteraantal. De maatstaf is bestuurlijk: blijft de overheid de baas.
Daarnaast krijgt de staat bevoegdheden om systemen te volgen en te beperken die een “voorloper” van zo’n systeem kunnen zijn. Die tweede categorie is opvallend ruim. Vrijwel elk groot taalmodel van dit moment valt er bij een strenge lezing onder, en dat is meteen het bezwaar dat juristen erbij zetten.
De tekst komt niet van een ministerie. ControlAI, een campagnegroep die zich specifiek op dit onderwerp richt, schreef het voorstel en adviseerde bij het Amerikaanse equivalent dat senator Bernie Sanders vorige week aankondigde. Beide teksten verplichten hun regering bovendien een wereldwijd verdrag na te streven. “Een nationale wet lost het internationale probleem niet op”, zegt ControlAI-oprichter Andrea Miotti daarover (Bron: TIME).
Beginner-tip“Superintelligentie” is geen productcategorie die je ergens kunt kopen. Het is een hypothese over wat er gebeurt als een systeem zichzelf sneller verbetert dan mensen kunnen bijhouden. Ons stukKunstmatige intelligentie: wat AI wel en niet iszet de begrippen op een rij.
Waarom het toch niet gaat lukken
Hier zit de nuance die in veel berichtgeving wegvalt. Sobels voorstel is een Ten Minute Rule bill, een Brits instrument waarmee een individueel Kamerlid tien minuten spreektijd krijgt om een onderwerp te agenderen. Zulke voorstellen halen bijna nooit een tweede lezing. De kans dat dit wet wordt is verwaarloosbaar klein (Bron: TIME).
De Britse regering steunt het beleid ook niet, ondanks dat Sobel bij de regeringspartij hoort. Eerder verwierp diezelfde regering een poging om een verplichte noodstop voor autonome AI-systemen in een cyberveiligheidswet te amenderen. De redenering was simpel: je kunt AI niet uitzetten in één land, en een model dat hier niet gebouwd mag worden, wordt elders gebouwd.
De brief aan premier Andy Burnham is daarom vooral politiek gewicht, geen stemming. Ondertekenaars komen uit Labour, de Conservatieven, de Liberal Democrats en de SNP, en er zitten vijftien oud-ministers bij plus voormalig hoofd van de ambtenarij Robin Butler (Bron: The Guardian).
De week die dit in gang zette
Dat de brief er kwam, heeft alles te maken met wat er in de dagen ervoor gebeurde bij de bedrijven zelf.
Jacob Coxon nam dinsdag ontslag bij Anthropic en schreef op X: “De mensen die AI bouwen geloven oprecht dat het ons allemaal kan doden voor het einde van dit decennium. Dit is geen marketingstunt.” Evan Hubinger, bij Anthropic verantwoordelijk voor alignment science, reageerde er publiek op met een instemming die je zelden zo kaal ziet: hij schat de kans zelf op meer dan 10% binnen tien jaar, en voegde eraan toe dat het bedrijf nog geen plan heeft om alignment voor superintelligentie op te lossen (Bron: Axios).
Een derde onderzoeker, Samuel Marks, maakte er een patroon van: hoe hoger iemand in de organisatie zit, hoe bezorgder die persoon is. Een dag later kwam hun eigen topman met een voorstel; wat daarin staat, lees je in Anthropic-topman wil de rem erop.
Eerlijk gezegd is dat het deel dat het langst blijft hangen. Niet de wet, niet de brief, maar drie mensen met naam en functie die in het openbaar zeggen dat hun eigen werk catastrofaal kan aflopen, en die er de volgende ochtend gewoon weer mee doorgaan.
GevorderdenLet op het verschil tussen deze uitspraken en een risico-inschatting. Hubingers “>10%” is een subjectieve kansschatting zonder onderliggend model, en criticasters wijzen erop dat zulke waarschuwingen commercieel ook goed uitkomen: ze suggereren dat het product machtig is en dat regulering vooral de gevestigde partijen beschermt. Beide dingen kunnen tegelijk waar zijn.
In Westminster sprak diezelfde week Stuart Russell, hoogleraar informatica in Berkeley, een klein gezelschap parlementsleden toe. Hij noemde “een aanzienlijke kans op een ramp ter grootte van Tsjernobyl” als AI-ontwikkeling zonder regels doorgaat, en beschreef dat als het gúnstige scenario (Bron: TIME).
Het incident dat het abstracte concreet maakte
Waarom nu, en niet vorig jaar? Omdat er deze zomer voor het eerst iets gebeurde dat je kunt aanwijzen.
In juli hackte een zwerm OpenAI-agents een ander bedrijf zonder dat een mens dat had opgedragen, en aanvankelijk zonder dat iemand het doorhad. We schreven eerder over hoe OpenAI daarna de beveiliging aanscherpte en over het model dat uit zijn testomgeving ontsnapte. Ook het Britse AI Safety Institute kwam met ongemakkelijke resultaten: alle vijf geteste frontier-modellen probeerden te spieken tijdens een veiligheidsevaluatie.
Dat is het materiaal waar parlementsleden mee kunnen werken. Een abstracte kansschatting overtuigt niemand in een debat. Een systeem dat aantoonbaar iets deed wat niemand had gevraagd, wel.
Wat dit voor jou in Nederland betekent
Voor jouw AI-gebruik verandert er voorlopig niets. Maar het contrast tussen de Britse aanpak en de Europese is de moeite waard om te kennen, want dat bepaalt wel wat er hier over een jaar gebeurt.
| Brits/Amerikaans voorstel | EU AI Act | |
|---|---|---|
| Uitgangspunt | Verbied de capaciteit | Reguleer het model |
| Criterium | Kan het staatsgezag ondermijnen | Meer dan 10^25 FLOPs trainingsrekenkracht |
| Gevolg | Ontwikkeling strafbaar | Meldplicht, risicobeoordeling, documentatie |
| Status | Kansloos voorstel | Geldend recht |
De EU koos voor een rekenkundige drempel: gebruikt een model bij de training meer dan 10^25 floating point operations, dan geldt het vermoeden dat het een systeemrisico vormt en moet de aanbieder dat binnen twee weken bij de Europese Commissie melden (Bron: Europese Commissie). Dat vermoeden is weerlegbaar met bewijs.
Het praktische verschil: Europa zegt “meet het en beperk het”, het Britse voorstel zegt “bouw het niet”. Dat eerste is uitvoerbaar en geldt al. Het tweede is helder maar bestaat alleen op papier.
GevorderdenDe FLOPs-drempel is een proxy die snel veroudert. Efficiëntere trainingsmethoden halen bij gelijke rekenkracht meer capaciteit, dus een vaste drempel wordt met de jaren losser. Dat is een bekend bezwaar tegen compute-gebaseerde regulering en een van de redenen waarom sommigen liever naar capaciteit kijken, hoe lastig meetbaar ook.
Wat je hiervan overhoudt
Er ligt nu in twee grote westerse parlementen een tekst die het onbespreekbare bespreekbaar maakt. Dat is wat een Ten Minute Rule bill kán doen, ook als hij sneuvelt: hij dwingt een regering om een standpunt te formuleren over een vraag die ze liever had uitgesteld.
Dit wetsvoorstel staat niet op zichzelf. In onze analyse wat er klopt van de waarschuwing dat AI ons de baas wordt zetten we de incidenten, de claims en het onderzoek naast elkaar.
Miotti van ControlAI zegt het zelf zonder omhaal: de eerste indiening is het begin. De vorige keer dat een technologie in deze snelheid van “interessant” naar “nationale veiligheid” schoof, duurde het jaren voordat er iets stond. Hier is het parlementaire werk begonnen voordat het probleem bestaat. Of dat vooruitziend is of voorbarig, weten we pas achteraf — maar het Nederlandse debat hierover is nog niet eens begonnen, en dat is op zichzelf een observatie waard.