Regelgeving5 minGevorderd

Lancet: AI-misbruik en kernoorlog bedreigen voortbestaan mensheid

Een Lancet-commissie zet misbruik van AI naast kernoorlog als enige twee dreigingen die de mens tot 2100 kunnen uitroeien. Wat het rapport zegt en wat niet.

Miniatuur diorama-illustratie bij artikel 'Lancet: AI-misbruik en kernoorlog bedreigen voortbestaan mensheid'

Zeventien dreigingen, vijfendertig experts en een horizon tot het jaar 2100. Daaruit komen twee dreigingen naar voren die de Lancet-commissie in een eigen categorie zet: kwaadwillig gebruik van AI en kernoorlog. Het zijn volgens de commissie de enige twee die de mensheid deze eeuw zouden kunnen uitroeien (Bron: The Lancet via EurekAlert).

Het rapport, de Lancet Commission on 21st century global threats to health, verscheen in het medische vakblad The Lancet en wordt vandaag, zondag 11 oktober, gepresenteerd op de World Health Summit in Berlijn (Bron: World Health Summit). De commissie wordt geleid door Christopher Murray, directeur van het Amerikaanse gezondheidsinstituut IHME, en Natalia Kanem, oud-directeur van het VN-bevolkingsfonds UNFPA. Het Belgische Nieuwsblad kopte met “gevaar voor mensheid”. Wat staat er echt in het rapport?

Wat de commissie onderzocht

De onderzoekers keken naar honderden mogelijke bedreigingen voor de wereldgezondheid en hielden er 17 over. Een dreiging moest aan drie eisen voldoen: tot 2100 minstens 1 miljard verloren gezonde levensjaren kunnen kosten, met genoeg data om door te rekenen, en met ruimte voor beleid om er iets aan te doen. De analyse gebruikt risicodata van het IHME voor 204 landen en gebieden (Bron: The Lancet via EurekAlert).

Die verloren gezonde jaren heten DALY’s: één DALY is één jaar dat iemand niet in goede gezondheid leeft, door vroegtijdige dood of door ziekte. Voor elke dreiging rekende de commissie een plausibel best en slechtst denkbaar scenario door. Het verschil daartussen is de schade die met beleid nog te voorkomen is.

Beginner-tip Een cijfer van “10,4 miljard DALY’s” is geen voorspelling van wat er gaat gebeuren. Het is het verschil tussen een gunstig en een ongunstig scenario, gewogen naar kans. Het zegt dus vooral waar ingrijpen het meeste oplevert.

AI naast kernoorlog, maar niet bovenaan

Kwaadwillig AI-gebruik en kernoorlog vormen de top van wat de commissie een “piramide van dreigingen” noemt: de dreigingen die tot uitsterven kunnen leiden (Bron: World Health Summit). De kans op beide noemt de commissie laag. Toch tellen ze zwaar mee, omdat de schattingen zowel de impact als de waarschijnlijkheid meewegen (Bron: The Lancet via EurekAlert).

De cijfers maken het beeld genuanceerder dan de koppen. Dit zijn de schattingen uit het persbericht, in te vermijden verloren gezonde jaren tot 2100 (Bron: The Lancet via EurekAlert):

DreigingTe vermijden DALY’s tot 2100
Overgewicht23,1 miljard
Lage opleiding16,1 miljard
Inkomensongelijkheid13,8 miljard
Kwaadwillig AI-gebruik10,4 miljard
Kernoorlog9,35 miljard (en 133 miljoen doden)
Klimaat (1,8 in plaats van 4,4 graden opwarming)1,89 miljard

AI staat dus naast kernoorlog vanwege het uitstervingsrisico, maar overgewicht en lage opleiding kosten op papier meer gezonde jaren. Het begeleidende hoofdredactionele stuk in The Lancet benadrukt dat de commissie “geen vaste ranglijst van dreigingen of beleidsprioriteiten” geeft (Bron: The Lancet via EurekAlert).

Wat het cijfer níet meet: hoe AI-misbruik concreet tot massale schade leidt. Het persbericht beschrijft daar geen mechanisme voor, en ook geen kanspercentage. Dat is een belangrijke kanttekening bij koppen die suggereren dat de Lancet een concreet AI-rampscenario heeft doorgerekend.

Welke scenario’s onderzoekers wél noemen

Elders in het debat zijn de scenario’s concreter. In een overzicht van persbureau AP noemen onderzoekers onder meer met AI ontworpen ziekteverwekkers en cyberaanvallen door zwermen AI-agents. Anthropic meldde dat het verzoeken aan Claude blokkeerde om een virus gevaarlijker te maken. Denktank RAND concludeerde dat AI kernwapens nu niet kan inzetten, door de strikte beveiliging van commandosystemen (Bron: AP via ABC News).

Niet iedereen gelooft daarin. Juan Andrés Guerrero-Saade, onderzoeker bij beveiligingsbedrijf SentinelOne, zegt tegen AP dat zulke uitstervingsargumenten “gewoon geen stand houden” en vooral sciencefiction zijn (Bron: AP via ABC News). Ook de topmannen van de AI-bedrijven zelf verschillen sterk van mening, zoals we eerder uitzochten in wat er klopt van de waarschuwing dat AI ons de baas wordt.

Gevorderden Het verschil met eerdere waarschuwingen is de afzender. Die kwamen vooral van AI-bedrijven en veiligheidsonderzoekers; deze komt van een gezondheidscommissie die AI met dezelfde DALY-maat meet als roken en hoge bloeddruk.

Wat de commissie voorstelt

Het advies vat de commissie samen als “build, back, track”: bouw gezondheidssystemen die op dreigingen voorbereid zijn, investeer in doorbraken waar bestaande middelen tekortschieten, en volg de dreigingen onafhankelijk en regelmatig. Daarvoor komt er een Lancet Monitor die nieuwe risico’s bijhoudt voor beslissers in gezondheid, financiën en veiligheid (Bron: The Lancet via EurekAlert). “Het opvallende is niet alleen de omvang van deze dreigingen, maar dat de mensheid nog steeds kan ingrijpen,” zegt co-voorzitter Murray in het persbericht.

Wat jij ervan merkt

Direct weinig. Het rapport verandert geen wet en geen app. Wel geeft het beleidsmakers een nieuwe maatstaf, waarin AI-veiligheid op dezelfde lijst staat als volksgezondheid. In Europa bestaat al een kader: sinds 2 augustus 2025 gelden onder de AI-verordening regels voor makers van AI-modellen voor algemene doeleinden. Wie een model met systeemrisico aanbiedt, moet zich melden bij het Europese AI-bureau, de risico’s beoordelen en ernstige incidenten rapporteren; sinds 2 augustus 2026 kan de Commissie daarvoor boetes opleggen (Bron: Europese Commissie). Hoe ver overheden willen gaan, verschilt per land; zie bijvoorbeeld het pleidooi van 70 Britse politici voor een verbod op superintelligentie.

De nuchtere les uit de cijfers: de kans op een AI-ramp is volgens deze commissie klein, maar groot genoeg om serieus te nemen. Tegelijk kosten gewone problemen als overgewicht en ongelijkheid volgens dezelfde berekening meer gezonde jaren.

Lees verder

Veelgestelde vragen

Wat zegt The Lancet over AI en het einde van de mensheid?

De Lancet Commission on 21st century global threats to health noemt kwaadwillig gebruik van AI en kernoorlog als de enige twee van 17 dreigingen die de mensheid vóór 2100 zouden kunnen uitroeien. De kans daarop noemt de commissie laag, maar het mogelijke effect zo groot dat preventie dringend is.

Wat is een DALY?

Een DALY (disability-adjusted life year) is één verloren jaar in goede gezondheid, door vroegtijdige sterfte of door leven met ziekte of beperking. De Lancet-commissie gebruikt DALY's om heel verschillende dreigingen, van kernoorlog tot overgewicht, met elkaar te vergelijken.

Welke 17 dreigingen noemt de Lancet-commissie?

Kwaadwillig AI-gebruik, kernoorlog, luchtvervuiling, antibioticaresistentie, ondervoeding bij kinderen, klimaatverandering, conventionele oorlog, dalende ontwikkelingshulp voor gezondheid, veel alcohol, hoge bloeddruk, inkomensongelijkheid, lage opleiding, natuurlijke pandemieën, overgewicht, slechte mentale gezondheid, roken en ongezond ouder worden.

Is AI volgens de Lancet gevaarlijker dan overgewicht?

Niet in de cijfers. Voor overgewicht schat de commissie 23,1 miljard te vermijden verloren gezonde jaren, voor kwaadwillig AI-gebruik 10,4 miljard. AI valt op door het uitstervingsrisico, niet door de grootste verwachte schade. De commissie geeft bovendien geen vaste rangorde.

Wat doet Europa tegen gevaarlijk gebruik van AI?

Sinds 2 augustus 2025 gelden onder de Europese AI-verordening regels voor AI-modellen voor algemene doeleinden. Makers van de krachtigste modellen, met zogenoemd systeemrisico, moeten zich melden bij het Europese AI-bureau, de risico's beoordelen en ernstige incidenten rapporteren. Sinds 2 augustus 2026 kan de Europese Commissie boetes opleggen.

Bronnen

Waar deze informatie vandaan komt.