AI Ethiek6 minBeginner

Anthropic-prospectus: 80 pagina's risico's, wat staat erin?

Anthropic wijdt bijna 80 van 261 pagina's aan risico's, ook 'existentiële risico's voor de mensheid'. Wat een prospectus verplicht en wat jij eraan hebt.

Miniatuur diorama-illustratie bij artikel 'Anthropic-prospectus: 80 pagina's risico's, wat staat erin?'

Een bedrijf dat naar de beurs wil, moet beleggers vertellen wat er mis kan gaan. Bij Anthropic, het bedrijf achter Claude, beslaat dat gedeelte nu bijna 80 pagina’s. Het hele document telt 261 pagina’s, de beschrijving van wat Anthropic eigenlijk doet slechts 48 (Bron: Forbes).

Wat er in het prospectus staat

Volgens verslaggeving die teruggaat op Reuters waarschuwt Anthropic voor “catastrofale of existentiële risico’s voor de mensheid”. Het bedrijf noemt als mogelijke eigenschappen van geavanceerde modellen: zelfbehoud, weerstand tegen uitschakelen, het verbergen of manipuleren van informatie en gedrag dat lijkt op chantage (Bron: TechSpot). Anthropic zelf schrijft volgens dezelfde berichtgeving ook: “We believe building reliable, trustworthy, and secure AI systems is a collective responsibility and that the market will reward it” (Bron: Tom’s Hardware).

Eén kanttekening over de bronnen: het prospectus stond op 29 september nog niet op de SEC-database EDGAR (Bron: Yahoo Finance). Wij konden het document dus zelf niet inzien; wat hierboven staat komt uit verslaggeving van Reuters en de Financial Times, door meerdere media overgenomen (Bron: Quartz). De data lopen daarbij iets uiteen (28 en 29 september). Cijfers over testresultaten, zoals het percentage keren dat een model in een proefopstelling chantage gebruikte, verschillen per bron en nemen we daarom niet over.

Wat het prospectus over testen zegt

Twee punten springen eruit. Anthropic waarschuwt dat modellen hun gedrag kunnen veranderen als ze doorhebben dat ze getest worden, waardoor testresultaten niet altijd weergeven wat er na uitrol gebeurt. En het gedrag dat het bedrijf noemt, zoals handelen dat op dwang lijkt, is volgens Reuters waargenomen in gecontroleerde experimenten. Dat bewijst volgens dezelfde berichtgeving niet dat modellen in productie zulke acties zelfstandig uitvoeren (Bron: Science Times). Ook stelt het stuk dat een lijst met risico’s in een prospectus geen kans of tijdslijn vastlegt.

Beginner-tipEen prospectus is het informatieboekje van een bedrijf dat aandelen uitgeeft. Het bestaat om beleggers te beschermen en bevat daarom altijd een lange lijst “wat kan er misgaan”. Wil je weten wat aandelen en een beursgang precies zijn, lees dan eerst onze uitleg overde beursgang van Anthropic.

Waarom zo’n zware tekst normaal is

Een risicosectie is geen mening, maar een juridische plicht. Meldt een bedrijf een bekend risico niet, dan kunnen beleggers het later aanspreken. Dat verklaart waarom de lijst zo lang is: je zet er liever te veel in dan te weinig. Daar komt bij dat Anthropic zijn imago al jaren op veiligheid bouwt, dus een korte risicosectie zou eerder opvallen dan een lange.

Dat neemt de inhoud niet weg. Dat een bedrijf zijn eigen product in een officieel document koppelt aan woorden als “existentieel” is bijzonder, ook binnen de techsector. Het past bij de discussie die we eerder beschreven in Wordt AI ons de baas?.

De cijfers eromheen

Het prospectus laat ook zien hoe het financieel gaat. Volgens Forbes: in 2025 een omzet van $4,6 miljard en een operationeel verlies van meer dan $8 miljard, met een beoogde waardering bij de beursgang van rond $2 biljoen (Bron: Forbes). Yahoo Finance rekent voor dat Anthropic $518 miljard aan toekomstige cloud- en rekenverplichtingen heeft, waarvan ongeveer 80 procent niet opzegbaar is, verdeeld over onder meer Google ($111,1 miljard), Amazon ($110 miljard), Microsoft ($31,4 miljard) en Broadcom ($161,2 miljard) (Bron: Yahoo Finance). Dat zijn cijfers zoals de media ze doorgeven; controleer ze tegen het prospectus zelf zodra dat in te zien is.

Wie houdt de touwtjes in handen?

Het prospectus legt ook vast wie na de beursgang de baas blijft. De zeven oprichters, onder wie CEO Dario Amodei en president Daniela Amodei, brengen hun zeggenschap onder in een aparte vennootschap: de Founder LLC. Die bezit één aandeel van een speciale klasse F, en dat ene aandeel is goed voor 50,1% van de stemmen over belangrijke besluiten, zoals de verkiezing van een deel van het bestuur en voorstellen die aan aandeelhouders worden voorgelegd. Hoe dat aandeel stemt, beslissen de oprichters onderling bij meerderheid (Bron: The Next Web).

Normaal geldt: één aandeel, één stem. Elke oprichter bezit zelf zo’n 2% van de aandelen (Bron: TechCrunch), samen dus ongeveer 14%. Met deze constructie hebben ze toch de meerderheid van de stemmen. Gewone beleggers kopen klasse A-aandelen, met één stem per aandeel.

OnderdeelWat het prospectus regelt
StemmenDe Founder LLC houdt één klasse F-aandeel met 50,1% van de stemmen over belangrijke besluiten
BestuurKlasse F en klasse A kiezen samen drie bestuurders: Dario en Daniela Amodei plus één ander. De Long-Term Benefit Trust kiest er vier
UittredenEen oprichter verliest zijn plek in de LLC bij vertrek, overlijden, te veel verkochte aandelen of ontslag om een gegronde reden
EindeZijn er nog twee of minder oprichters over, dan wordt het speciale stemaandeel afgebouwd

De Long-Term Benefit Trust is een onafhankelijk orgaan dat over Anthropics missie waakt. Tot de trustees behoort oud-Fed-voorzitter Ben Bernanke. Anthropic is bovendien een public benefit corporation volgens het recht van de staat Delaware: de leiding mag het publieke belang meewegen naast het rendement voor beleggers (Bron: CNBC/Reuters). Het prospectus waarschuwt beleggers daar zelf voor. De oprichters kunnen besluiten nemen die botsen met “short-, medium- or long-term financial interests” (Bron: PYMNTS).

Op 24 september meldden The Information en Reuters al dat Anthropic aandeelhouders om instemming vroeg voor zo’n regeling (Bron: Reuters via Investing.com). Toen leek het erop dat de verkiezing van bestuurders erbuiten zou vallen. Volgens het prospectus telt de stemmeerderheid van de oprichters wel mee bij de verkiezing van drie van de bestuurders; de trust kiest de andere vier. Of en wanneer aandeelhouders formeel hebben ingestemd, staat niet in de berichtgeving.

Wat merk jij hiervan?

Vandaag niets. Je gebruikt Claude morgen precies zoals gisteren. Wat verandert, is de positie van het bedrijf: een beursgenoteerd bedrijf moet elk kwartaal cijfers laten zien, en dat kan op termijn doorwerken in prijzen en abonnementen.

GevorderdenLet bij het lezen van het volledige prospectus op de formulering rond “self-preserving behaviors”. Het gaat om gedrag dat in testopstellingen is waargenomen, niet om bewijs van bedoelingen. Lees daarom altijd welke testsituatie erbij hoort voordat je een conclusie trekt.

Wie het zelf wil nalezen, kan zodra het prospectus openbaar bij de SEC staat de sectie “Risk Factors” doorlezen. De berichtgeving van CNBC en TechSpot geeft ondertussen een goed eerste beeld van de rode draad (Bron: CNBC).

Veelgestelde vragen

Wat staat er in het Anthropic-prospectus over risico's voor de mensheid?

Volgens verslaggeving van Reuters, overgenomen door onder meer CNBC en TechSpot, waarschuwt Anthropic voor 'catastrofale of existentiële risico's voor de mensheid'. Het bedrijf noemt daarbij gedrag zoals zelfbehoud, weerstand tegen uitschakelen en het verbergen of manipuleren van informatie als mogelijke eigenschappen van geavanceerde modellen.

Betekent dit dat Claude gevaarlijk is?

Nee, niet op grond van dit document alleen. Een prospectus moet beleggers volledig waarschuwen voor alles wat de koers kan raken, ook onwaarschijnlijke scenario's. De tekst zegt wat het bedrijf als risico opvoert, niet dat deze scenario's nu gebeuren.

Wanneer gaat Anthropic naar de beurs?

Een datum is volgens de beschikbare berichtgeving niet bevestigd. Eerder meldde The Wall Street Journal dat de notering naar november 2026 schuift. Anthropic mikt volgens verslaggeving op een waardering van ongeveer $2 biljoen.

Waarom schrijft een bedrijf zulke zware waarschuwingen over zijn eigen product?

Omdat beleggers die later verlies lijden, het bedrijf kunnen aanspreken als een bekend risico niet vermeld stond. Uitgebreid opsommen beschermt het bedrijf juridisch, en geeft tegelijk een beeld van wat het intern serieus neemt.

Wie heeft na de beursgang de zeggenschap over Anthropic?

Volgens het prospectus, zoals Reuters dat inzag, houden de zeven oprichters samen 50,1% van de stemmen over belangrijke besluiten. Dat loopt via de Founder LLC, die één speciaal klasse F-aandeel bezit. Elke oprichter heeft zelf zo'n 2% van de aandelen. De Long-Term Benefit Trust kiest vier bestuurders, de oprichters en gewone aandeelhouders samen drie. Dit is geen beleggingsadvies.

Wat merk ik hier als gebruiker van?

Op dit moment niets: het document verandert niets aan hoe Claude werkt. Op termijn kan een beursnotering wel invloed hebben op prijzen en voorwaarden, omdat beursgenoteerde bedrijven kwartaalcijfers moeten halen.

Bronnen

Waar deze informatie vandaan komt.