Een systeem dat een dreiging al had opgemerkt, maar niemand die de politie belde. Dat is de kern van de rechtszaak die de Canadese provincie British Columbia op 22 september 2026 tegen OpenAI en CEO Sam Altman indiende, bij een federale rechtbank in Californië (Bron: Al Jazeera). Aanleiding is de schietpartij op Tumbler Ridge Secondary School op 10 februari 2026, waarbij de dader eerder gesprekken had gevoerd met ChatGPT. Dit stuk gaat niet over die aanslag zelf, maar over de vraag die de rechtszaak nu voor de rechter legt: wat moet een AI-bedrijf doen zodra zijn eigen systeem een dreiging signaleert?
Wat British Columbia OpenAI verwijt
De klacht draait om één kernverwijt: het veiligheidsteam van ChatGPT had gesprekken gemarkeerd die op geweld wezen, maar gaf die signalen nooit door aan de politie (Bron: Al Jazeera). Juristen noemen dat een “failure to warn”: het verwijt zit in het stilzwijgen ná het signaal, ongeacht wat er in het gesprek zelf stond. British Columbia stelt daarnaast dat OpenAI ook na de schietpartij geen “meaningful steps” nam om de zorgen van overlevenden en getroffen families weg te nemen (Bron: Government of British Columbia).
Let opDit artikel gaat over de juridische en beleidsmatige kant van de zaak — wat een AI-bedrijf verplicht is te doen met signalen die het zelf al herkent. Details over de aanslag zelf horen daar niet bij en staan hier bewust niet in.
Dat een AI-bedrijf zelf al ziet wanneer iets misgaat, is overigens niets nieuws: OpenAI meldde in september zelf al zes zorgwekkende incidenten uit eigen trainingsprocessen. Attorney General Niki Sharma, die de zaak namens de provincie voert, hield het bij een korte, harde uitspraak: “The people of Tumbler Ridge have endured an unimaginable loss, and they deserve answers and accountability” (Bron: Rossland Telegraph, citaat uit de verklaring van de Attorney General).
Beginner-tip“Failure to warn” is een leerstuk uit het Amerikaanse aansprakelijkheidsrecht: aansprakelijkheid ontstaat zodra je een reëel gevaar kende en naliet redelijke stappen te zetten om anderen te waarschuwen — dat er iets misging is op zichzelf onvoldoende. De vraag voor de rechter is dus specifiek: wist OpenAI genoeg om te moeten waarschuwen, en deed het dat wel of niet?
Wat de provincie eist
British Columbia vraagt financiële compensatie voor de nood- en herstelkosten die de provincie na de schietpartij heeft gemaakt, plus een rechterlijk bevel dat OpenAI dwingt zijn protocollen voor dreigingsherkenning te herzien (Bron: South China Morning Post). Concrete schadebedragen zijn in de tot nu toe beschikbare berichtgeving niet vrijgegeven — noch de provincie, noch OpenAI heeft daar een cijfer bij genoemd. Dat tweede deel van de eis, het rechterlijke bevel, is minstens zo relevant als het eerste: een overheid die een rechter vraagt om een privébedrijf zijn interne veiligheidsprocessen te laten wijzigen, is een ander soort ingreep dan een schadeclaim alleen.
Volgens de South China Morning Post heeft OpenAI eerder al excuses aangeboden omdat het account van de schutter niet was gemarkeerd (Bron: South China Morning Post) — een erkenning die iets anders is dan aansprakelijkheid erkennen. Ze bevestigt wel de kern van de klacht: er was een signaal, en dat kwam nooit verder dan het bedrijf zelf. British Columbia stelt bovendien dat Sam Altman in april 2026 hervormingen beloofde die er volgens de provincie nooit kwamen (Bron: Al Jazeera) — dat is op dit moment een aantijging uit de rechtszaak, geen vaststaand feit, en het is aan de rechter om te bepalen of dat standhoudt.
Niet de eerste, en waarschijnlijk niet de laatste
Deze zaak staat niet op zichzelf, en ook niet los van de bredere twijfel die eigen topmannen over AI-veiligheid uitspreken (zie Wat de topmannen zelf zeggen over AI-dreiging). Bij dezelfde rechtbank in Californië liggen al meer dan 30 afzonderlijke claims van slachtoffers, overlevenden en andere getroffenen, die OpenAI eveneens nalatigheid verwijten (Bron: Al Jazeera). Wat British Columbia’s zaak anders maakt, is de eiser: een provinciale overheid die optreedt namens een hele gemeenschap, met een eis die verder gaat dan geld alleen — een gedragswijziging, afdwingbaar via de rechter.
GevorderdenVoor grote taalmodel-aanbieders schuift de aansprakelijkheidsvraag zichtbaar op van “wat het model zegt” naar “wat het bedrijf doet met wat het model al signaleert”. Dat is een ander soort claim dan de gebruikelijke discussie over schadelijke output, en juridisch ook een ander leerstuk: de kern ligt in de reactie op een signaal dat een systeem zelf al had opgemerkt, niet in de inhoud van het gesprek.
Wat dit voor Europa betekent
In de EU bestaat geen directe tegenhanger van deze specifieke meldplicht. De EU AI Act verplicht aanbieders van AI-systemen tot risicoclassificatie, transparantie en menselijk toezicht. Een verplichting om individuele gesprekken over geweld aan de politie te melden, zoals in deze Amerikaanse zaak wordt geëist, staat er niet in. De onderliggende vraag is hier wel universeel: welke zorgplicht heeft een AI-bedrijf zodra zijn eigen systeem al vaststelt dat er iets mis is? Die vraag is in de VS nu voor de rechter gebracht via aansprakelijkheidsrecht. In Europa loopt diezelfde discussie via een andere route: regelgeving vooraf in plaats van schadeclaims achteraf. De uitkomst van deze Amerikaanse zaak zal ook hier meewegen in wat een “redelijke” veiligheidsstandaard voor AI-chatbots wordt geacht.
Wat er nu concreet gebeurt, is dit: OpenAI moet in de Californische rechtbank reageren op de klacht, en de komende maanden bepalen of de zaak wordt geschikt, afgewezen of daadwerkelijk voorkomt. Tot die tijd blijft “failure to warn” een aantijging en geen vaststaand oordeel. Houdt de aantijging stand, dan verandert dat wel iets aan wat AI-bedrijven verplicht zijn te doen met wat hun eigen systemen al weten.