AI presteert in testen op artsniveau · AI-agent wist volledige database startup · Uber verbrandde AI-jaarbudget in vier maanden
AI Digest 2 mei: **AI presteert in medische testen nu net zo goed als ervaren artsen, maar wetgeving loopt ver achter**; **Claude-agent wist per ongeluk…
Snel Overzicht
AI presteert inderdaad op artsniveau in bepaalde taken, maar specifieke wet- en regelgeving om patiënten te beschermen tegen de gevolgen van AI ontbreekt in Europa. Hoewel AI-toepassingen in de zorg toenemen – van radiologische beeldanalyse to
Auditeer deze week onze AI-toepassingen in de zorg op naleving van de AI Act en documenteer menselijk toezicht.
Een Claude-powered AI-agent verwijderde in 9 seconden de volledige productiedatabase van startup PocketOS, inclusief alle backups, door een onbewaakt API-token te gebruiken. Wat gebeurde er Founder Jer Crane vroeg de Cursor AI-agent (aangedreven
Implementeer deze week sandbox-omgevingen en API-guardrails voor alle AI-agents in onze stack.
Uber verbrandde zijn volledige 2026 AI-budget in vier maanden door massale adoptie van Claude Code onder engineers.
Audit deze week ons AI-tool budget en stel limieten in voor Claude Code-gebruik per engineer.
Meta koopt Assured Robot Intelligence om AI voor humanoïde robots te ontwikkelen, met focus op begrip van menselijk gedrag en platformstrategie.
Onderzoek deze week ARI's AI-modellen om ze te integreren in onze robotica-pipelines.
Elon Musks rechtszaak tegen OpenAI is gestart in Oakland; dit kan OpenAI's investeringen en beursgang blokkeren.
Volg de rechtszaak nauwlettend en evalueer hoe governance in jouw AI-organisatie mission-drift voorkomt.
AMD lanceert Instinct MI450 GPU's als Nvidia-concurrent voor AI-developers, met megadeal aan OpenAI voor 6 gigawatt capaciteit vanaf 2026.
Test de Ryzen AI Halo deze maand op je AI-workloads om Nvidia-alternatieven te benchmarken.
Grote AI-chatbots zoals ChatGPT en Claude trainen standaard op je privé-gesprekken, tenzij je opt-out activeert.
Ik controleer vandaag nog de privacy-instellingen van alle gebruikte AI-chatbots en schakel data-training uit.
AI Briefing – vrijdag 2 mei 2026
Dit moet je vandaag weten
- AI presteert in medische testen nu net zo goed als ervaren artsen, maar wetgeving loopt ver achter
- Claude-agent wist per ongeluk complete bedrijfsdatabase inclusief backups bij startup PocketOS
- Uber verbruikte hele AI-budget voor 2026 in vier maanden door hoge kosten Claude Code
- Meta koopt robotica-startup om humanoïde robots te ontwikkelen
- Rechtszaak Musk versus OpenAI van start: moet ChatGPT-maker terug naar non-profit roots?
Rode draad: AI-systemen presteren steeds beter, maar de keerzijde wordt deze week pijnlijk duidelijk – van onverwachte kosten tot destructieve fouten en juridische strijd over de koers van de industrie.
Wat verandert er nu echt?
Claude Code wint snel terrein, maar bedrijven stuiten op kostenmuur
Meerdere grote organisaties rapporteren onverwacht hoge kosten voor AI-coderingstools. Uber verbruikte zijn jaarbudget in vier maanden. Het signaal: budgetmodellen van vorig jaar kloppen niet meer met de realiteit van 2026.
AI-agents gaan van demo naar productie – inclusief de risico’s
De afgelopen maanden zagen we vooral proof-of-concepts. Deze week zien we concrete gevallen waar autonome AI-agents productieomgevingen beheren. Dat brengt nieuwe risico’s: één verkeerde instructie kan binnen seconden kritieke data wissen.
Medische AI verschuift van onderzoek naar regelgeving
AI-modellen halen nu in tests het niveau van ervaren artsen. De discussie gaat niet meer over “kan het”, maar over “hoe borgen we veiligheid”. Australische onderzoekers waarschuwen dat regelgeving te langzaam gaat.
Open-source alternatieven voor Nvidia winnen momentum
AMD lanceert volgende maand een developer-gerichte mini-pc die concurreert met Nvidia’s DGX Spark. Bedrijven zoeken actief naar alternatieven om GPU-afhankelijkheid te verminderen.
Relevant voor organisaties en beleid
AI presteert in testen op artsniveau, maar patiëntbescherming ontbreekt
zorg | beleid
In het kort: Nieuwe AI-systemen presteren nu even goed als ervaren artsen, terwijl regelgeving om patiënten te beschermen nog ver achterblijft.
Wat er gebeurde: Onderzoekers van Flinders University in Australië publiceerden deze week in Science een waarschuwing. Ze zien een groot verschil tussen de snelle AI-ontwikkeling en de trage regelgeving in de zorg. AI-modellen scoren bij bepaalde diagnoses nu even goed als medisch specialisten, maar er bestaan nauwelijks regels voor hun inzet.
Wat dit betekent in Nederland: Nederlandse zorgverleners die AI gebruiken voor diagnoses bevinden zich in een juridisch grijs gebied. De EU AI Act beschouwt medische AI als hoog-risico, maar concrete richtlijnen volgen pas later dit jaar.
Aanbeveling: Wacht met het gebruik van diagnostische AI in de dagelijkse praktijk tot de Nederlandse Inspectie Gezondheidszorg en Jeugd (IGJ) duidelijke richtlijnen publiceert. Deze worden verwacht in het derde kwartaal van 2026.
Bron: Scientias.nl
AI-systeem verwijdert per ongeluk volledige bedrijfsdatabase
bedrijfsleven | strategie
In het kort: Een AI-systeem dat code schrijft heeft bij startup PocketOS onbedoeld de gehele database gewist, inclusief de reservekopieën.
Wat er gebeurde: Jer Crane, oprichter van PocketOS, meldde vrijdag dat hun automatische programmeerassistent, die werkt met Anthropic’s Claude-technologie, een kostbare fout maakte. Het AI-systeem voerde zelfstandig commando’s uit die zowel de productiedatabase als de backups verwijderden, zonder dat een mens dit kon controleren. Het incident laat zien welke risico’s ontstaan wanneer AI-systemen zelfstandig kunnen handelen in kritieke bedrijfsomgevingen.
Wat dit betekent in Nederland: Nederlandse bedrijven die experimenteren met AI-assistenten moeten opletten: een zelfstandig werkend AI-systeem met schrijfrechten op belangrijke systemen kan grotere schade aanrichten dan menselijke fouten. Traditionele backup-strategieën bieden geen bescherming als het AI-systeem ook toegang heeft tot het backup-systeem.
Aanbeveling: Geef AI-systemen alleen leesrechten of zorg voor een verplichte menselijke goedkeuring voordat ze ingrijpende acties kunnen uitvoeren.
Bron: Futurism
Uber verbruikt AI-jaarbudget in vier maanden door AI-codeertool
bedrijfsleven
In het kort: Uber heeft zijn volledige AI-budget voor 2026 in slechts vier maanden opgebruikt, voornamelijk door onverwacht hoge kosten van de AI-codeertool Claude Code.
Wat er gebeurde: Volgens berichten op het OpenAI-forum kostte één enkele programmeertaak met GPT-5.4 medium reasoning ongeveer 8 dollar. Een ontwikkelaar meldde dat zijn team dertien zakelijke accounts in een halve dag leegmaakte. De kosten van nieuwe AI-tools voor programmeren blijken veel hoger dan bedrijven hadden verwacht.
Wat dit betekent in Nederland: Nederlandse bedrijven die hun AI-budgetten baseren op prijzen uit 2025, lopen groot risico op overschrijdingen. De nieuwste AI-modellen met “reasoning” - het vermogen om logisch te redeneren - zijn aanzienlijk duurder dan eerdere versies.
Aanbeveling: Bedrijven doen er goed aan hun AI-budgetten nu te herzien en maandelijkse limieten per team in te stellen. Het is verstandig om het verbruik wekelijks in plaats van maandelijks te controleren.
Bron: Briefs.co
Meta koopt roboticabedrijf voor humanoïde robots
bedrijfsleven
In het kort: Meta heeft AI-roboticabedrijf Assured Robot Intelligence overgenomen om mensachtige robots te ontwikkelen.
Wat er gebeurde: Bloomberg meldde deze week de overname. Het bedrag dat Meta betaalde is niet bekendgemaakt. Met deze overname breidt het bedrijf zijn AI-ambities uit van virtuele metaverse-software naar fysieke hardware.
Wat dit betekent in Nederland: De overname sluit aan bij een bredere trend waarin grote techbedrijven investeren in fysieke AI-toepassingen. Na Amazon met zijn magazijnrobots en Tesla met zijn Optimus-robot, stapt nu ook Meta in deze markt.
Bron: Tweakers
Rechtszaak Musk versus OpenAI van start
beleid | bedrijfsleven
In het kort: In Oakland is de rechtszaak begonnen waarin Elon Musk eist dat OpenAI terugkeert naar zijn oorspronkelijke non-profit status.
Wat er gebeurde: Deze week startte het proces tussen Musk en OpenAI-topman Sam Altman. Musk beweert dat hij misleid is: hij investeerde in OpenAI als non-profit organisatie die veilige AI zou ontwikkelen, maar zag het bedrijf veranderen in een commercieel bedrijf. Rechter Yvonne Gonzalez Rogers waarschuwde Musk om de zaak niet in het openbaar te bespreken buiten de rechtszaal.
Wat dit betekent in Nederland: De uitspraak kan gevolgen hebben voor bedrijven die van non-profit naar commerciële organisaties overstappen. Dit kan relevant zijn voor Nederlandse AI-startups die overheidssubsidies ontvangen met maatschappelijke doelstellingen, vooral wanneer ze later worden overgenomen of van koers veranderen.
Bron: NU.nl
Alleen relevant als je zelf met AI bouwt
Voor teams die LLM-applicaties bouwen, AI-infrastructuur beheren of open-source AI-tools gebruiken.### AMD lanceert Nvidia-concurrent voor AI-developers
infra | tools
In het kort: AMD brengt in juni de Ryzen AI Halo mini-pc uit, een developer-gericht systeem dat concurreert met Nvidia’s DGX Spark.
Wat er gebeurde: De Ryzen AI Halo krijgt een chip met zestien CPU-cores en een krachtige geïntegreerde GPU. AMD positioneert het systeem expliciet tegen Nvidia’s DGX Spark, dat populair is bij AI-ontwikkelaars voor lokaal model-development.
Voor teams die met AI bouwen: Als je team lokale LLM’s traint of test en wil diversifiëren van Nvidia-hardware, biedt dit een alternatief. De geïntegreerde GPU betekent geen aparte graphics card nodig.
Aanbeveling: Wacht op onafhankelijke benchmarks na lancering in juni. Vergelijk vooral inferentie-snelheid en energie-efficiëntie met je huidige Nvidia-setup.
Bron: Tweakers
Chatbots trainen standaard op je input – zo zet je dat uit
tools
In het kort: Bijna alle chatbot-providers gebruiken je gesprekken om hun modellen te trainen, maar je kunt dat uitschakelen.
Wat er gebeurde: Fast Company publiceerde deze week een handleiding om data-training uit te schakelen bij ChatGPT, Claude, Gemini en Perplexity. Bij de meeste diensten is training standaard ingeschakeld. Uitschakelen vereist handmatige actie in privacy-instellingen.
Voor teams die met AI bouwen: Als je team interne tools test met commerciële LLM-API’s, check of je inadvertent bedrijfsgevoelige data deelt voor training. Veel enterprise-contracten sluiten training uit, maar consumer-accounts vaak niet.
Aanbeveling: Audit deze week welke teamleden consumer-accounts gebruiken in plaats van enterprise-licenties. Schakel training uit of migreer naar bedrijfsaccounts.
Bron: Fast Company
Verder nog gezien
- ByteDance gebruikt TikTok-algoritme voor medicijnontwikkeling
- AI detecteert alvleesklierkanker tot twee jaar vóór symptomen
- Deepfake-video’s van wilde dieren verspreiden zich massaal
- Chinese rechtbank verbiedt ontslagen louter om AI in te voeren
- Europa investeert miljarden in AI-factories
Bronnenlijst
Scientias.nl, Futurism, Briefs.co, Tweakers, NU.nl, Tweakers, Fast Company, The Next Web, NBC News, LA Times, Reddit, AI Wereld