De vijf koppen van vandaag
- AI wint geen wiskundewedstrijden door te denken — ze heeft gewoon meer gezien
- Eerste gedetineerde voor anti-AI-protest: ‘Vergeet je menselijkheid niet’
- Bedrijven krabbelen terug van “AI voor alles” — maar stopt er ook iemand helemaal?
- Iemand verstopte AI-instructies in een rechtbankdocument om de rechter te manipuleren
- Anthropic maakt voor het eerst zichtbaar wat Claude allemaal mag en moet
Het nieuws van vandaag
AI wint wiskundecompetities niet door slim te zijn, maar door meer te hebben gezien
Zelfs de indrukwekkendste prestaties van grote taalmodellen blijken vaak iets anders dan ze lijken.
GPT-4 en Claude kunnen ingewikkelde wiskundeproblemen oplossen. Dat lijkt op redeneren, maar onderzoeker Davide Piffer laat zien dat het om iets anders gaat: de modellen herkennen patronen uit hun training.
Ze hebben tijdens hun training enorme hoeveelheden wiskundeopgaven gezien. Daardoor zien ze statistische verbanden tussen vraag en oplossing. Ze begrijpen de onderliggende wiskundige principes niet echt.
Het verschil heeft grote gevolgen. Een model dat patronen herkent, faalt bij nieuwe problemen. Een model dat écht redeneert, zou dat niet moeten doen. Piffer vergelijkt het met iemand die alle examenvragen van de afgelopen tien jaar uit zijn hoofd kent: indrukwekkend op de toets, maar zonder begrip van het vak.
Eerste gedetineerde voor anti-AI-protest roept tech-bedrijven op: vergeet je menselijkheid niet
In Connecticut zit iemand vast wegens verstoring van de openbare orde tijdens een AI-demonstratie — een primeur.
Voor het eerst is een demonstrant tegen AI veroordeeld tot een gevangenisstraf. Dat meldt The Guardian. De activist, wiens naam niet bekend is, kreeg een korte celstraf na een protest bij een AI-bedrijf in de Verenigde Staten. Vanuit de gevangenis stuurde de persoon een boodschap naar OpenAI, Anthropic en Meta: “Regain your humanity” — vind je menselijkheid terug.
Protesten tegen technologie zijn niet nieuw, maar een gevangenisstraf voor een AI-demonstratie wel. De zaak laat zien dat de discussie verhardt. Waar debatten over AI lang plaatsvonden in panels en beleidsnota’s, komen ze nu de straat op en de rechtszaal in.
Bedrijven zetten de AI-rem erop — maar wie stapt er helemaal uit?
De vraag op ontwikkelaarsfora: kent iemand een bedrijf dat weer terug is naar handgeschreven code?
Iemand stelde deze week op HackerNews de vraag: ken je bedrijven die hun gebruik van grote taalmodellen hebben teruggeschroefd of helemaal gestopt? Grote taalmodellen zijn AI-systemen die tekst genereren, zoals ChatGPT. De vraag is bedoeld als realiteitscheck. Veel organisaties stapten over van “AI voor alles” naar budgetplafonds en beperkte scenario’s. Maar stopt er ook werkelijk iemand volledig?
De antwoorden zijn genuanceerd. Sommige respondenten melden dat hun werkgever code-generatie heeft beperkt tot specifieke onderdelen. Andere teams gebruiken AI-tools nog wel, maar bouwen ze niet meer structureel in productieprocessen. Niemand meldt een volledige exit. Het gaat eerder om een verschuiving van “standaard aan” naar “bewust kiezen wanneer”.
De sector lijkt door een klassieke Gartner-cyclus te gaan: na de piek van verwachtingen volgt de vallei van desillusie, en daarna pas het plateau van productiviteit. Waar op die curve we nu zitten, is onduidelijk.
Iemand verstopte AI-manipulatie-instructies in een officieel rechtbankdocument
Een zelfstandig procesvorderaar probeerde de AI van de rechter te hacken — met prompt injection in een PDF.
404 Media ontdekte dat iemand in een rechtszaak in Connecticut verborgen instructies in een officieel document heeft gestopt. Het doel: als een rechter of griffier het document met AI zou scannen of samenvatten, zou de AI gemanipuleerde conclusies geven.
De techniek heet prompt injection. Daarbij voeg je nieuwe instructies toe aan een bestaande AI-opdracht, waardoor het systeem iets anders doet dan bedoeld. Het document bevatte onder meer wit-op-wit tekst. Die instructies zouden de AI opdragen bepaalde argumenten zwaarwegender te presenteren dan ze waren.
Of het gewerkt heeft, is onduidelijk. Maar het feit dat iemand het probeerde, is veelzeggend. Rechtbanken wereldwijd experimenteren met AI voor documentanalyse en samenvatting. Dit is het eerste bekende geval waarin iemand daar bewust misbruik van probeerde te maken.
Anthropic maakt openbaar wat Claude mag en moet — en wat niet
Voor het eerst publiceert een groot AI-bedrijf de volledige systeemprompts van zijn model.
Anthropic heeft deze week de volledige systeemprompts van Claude openbaar gemaakt. Dat zijn de instructies die het AI-model van tevoren meekrijgt over hoe het zich moet gedragen. Erin staat wat Claude wel en niet mag zeggen, hoe het met gevoelige onderwerpen omgaat en welke toon het moet aanslaan. Het is de eerste keer dat een groot AI-bedrijf zo openlijk laat zien hoe het zijn model stuurt.
De stap is opmerkelijk omdat dit soort keuzes normaal verborgen blijven. Een voorbeeld: Claude mag geen medische diagnoses stellen, maar wel helpen bij het begrijpen van medische informatie. Het mag geen code schrijven voor malware, maar wel uitleggen hoe beveiligingslekken werken. Zulke grenzen zijn zelden zwart-wit. Anthropic laat nu zien hoe het die afweging maakt.
Voor concurrenten zoals OpenAI en Google is dit een publicitaire uitdaging. Zij houden hun systeemprompts nog grotendeels geheim.
Voor wie zelf met AI bouwt
Wat als een taalmodel nooit iets boven groep-5-niveau heeft gezien?
Onderzoekers trainden een klein model op uitsluitend basisschoolmateriaal — en testten wat het nog wél kan.
Een team publiceerde deze week Little Learner, een taalmodel getraind op uitsluitend teksten tot groep-5-niveau. Geen Wikipedia, geen wetenschappelijke papers, geencode. Het doel: begrijpen welke capaciteiten inherent zijn aan de architectuur, en welke afhankelijk zijn van complexe trainingsdata.
Het model blijkt verrassend capabel in basale taalstructuur, maar faalt bij abstractie en meerstapsredeneringen. Het kan eenvoudige vragen beantwoorden en tekst genereren, maar mist elk begrip van context dat verder gaat dan directe woordrelaties. De bevinding ondersteunt de these uit het eerste item: veel schijnbare intelligentie is gewoon veel data.
Aanbeveling: Interessant voor teams die nadenken over minimale trainingsdata voor domeinspecifieke modellen.
via Little Learner via HackerNews
Hoe privacy bewaren als je externe LLM’s gebruikt voor RAG
Onderzoekers presenteren een framework dat gevoelige informatie verbergt vóór een query naar een externe generator gaat.
Een nieuw paper op arXiv beschrijft hoe je Retrieval-Augmented Generation (RAG) kunt uitvoeren zonder dat de externe LLM toegang krijgt tot confidentiële informatie. De methode werkt door gevoelige fragmenten uit opgehaalde documenten te filteren of te anonimiseren voordat ze naar de generator worden gestuurd.
Het lost een reëel probleem op: veel organisaties willen RAG gebruiken met modellen als GPT-4 of Claude, maar kunnen niet riskeren dat bedrijfsvertrouwelijke data naar externe servers gaat. De voorgestelde oplossing voegt een tussenlaag toe die privacygevoelige elementen detecteert en maskeert.
Aanbeveling: Relevant als je RAG overweegt met externe providers en compliance een issue is.
via arXiv 2608.12675
HackerNews · The Guardian · 404 Media · Anthropic · arXiv
Transparantie: het maken van deze editie kostte ±€0,20 aan AI-modelgebruik (7-daags gemiddelde per editie; selectie, schrijven, verrijking en eindredactie meegeteld).