De vijf koppen van vandaag
- Meta’s chatbot blijkt de voordeur voor een golf Instagram-hacks
- OpenAI-gebruikers rebelleren: nieuw geheugensysteem vergeet wat belangrijk is
- Software-ingenieur voelt AI aan zijn stoel schudden — en weet niet waar naartoe
- Britse politie mag AI niet meer gebruiken in rechtbankverklaringen
- Workflow verslaat modelkeuze: ontwikkelaars ontdekken dat orchestratie belangrijker is dan intelligentie
Het nieuws van vandaag
Meta’s chatbot wordt wapen tegen gebruikers
Duizenden Instagram-accounts gekaapt via een kwetsbaarheid die de bedoeling van AI op zijn kop zet.
Meta bevestigde deze week dat hackers duizenden Instagram-accounts hebben gekaapt. Ze misbruikten daarvoor de AI-chatbot van het bedrijf. De aanvallers gebruikten de chatbot om wachtwoord-resetverzoeken te versturen en de beveiliging te omzeilen. Precies het tegenovergestelde van wat conversatie-AI zou moeten doen.
Het incident toont een groter probleem. Bedrijven voegen AI toe aan hun klantsystemen, maar denken niet goed na over nieuwe beveiligingsrisico’s.
Beveiligingsbedrijf Rubrik waarschuwde deze week voor een “gevaarlijke beveiligingskloof”. Organisaties zetten AI-agents in voor taken waarbij ze toegang krijgen tot gevoelige data. Maar ze beveiligen deze systemen alsof het simpele chatbots zijn. Terwijl het eigenlijk autonome software is die zelfstandig beslissingen neemt.
ChatGPT onthoudt minder: beter voor OpenAI, slechter voor gebruikers
Het bedrijf verving het geheugensysteem. Gebruikers verloren controle en functionaliteit.
Sinds 4 juni gebruikt ChatGPT een nieuw geheugensysteem met de naam “Dreaming V3”. Het systeem bepaalt zelf wat het onthoudt van eerdere gesprekken. In het oude systeem zagen gebruikers precies welke informatie was opgeslagen. Ze konden zelf items toevoegen of weggooien. Die mogelijkheid is verdwenen.
Betalende gebruikers klagen massaal. Het systeem vergeet belangrijke details, terwijl maandenlang oude informatie zonder reden blijft opduiken. De nieuwe aanpak bespaart rekenkracht doordat er minder context wordt bewaard. Dat drukt de kosten voor OpenAI, dat volgens recente rapporten nog altijd verlies maakt per gebruiker.
Een gebruiker vat het samen: “Zij krijgen een lagere rekening, ik krijg een slechtere assistent.”
”LLMs eten mijn carrière op”
Een software-ingenieur schrijft op wat duizenden collega’s denken maar niet hardop zeggen.
“Ik weet niet meer wat mijn waarde is”, schrijft een software-engineer in een essay dat binnen een dag 866 stemmen op Hacker News kreeg. De auteur beschrijft hoe AI-assistenten zijn werk niet vervangen maar uithollen. Junior-taken worden geautomatiseerd. Senior-rollen draaien steeds meer om het aansturen van AI dan om zelf bouwen. Wat overblijft voelt aan als menselijke tussenpersoon tussen systemen die elkaar bijna begrijpen.
Het essay raakt een gevoelige snaar. Honderden ontwikkelaars herkennen het patroon in de reacties. Bedrijven nemen minder juniors aan. Seniors krijgen minder tijd voor diepgaand werk. De ladder tussen beide verdwijnt. Een respondent vat het samen: “De vaardigheden die ik twintig jaar heb opgebouwd zijn niet waardeloos, maar de markt betaalt er steeds minder voor.”
Britse politie krijgt AI-verbod in rechtszaal
Rechters en advocaten ontdekten verzonnen feiten in processen-verbaal.
Politie in Engeland en Wales mag geen AI meer gebruiken bij het schrijven van verklaringen die als bewijs dienen. Het verbod geldt vanaf nu. Aanleiding zijn meerdere gevallen waarin agenten ChatGPT of vergelijkbare tools inzetten om rapporten op te stellen. Daarbij doken verzonnen details op. De Financial Times meldde dat advocaten in verschillende zaken vals bewijs ontdekten dat rechtstreeks uit AI kwam.
Het is de eerste keer dat een grote rechtsorde AI expliciet uit het strafproces weert. Het gaat niet om een technisch probleem, maar om juridische integriteit. Een proces-verbaal is een verklaring onder ede. AI kan geen eed afleggen en draagt geen verantwoordelijkheid.
via Financial Times
Workflow verslaat modelkeuze
Bij AI draait het steeds minder om het model en steeds meer om hoe je het inzet.
“Een jaar geleden vergeleek ik obsessief AI-modellen”, schrijft een ontwikkelaar op Reddit. “Nu zie ik dat ik naar het verkeerde keek.” De post krijgt veel bijval. Hij beschrijft een verschuiving die zich stilletjes voltrekt: teams die resultaat boeken, onderscheiden zich niet door hun modelkeuze. Ze onderscheiden zich door hoe ze het werk organiseren. Heldere instructies, duidelijke outputs, korte feedbackloops en menselijke controle op kritieke momenten maken het verschil.
Het signaal komt van meerdere kanten. Een analyse op Dev.to beschrijft hoe “structured generation” de kern wordt van AI in productie. Dat betekent: je dwingt het model om gestructureerde output te geven via technische schema’s, niet via slimme instructies. Een andere post bespreekt tools zoals KVarN en Cost.dev. Die verbeteren niet de modellen zelf, maar maken de infrastructuur eromheen efficiënter en goedkoper.
Voor wie zelf met AI bouwt
---
KVarN: Huawei’s KV-cache compressie als vLLM-backend
Native plugin voor het meest gebruikte open-source inference-platform.
Huawei publiceerde KVarN, een drop-in backend voor vLLM die KV-cache quantization toevoegt zonder forken. KV-cache — de interne geheugenbuffer waarin een model context bewaart — is vaak de bottleneck bij lange sessies of hoge concurrency. KVarN comprimeert die cache met 4-8 bit quantization, wat geheugenvereisten halveert zonder noemenswaardige kwaliteitsverlies.
Het is relevant omdat vLLM de facto standaard is voor zelf-gehoste inference, en omdat KVarN als backend plugt in plaats van als fork te leven. Dat betekent: mainstream vLLM-updates blijven compatibel.
Aanbeveling: Test als je multi-turn sessies of agent-workloads draait met memory pressure.
via Hacker News · GitHub
StainFlow: process rewards voor GUI-agents
Entity-tracking in plaats van fixed windows voor fine-grained RL feedback.
Onderzoekers introduceren StainFlow, een methode om GUI-agents te trainen met process rewards gebaseerd op “entity-stain tracking” — denk aan netwerk-flowanalyse, maar dan voor visuele elementen in een interface. Traditionele process reward models gebruiken vaste time windows of milestone-decomposities; StainFlow volgt relevante UI-entities door een taak heen en geeft alleen feedback op frames waar die entities veranderen.
Het lost twee problemen op: vaste windows missen long-range dependencies, en milestone-decompositie is subjectief en schaalt niet naar meerdere geldige paden.
Aanbeveling: Relevant als je RL gebruikt voor GUI-automation en te weinig signaal uit sparse rewards haalt.
via arXiv:2606.07027
SafeGene: herbruikbare safety-adapters
Decoupled safety layers die meegaan bij downstream fine-tuning.
SafeGene biedt een methode om safety alignment te bewaren als een aparte, herbruikbare adapter in plaats van als model-specifieke weights. De module leert een “safety representation” uit het verschil tussen aligned en degraded versies van een model, destilleert dat naar task-transferable vectors, en past die toe op downstream fine-tuned modellen via layer-wise recalibratie.
Het praktische probleem dat het oplost: elk keer dat je een model fine-tunet (ook op schone data), verzwakt de safety alignment. SafeGene laat je die alignment één keer isoleren en dan hergebruiken.
Aanbeveling: Nuttig als je regelmatig modellen fine-tunet en safety recovery steeds opnieuw moet doen.
via arXiv:2606.06519
Towards AI · The Practical Developer · OpenAI Community · arXiv · Hacker News · This Week in Security · Financial Times · Reddit