De vijf koppen van vandaag
- Meta’s chatbot werd een achterdeur: 20.000 Instagram-accounts gehackt via AI-hulp
- Badmeesters krijgen digitale backup: zwembaden zetten camera’s met AI in tegen verdrinking
- Florida klaagt OpenAI aan, Trump wil aandelen in AI-bedrijven voor de overheid
- Berkeley ziet faalcijfers exploderen: docenten wijzen naar ChatGPT-misbruik
- Anthropic: hackers gebruiken onze AI steeds vaker voor cyberaanvallen
Het nieuws van vandaag
Meta’s chatbot werd een wachtwoord-reset backdoor
Tussen april en juni werden 20.225 Instagram-accounts gekaapt via een bug die Meta gisteren pas bevestigde.
Meta AI, de assistent in Instagram, Facebook en WhatsApp, kreeg eerder dit jaar een functie om gebruikers te helpen hun wachtwoord te resetten. Maar hackers ontdekten al snel dat de chatbot simpelweg deed wat er gevraagd werd: accounts resetten, zonder te controleren of de aanvrager ook echt de eigenaar was.
De kwetsbaarheid was al weken bekend bij beveiligingsonderzoekers. Meta bevestigde het probleem gisteren in een melding aan de procureur-generaal van Maine, waar dertig slachtoffers wonen. Het is de eerste keer dat Meta een getal noemt. De functie is inmiddels uitgeschakeld.
Het voorbeeld laat zien wat er misgaat wanneer een AI-assistent wordt gekoppeld aan gevoelige systemen als wachtwoordherstel, zonder dat er voldoende beveiligingslagen worden ingebouwd. De chatbot kon niet onderscheiden wanneer een verzoek legitiem was en wanneer niet.
AI in het zwembad: alarm voordat de badmeester iets ziet
Nederlandse zwembaden testen camera’s die automatisch detecteren wanneer iemand onder water in de problemen komt.
Meerdere Nederlandse zwembaden testen een nieuw camerasysteem dat zwemmers in de gaten houdt. De camera’s hangen boven het water en volgen alle bewegingen. Ligt iemand te lang stil op de bodem, of stopt de beweging plotseling? Dan gaat er een alarm af.
Het systeem waarschuwt sneller dan een badmeester kan zien, vooral wanneer het druk is. Bij verdrinking telt elke seconde. De software is getraind met duizenden uren zwembadbeelden. Daardoor herkent het risicovolle situaties zoals roerloos op de bodem liggen.
Badmeesters blijven verantwoordelijk voor de veiligheid. Het systeem werkt als extra waarschuwing. De eerste testresultaten zijn positief: de technologie reageert sneller dan menselijke waarneming alleen.
via De Telegraaf
Florida klaagt OpenAI aan, Trump wil aandelen
Een Republikeinse staat stapt naar de rechter. De president denkt ondertussen hardop na over overheidsaandelen in AI-bedrijven.
Florida heeft OpenAI en CEO Sam Altman aangeklaagd. De staat stelt dat het bedrijf zijn producten heeft gepromoot terwijl het wist dat ze gebruikers konden schaden. Het is opvallend dat juist Florida dit doet. De staat wordt geleid door de pro-business gouverneur Ron DeSantis, die normaal gesproken terughoudend is met regulering.
Tegelijk liet Trump weten dat hij overweegt om overheidsaandelen te nemen in grote AI-bedrijven zoals OpenAI en Anthropic. “Er zit iets interessants in, waarbij het bijna een partnerschap wordt. Het Amerikaanse volk kan profiteren van het succes van AI, en daardoor zullen ze het beter vinden,” zei Trump. Het idee lijkt op het Noorse staatsfondsmodel, maar dan specifiek voor AI.
Ondertussen blijft Meta de release van zijn nieuwste AI-model uitstellen. Ontwikkelaars klagen dat deadlines steeds verder verschuiven zonder duidelijke uitleg.
Berkeley ziet faalcijfers exploderen door ChatGPT
Het percentage onvoldoendes in computerwetenschappen ligt dit voorjaar veel hoger dan in eerdere semesters.
Bij UC Berkeley kreeg 35,3% van de studenten in het vak CS 10 dit voorjaar een onvoldoende. In CS 61A was dat 10,6%. Beide cijfers liggen flink hoger dan vorig jaar. Docenten zien drie oorzaken: studenten leunen te veel op AI-tools, de wiskundige basis is zwak, en er zijn te weinig docenten.
Het probleem: studenten die ChatGPT gebruiken voor hun opdrachten begrijpen de onderliggende concepten niet. Bij tentamens, waar geen AI-hulp is toegestaan, gaat het mis.
De universiteit wil nieuwe regels opstellen voor AI-gebruik. Maar de vraag is lastig: hoe leer je programmeren in een wereld waar machines zelf code schrijven? Een verbod werkt niet, maar onbeperkt toestaan leidt tot studenten die niets leren.
Anthropic waarschuwt: hackers gebruiken onze AI vaker
Het bedrijf achter Claude ziet een toename in misbruik door cyberaanvallers, maar blijft vaag over de schaal.
Anthropic, het bedrijf achter chatbot Claude, meldt dat hackers hun AI steeds vaker misbruiken voor cyberaanvallen. Het gaat om phishing-campagnes, het schrijven van schadelijke software en het automatiseren van online oplichting. Het bedrijf heeft filters ingebouwd om dit tegen te gaan, maar erkent tegelijk dat aanvallers die beveiliging kunnen omzeilen.
De waarschuwing komt terwijl meerdere AI-bedrijven worstelen met de spanning tussen openheid en veiligheid. OpenAI, Google en Anthropic publiceren regelmatig updates over hun beveiligingsmaatregelen. Maar onafhankelijke onderzoekers tonen keer op keer aan dat je die met simpele trucs kunt omzeilen.
De Nederlandse cybersecurity-expert Kevin Zwaan van Q-Cyber demonstreerde recent hoe ChatGPT zijn eigen beveiliging binnen enkele minuten omzeilt. Zijn conclusie: alle grote taalmodellen zijn “inherent onveilig”.
S&P 500 blokkeert snelle entry voor SpaceX én AI-bedrijven
De beursindex weigert zijn regels aan te passen, waardoor OpenAI en Anthropic voorlopig buitenspel blijven.
SpaceX hoopte snel toegelaten te worden tot de S&P 500, de belangrijkste beursindex van de VS. De index-commissie zei nee: het bedrijf voldoet niet aan de standaard eis dat je vier opeenvolgende kwartalen winst moet maken. Die afwijzing heeft bredere gevolgen: ook OpenAI en Anthropic, die allebei nog niet winstgevend zijn, kunnen nu niet op een snelle entry rekenen.
Voor AI-bedrijven is dit een probleem. Veel institutionele beleggers mogen alleen in bedrijven investeren die in grote indices zitten. Zolang OpenAI en Anthropic daarbuiten blijven, missen ze toegang tot miljarden dollars aan kapitaal. De beslissing laat zien dat de financiële wereld AI-hype en AI-winstgevendheid nog altijd als twee verschillende dingen ziet.
via Ars Technica via HackerNews
NRC · De Telegraaf · Techzine · Newsbit · The Practical Developer · Slashdot · Ars Technica · WSJ · Mother Jones · MarketScreener