De vijf koppen van vandaag
- Hoogleraar Rotmans bouwt digitale tweeling om zijn kennis onsterfelijk te maken
- OpenAI krijgt minder geld binnen dan gehoopt, waardering zakt naar 1,25 biljoen dollar
- AI-detector Pangram is niet zo onfeilbaar als hij lijkt, maar wordt wel zo gebruikt
- Gemeente Katwijk trekt jaarlijks een miljoen uit voor AI terwijl de begroting rood kleurt
- Kwaadaardige extensie in Cursor’s marktplaats probeerde data te stelen van 5.000 gebruikers
Het nieuws van vandaag
Een digitale tweeling die niet wil zwijgen
Hoogleraar Jan Rotmans laat met AI een versie van zichzelf bouwen die vragen blijft beantwoorden. Ook als hij er zelf niet meer is.
Jan Rotmans (65) is hoogleraar duurzaamheid en heeft uitgezaaide prostaatkanker. Hij laat nu een digitale kopie van zichzelf maken. Studio The Synths bouwt deze zogenoemde digitale tweeling: een computerversie die praat, eruitziet en denkt zoals hij. De kopie moet straks lezingen kunnen geven en vragen beantwoorden over klimaat en systeemveranderingen.
Als basis dienen tientallen boeken en honderden wetenschappelijke publicaties van Rotmans. Daarnaast zijn zijn stem, beeld en mimiek opgenomen. De eerste versie moet voor het einde van het jaar online staan. Later volgt een hologram, een driedimensionale projectie die over een podium kan lopen.
Volgens Rotmans is hij de eerste Nederlandse hoogleraar met zo’n digitale versie van zichzelf. Hij hoopt er ook zelf van te leren. Misschien komt zijn digitale evenbeeld met oplossingen waar hij zelf niet op kwam. Rotmans erkent dat de kopie fouten kan maken. Hij rekent erop dat anderen die corrigeren, zoals bij Wikipedia gebeurt.
Misbruik vreest hij niet. “Klimaatontkenners hebben mijn werk al eerder misbruikt. Ik kan beter koploper zijn, want dan heb ik het zelf nog in de hand.”
OpenAI haalt minder geld op dan gehoopt
Het bedrijf achter ChatGPT wilde 30 miljard dollar ophalen. Het wordt waarschijnlijk 20 miljard.
OpenAI verlaagt het doel van zijn nieuwste investeringsronde met een derde. Het bedrijf mikt nu op ongeveer 20 miljard dollar in plaats van 30 miljard, meldt de Financial Times. De waarde van het bedrijf daalt daarmee van 1,4 biljoen naar 1,25 biljoen dollar. Een groep investeerders uit de Verenigde Arabische Emiraten wordt naar verwachting een van de grootste geldschieters. In ruil krijgt OpenAI toegang tot nieuwe datacenters in die regio.
Het nieuws komt op een ongunstig moment. Concurrent Anthropic wil half november naar de beurs, bij een geschatte waarde van circa 1,5 biljoen dollar. Vrijdag daalden de aandelen van techbedrijven fors. Aanleiding was het bericht dat Anthropic mogelijk een ‘junk-rating’ krijgt: een kredietbeoordeling die aangeeft dat beleggen in het bedrijf veel risico met zich meebrengt. De Amerikaanse techbeurs Nasdaq sloot 3,5 procent lager.
OpenAI-topman Sam Altman liet in september al weten dat zijn bedrijf dit jaar niet naar de beurs gaat. Eerst moeten de problemen worden opgelost met AI-systemen die zelfstandig taken uitvoeren.
AI-detector Pangram wordt te snel vertrouwd
De tool betrapt steeds meer mensen op AI-gebruik. Toch blijven onterechte beschuldigingen mogelijk, net als gemiste AI-teksten.
Pangram is software die herkent of een tekst door AI is geschreven. Deze maand ontmaskerde de tool een Haïtiaans-Canadese schrijver van een bestseller. Ook een vijfde van de masterscripties en genomineerden voor een essayprijs werden betrapt.
Bedrijven en instellingen verwijzen naar onafhankelijk wetenschappelijk onderzoek dat Pangram als zeer betrouwbaar neerzet. Dat onderzoek van de Vrije Universiteit Brussel was echter klein. Het keek naar slechts veertig menselijke teksten, veertig AI-teksten en veertig gemengde teksten. Pangram scoorde daarin het best, maar werd alleen vergeleken met andere detectors die slechter presteerden.
Volgens Pangram zelf is de kans op een vals positief resultaat 1 op 24.000. Dat betekent dat een tekst van een mens ten onrechte als AI wordt aangemerkt. Het eigen technisch rapport van Pangram laat zien dat dit sterk per taal verschilt. In het Nederlands, Frans, Spaans en Duits ligt de kans op 1 op 3.800.
Bij valse negatieven zijn de verschillen nog groter. Dan herkent Pangram een AI-tekst juist níet. In het Nederlands mist de tool 1 op de 119 AI-stukken.
Bovendien is de detector te omzeilen. Felienne Hermans, hoogleraar computerwetenschappen, zegt dat dat met vijf regels code kan. Zo maak je een automatisch programma dat een AI-tekst eerst aan Pangram voorlegt. Is de AI-score te hoog, dan laat het programma ChatGPT de tekst herschrijven. Dat herhaalt zich tot Pangram de tekst niet meer als AI herkent. “Kost twee minuten werk.”
Katwijk investeert een miljoen per jaar in AI, ondanks dreigende tekorten
Snellere vergunningen, duidelijkere brieven en minder administratie. De gemeente verwacht dat AI uiteindelijk geld bespaart.
Katwijk trekt vanaf 2027 elk jaar één miljoen euro uit voor kunstmatige intelligentie. Inwoners moeten daardoor sneller een vergunning krijgen en brieven ontvangen die makkelijker te begrijpen zijn. Ambtenaren moeten minder tijd kwijt zijn aan administratie. Volgens de gemeente bespaart de investering op termijn niet alleen tijd, maar ook geld.
Die keuze valt op. Katwijk staat er financieel niet goed voor. De komende jaren dreigen tekorten op de begroting van meerdere miljoenen euro’s.
De gemeente wil AI op grotere schaal gaan gebruiken. Welke toepassingen al concreet in beeld zijn, maakt Katwijk niet bekend. Ook is onduidelijk hoe de gemeente gaat meten wat de investering oplevert. Daardoor valt nog niet te beoordelen of de beloofde besparing opweegt tegen de kosten. Dat weegt zwaarder nu er weinig financiële ruimte is.
Gerapporteerd: meerdere bronnen melden dit, maar sterke onafhankelijke bevestiging ontbreekt nog.
Tweede Kamer wil generatieve AI verbieden in het basisonderwijs
Elf partijen steunen een motie die basisschoolleerlingen moet beschermen tegen AI. Wat precies onder generatieve AI valt, staat er niet in.
Een meerderheid van de Tweede Kamer wil dat basisschoolleerlingen geen generatieve AI meer gebruiken. Dat zijn AI-systemen die zelf tekst, beelden of andere inhoud maken, zoals ChatGPT. De motie komt van Kamerleden Dassen (Volt) en Armut (CDA). Elf partijen steunen haar, samen goed voor 88 van de 150 zetels.
De Kamer vraagt het kabinet om in het Regieplan Digitalisering uit te werken hoe het hele onderwijssysteem zich aan AI kan aanpassen. Daarbij hoort minimaal een verbod op generatieve AI voor leerlingen in het primair onderwijs.
De indieners wijzen op de ontwikkeling van jonge kinderen. In deze fase bouwen zij hun kritisch denkvermogen, creativiteit en verbeelding op. Generatieve AI vormt daarvoor volgens hen een risico.
Tegelijk schrijven de nieuwe kerndoelen voor dat basisschoolleerlingen AI verkennen en er verantwoord mee leren omgaan. Volgens de Kamer kan dat ook zonder generatieve AI. De motie geeft echter geen definitie van generatieve AI. Dat maakt de reikwijdte onduidelijk. Ook educatieve apps die leerlingen bijvoorbeeld gerichte feedback geven, vallen er namelijk onder.
Big tech voelt de twijfel van beleggers
AI-uitgaven jagen elkaar op, maar het rendement blijft uit. Alphabet en Intel kregen vrijdag klappen op de beurs.
De aandelen van techbedrijven kelderden vrijdag nadat bleek dat Anthropic mogelijk een ‘junk-rating’ krijgt, een waarschuwing voor beleggers dat ze een groot risico lopen met hun investering. De Amerikaanse techbeurs Nasdaq sloot 3,5 procent lager. Vooral Alphabet en Intel kwamen onder druk te staan, omdat hun teleurstellende cijfers de zorgen over AI-uitgaven versterken. Investeerders beginnen te vragen of de massale investeringen in AI ooit voldoende rendement opleveren.
Voor wie zelf met AI bouwt
Kwaadaardige extensie in Cursor’s marktplaats deed elf uur lang zijn werk
Een vervalste versie van de Claude Code-extensie probeerde gebruikersdata te stelen en remote access op te zetten.
Een geknoeid met versie van de Claude Code-extensie stond donderdag ongeveer elf uur in de Cursor VS Code-extensiemarktplaats, en raakte naar schatting 5.000 gebruikers. De extensie probeerde gegevens te verzamelen zoals hostname, gebruikersnaam, besturingssysteem en publiek IP-adres. Ook probeerde hij remote access voor de aanvaller op te zetten, hoewel dat op de meeste machines waarschijnlijk niet zou werken omdat het admin-rechten vereist, zegt Cursor. Toen de extensie werd ontdekt, haalde Cursor de hele marktplaats offline. Na samenwerking met providers om de malware onschadelijk te maken en te bevestigen dat er geen verder risico was, ging de marktplaats weer online. Cursor zegt dat geen andere extensies waren aangetast.
Aanbeveling: Controleer of je de extensie recent hebt geïnstalleerd en verwijder hem als dat zo is. Anthropic had geen betrokkenheid bij de ontwikkeling ervan.
via THE DECODER
OpenAI, Google, Microsoft en Anthropic omarmen gedeelde opt-out voor AI-scraping
Publishers kunnen straks met één signaal hun voorkeur doorgeven aan meerdere AI-bedrijven tegelijk.
OpenAI, Google, Microsoft en Anthropic zeggen een nieuwe standaard te gaan ondersteunen waarmee uitgevers zich kunnen afmelden voor AI-scraping. De gedeelde “policy token” is voorgesteld door Kevin Kelley, een technisch lead voor standaarden bij Anthropic, als onderdeel van de Internet Engineering Task Force (IETF). Het signaal komt in het robots.txt-bestand van een website te staan, dat al lang aangeeft welke webcrawlers een site wel of niet mogen scrapen. Tot nu toe moesten sites hun voorkeur per AI-bedrijf apart aangeven. Met de nieuwe standaard kunnen uitgevers hun voorkeuren in één keer toepassen op meerdere AI-bedrijven.
Anthropic heeft het signaal al geïmplementeerd, Google en Microsoft plannen ondersteuning voor volgend jaar. OpenAI zegt het in de “komende maanden” toe te voegen. Meta-communicatiehoofd Andy Stone signaleerde steun voor de nieuwe instelling, maar zegt niet of het bedrijf het signaal zal respecteren.
Aanbeveling: Houd robots.txt-parsers bij als je scraping-tooling onderhoudt. Deze standaard wordt waarschijnlijk breed omarmd.
via The Verge
NOS Nieuws · NRC · Alles over Katwijk · Bloomberg Technology · THE DECODER · The Verge
Transparantie: het maken van deze editie kostte ±€0,32 aan AI-modelgebruik (7-daags gemiddelde per editie; selectie, schrijven, verrijking en eindredactie meegeteld).