De vijf koppen van vandaag
- Hackers stelen 6,3 miljard dollar via nepsollicitatie bij Binance, Noord-Korea ontkent
- Europees Hof: Google-AI mag betaalmuren niet omzeilen en nieuwsartikelen niet imiteren
- Philips schikt apneu-zaak en zet vol in op AI: MRI-scan in 30 minuten in plaats van 60
- CrowdStrike koopt twee AI-beveiligingsbedrijven en lanceert noodknop voor malafide agents
- Apple verbiedt dating-apps en AI-companions voor minderjarigen, bezorgdheid over NSFW-functies
Het nieuws van vandaag
Hackers stalen 6,3 miljard via een nepsollicitatie, AI-tool gaf toegang tot cryptoportemonnees
Noord-Korea ontkent betrokkenheid, maar de FBI wijst naar Pyongyang. Binance compenseert alle slachtoffers.
Hackers hebben 6,3 miljard dollar aan cryptomunten buitgemaakt bij cryptobeurs Binance. Het is de grootste cryptoroof ooit. De aanvallers kwamen binnen via een nepsollicitatie.
Een medewerker van Binance solliciteerde naar een andere baan. Hij sprak twee keer via videobellen met iemand die zich voordeed als zijn toekomstige leidinggevende. Daarna kreeg hij een opdracht die hij moest downloaden. Die bevatte kwaadaardige code. Via zijn besmette laptop kregen de hackers toegang tot een interne AI-tool. Binance gebruikt die tool om cryptoportemonnees te beheren.
De aanval begon al in juni. Toen downloadde een medewerker een AI-tool die door aanvallers was aangepast. Binance verving die tool en wijzigde de inloggegevens. Toch slaagden de hackers er in september alsnog in binnen te komen, dit keer via de nepsollicitatie.
Volgens de FBI zit Noord-Korea achter de roof. Kim Yo-jong, de zus van leider Kim Jong-un, noemt die beschuldiging een “ernstige politieke provocatie”. Binance zegt dit jaar al 57 aanvallen te hebben voorkomen die met Noord-Korea in verband worden gebracht. Daarbij gebruikten de aanvallers vaak nep-apps voor videovergaderen en software waarin ongemerkt kwaadaardige code was verstopt.
Adviseur Europees Hof: Google-chatbot mag betaalmuren niet omzeilen en artikelen niet nabootsen
Een Hongaarse zaak over een verhaal over dolfijnen trekt een grens voor AI-samenvattingen van nieuws.
Een AI-chatbot mag geen betaalmuren omzeilen en mag nieuwsartikelen niet nabootsen. Dat stelt de advocaat-generaal van het Europees Hof van Justitie. Dit is een onafhankelijke adviseur van het Hof. Pure nieuwsfeiten samenvatten mag volgens hem wel. Het bedrijf achter de chatbot is aansprakelijk voor de manier waarop die met journalistieke artikelen omgaat.
De zaak begon bij Gemini, de AI-chatbot van Google. Gemini gaf een gedetailleerde samenvatting van een artikel dat achter een betaalmuur stond. Daarop stapte een Hongaarse uitgever naar de rechter.
Het artikel ging over het plan van een Hongaarse zanger om dolfijnen uit te zetten in het Balatonmeer. Gemini haalde het stuk op zodra het online stond en gaf gebruikers een uitgebreide samenvatting. Nieuwsuitgevers vinden dat dit hun verdienmodel ondermijnt. Door AI-samenvattingen bezoeken minder mensen hun websites. Bovendien geven uitgevers vaak geen toestemming om hun artikelen automatisch te laten verzamelen. Ze krijgen er ook geen vergoeding voor.
Philips sluit vijf jaar durende rechtszaak af en zet in op AI in medische apparatuur
Topman Jakobs: MRI-scans duren nu 30 minuten in plaats van 60, zodat ziekenhuizen meer patiënten kunnen helpen.
Philips betaalt 288 miljoen euro aan de Amerikaanse justitie. Daarmee schikt het bedrijf de zaak rond haperende apparaten voor slaapapneu, een aandoening waarbij mensen tijdens de slaap korte tijd stoppen met ademen. Het bedrag had Philips al gereserveerd in de cijfers over het derde kwartaal.
De affaire liep vijf jaar. Philips betaalde eerder al 1,1 miljard dollar aan schikkingen met Amerikaanse gebruikers van de apparaten. Nu de zaak is afgerond, richt het concern zich volledig op de ontwikkeling van nieuwe medische apparatuur.
Daarbij speelt AI een steeds grotere rol, en die investeringen leveren inmiddels resultaat op. Bestuursvoorzitter Roy Jakobs geeft als voorbeeld de MRI-scan van het hart. Zo’n scan duurde normaal zestig minuten. Met AI kan Philips de beelden sneller maken, waardoor de scan nog maar half zo lang duurt.
“Fijn voor de patiënt en het ziekenhuis kan de wachttijden verkorten omdat ze nu twee keer zo veel mensen kunnen helpen voor dezelfde kosten,” aldus Jakobs.
De omzet van Philips groeit, en ook het aantal nieuwe orders neemt toe. De winst daalde wel, naar 28 miljoen euro. In dat cijfer is de Amerikaanse schikking al verwerkt.
CrowdStrike koopt Fiddler en Dreadnode, lanceert noodknop voor malafide AI-agents
Gedraagt een AI-agent zich verkeerd, dan kan een beheerder hem nu stoppen op de plek waar hij draait. Ook kan hij voorkomen dat de agent opnieuw start.
Beveiligingsbedrijf CrowdStrike neemt twee AI-beveiligingsbedrijven over: Fiddler AI en Dreadnode. Beide richten zich op AI-agents. Dat zijn programma’s die zelfstandig taken uitvoeren, zoals e-mails versturen of systemen aanpassen.
Fiddler legt vast wat zulke agents doen en waarom. Het werkt vergelijkbaar met de zwarte doos in een vliegtuig. Dreadnode zoekt naar zwakke plekken in AI-modellen, toepassingen en agents, voordat die in gebruik gaan. Het bedrijf gebruikt daarvoor meer dan honderd aanvalsstrategieën.
CrowdStrike betaalt de overnames grotendeels in contanten en voor een klein deel in aandelen. De deals worden naar verwachting afgerond in het vierde kwartaal van dit boekjaar.
Tegelijk introduceert CrowdStrike een AI Kill Switch in zijn beveiligingsproduct Falcon Guardian. Daarmee kan een beheerder een agent die zich verkeerd gedraagt direct stopzetten. Ook kan hij blokkeren dat de agent opnieuw wordt opgestart. De agent verliest daarbij zijn toegang tot het bedrijfsnetwerk. Elke actie wordt vastgelegd.
Voorlopig grijpt de sensor van CrowdStrike in op de gateway. Dat is het punt waar netwerkverkeer het bedrijf in- en uitgaat. Binnenkort kan dat ook op het endpoint: het apparaat waarop de agent zelf draait, zoals een laptop of server. De noodknop is vandaag beschikbaar. De producten van Fiddler en Dreadnode volgen in het vierde kwartaal.
Apple verbiedt dating-apps en AI-companions voor minderjarigen, ook seksueel getinte functies onder de loep
Vanaf 16 november moeten apps die romantische relaties faciliteren een 18+-rating krijgen. Dat geldt ook voor apps met AI-personages.
Apple scherpt de regels van de App Store aan om minderjarigen beter te beschermen. Vanaf 16 november krijgen alle apps voor dating of romantische relaties verplicht een 18+-rating.
Dat raakt niet alleen bekende dating-apps. Ook zogeheten AI-companions vallen eronder. Dat zijn apps waarin gebruikers chatten met een AI-personage dat fungeert als vriend, partner of fantasiefiguur. Voorbeelden zijn Character.AI en Replika. Zulke apps richten zich vaak juist op jongeren. Gebruikers kunnen er bovendien vaak NSFW-functies ontgrendelen: seksueel expliciete of andere ongepaste inhoud.
Ontwikkelaars moeten voortaan nieuwe labels toevoegen die beschrijven wat hun app doet. Ook apps die de echte locatie van een gebruiker delen met anderen of met een groep, moeten dat vermelden. In Brazilië geldt een uitzondering. Gezinsapps die locatie delen, kunnen daar een officiële rating van de overheid krijgen. Ze krijgen dan niet automatisch een 18+-label.
Volgens Apple zijn de populairste AI-companion-apps wereldwijd al 220 miljoen keer gedownload.
Google dwingt scholen te kiezen: AI-functies accepteren of Search verliezen
Scholen die AI-features blokkeren, kunnen straks geen toegang meer geven tot Google Search, ondanks de dominantie van Chromebooks in klaslokalen.
Google heeft aangekondigd dat AI-tools voor basisscholen en middelbare scholen vanaf volgend jaar standaard uitgeschakeld zijn, tenzij schoolbestuurders ze expliciet aanzetten. Dat klinkt als een concessie aan scholen die zich zorgen maken over AI in het onderwijs, maar de keerzijde is dat scholen die AI-functies blokkeren straks geen toegang meer krijgen tot Google Search. Chris Phillips, vicepresident onderwijs bij Google, legt uit dat “Search en AI diep geïntegreerd zijn”, dus als een school AI blokkeert, kunnen leerlingen Search niet meer gebruiken.
Voor scholen is dit een lastige keuze. Leraren willen vaak niet dat leerlingen AI Overviews gebruiken voor onderzoek of huiswerk, maar wel dat ze bronnen kunnen zoeken. Google-apps domineren in klaslokalen en Chromebooks zijn wijdverspreid. De wijziging gaat in nadat Google in gesprek is gegaan met scholen, leraren en beleidsmakers. Tegelijk lanceert Google Guided Learning, een AI-tool die als tutor functioneert en leerlingen dieper begrip moet bijbrengen in plaats van directe antwoorden te geven.
DNB: Nederland kan economisch profiteren van AI, maar alleen als succesvolle innovaties ruimte krijgen
De echte winst ontstaat pas wanneer bedrijven AI breed toepassen en werknemers daarin meenemen, zegt de centrale bank.
De Nederlandsche Bank concludeert in een nieuw rapport dat Nederland economisch voordeel kan halen uit AI, maar dat de winst niet in de technologie zelf zit. Die ontstaat pas wanneer bedrijven erin slagen om AI breed en effectief toe te passen, werknemers daarin mee te nemen en succesvolle innovaties de ruimte te geven om door te groeien. Voorop staat het integreren van AI in werkprocessen. Nederland hoeft daarvoor niet zelf de meest geavanceerde AI-modellen te ontwikkelen.
DNB schetst voorwaarden voor hogere productiviteit: bedrijven moeten AI inzetten om werk te verbeteren, niet om personeel weg te bezuinigen. Ook moeten innovaties die werken de kans krijgen om te schalen. Het rapport sluit aan bij eerdere waarschuwingen dat AI-investeringen pas renderen als de organisatie zelf mee verandert.
Voor wie zelf met AI bouwt
Trajectory haalt 45 miljoen op om post-training te automatiseren voor niet-technische experts
Bedrijven kunnen open source modellen via feedback doortrainen zonder interne onderzoeksteams of dure consultants.
Trajectory, een startup van drie Stanford-klasgenoten met ervaring bij Google DeepMind en Apple, heeft 45 miljoen dollar opgehaald in een Series A onder leiding van Sequoia. Het bedrijf automatiseert post-training: bedrijven kunnen een open source model koppelen aan hun applicatie, feedback verzamelen over hoe het model presteert en dat model vervolgens doortrainen op gespecialiseerde taken. Advocaten, artsen en andere specialisten kunnen zelf de modellen verbeteren zonder ontwikkelteam.
Klanten zoals Harvey en Rogo gebruiken het platform om open source modellen te leren redeneren als ervaren advocaten of financiële analisten. Trajectory houdt mensen betrokken bij het trainingsproces om onbedoelde of gevaarlijke uitkomsten te voorkomen, in tegenstelling tot recursive self-improvement waarbij AI zichzelf verbetert zonder menselijke tussenkomst. Het team telt 18 mensen, waaronder onderzoekers van OpenAI, Stripe en Netflix.
Aanbeveling: Bekijk Trajectory als alternatief voor het inhuren van forward-deployed engineers als je open source modellen wilt finetunen op domeinspecifieke taken.
via TechCrunch
AD.nl · NRC · NOS · The Next Web · TechCrunch · Computable
Transparantie: het maken van deze editie kostte ±€0,45 aan AI-modelgebruik (7-daags gemiddelde per editie; selectie, schrijven, verrijking en eindredactie meegeteld).