Radar · NL Radar± 6 min leestijd

Google's AI-zoekmachine vormt 'onaanvaardbaar risico' voor scholieren, kan niet worden uitgezet

AI Radar Nederland 19 juli (Avond): Google's AI-zoekmachine vormt 'onaanvaardbaar risico' voor scholieren, kan niet worden uitgezet. Plus 4 andere koppen.

  • 225 bronnen gescand
  • 2 high-impact signalen

De vijf koppen van vandaag

  1. Google’s AI-zoekmachine vormt ‘onaanvaardbaar risico’ voor scholieren, kan niet worden uitgezet
  2. Android-bug laat vreemden via Gemini WhatsApp-berichten sturen zonder je pincode te kennen
  3. Financeteams racen met AI, maar durven het niet te vertrouwen op cruciale momenten
  4. Klimaatactivisten gooien zuurballonnen naar Microsoft-datacentrum in Amsterdam
  5. Chinese AI-startup Moonshot bereid beursgang voor na doorbraak — mogelijk binnen half jaar

Het nieuws van vandaag

Google kan AI Search voor scholen niet uitschakelen — en dat is een probleem

Kinderwaakhond Common Sense Media adviseert scholieren de zoekfunctie volledig te mijden.

OnderwijsPrivacy

Google’s AI-aangedreven zoekfunctie vormt volgens kinderwaakhond Common Sense Media een “onaanvaardbaar risico” voor jonge gebruikers. Het probleem: de AI-modus maakt huiswerk klaar voor leerlingen, herhaalt desinformatie met een air van autoriteit, en scholen kunnen de functie niet uitschakelen. Waar traditionele zoekresultaten nog duidelijk maakten dat je zelf bronnen moest beoordelen, presenteert AI Mode antwoorden als feiten — ook als ze fout zijn.

De organisatie concludeert dat studenten Google helemaal moeten vermijden totdat er betere controles komen. Google zelf stelt dat scholen Workspace for Education kunnen gebruiken voor veiligere zoekopties, maar dat lost het probleem voor de miljoenen leerlingen die gewoon Google.com gebruiken niet op.

Gemini laat vreemden WhatsApp-berichten sturen zonder je pincode

Een bug in Android 16 maakt het vergrendelde scherm minder veilig dan bedoeld.

PrivacyBeveiliging

Sinds mei ontvangen meerdere Android-gebruikers meldingen van een bug die iedereen met fysieke toegang tot je telefoon WhatsApp- en sms-berichten laat versturen via Gemini — zonder je pincode in te voeren. Het lek werkt alleen onder specifieke omstandigheden: Gemini moet vanaf het vergrendelde scherm toegankelijk zijn en de gebruiker moet de assistent toestemming hebben gegeven berichten te versturen. Maar als die voorwaarden kloppen, hoeft een aanvaller alleen “Hey Google” te zeggen.

Google bevestigt het probleem en zegt dat een fix al wordt uitgerold. Maar de timing is gevoelig: AI-assistenten krijgen steeds meer machtigingen, en elke beveiligingsfout raakt daarmee meer functionaliteit.

Financeteams racen met AI, maar vertrouwen erop blijft achter

De paradox van 2026: iedereen experimenteert, niemand durft echt te automatiseren.

Bedrijfsleven

Financiële teams investeren massaal in AI-tools, maar durven de systemen niet te vertrouwen op momenten dat het echt telt. Volgens nieuw onderzoek experimenteren steeds meer finance-afdelingen met automatisering, maar blijven cruciale beslissingen — budgettering, rapportage, risicobeoordeling — strikt menselijk werk. De verklaring: gebrek aan transparantie over hoe AI tot uitkomsten komt en angst voor fouten die achteraf onverklaarbaar blijken.

Het resultaat is een hybride situatie waarin teams wel AI gebruiken voor dataverzameling en analyse, maar de uiteindelijke beslissing nog altijd handmatig nemen. Dat kost efficiency, maar voorkomt ook dat een onbegrepen fout zich door de hele organisatie verspreidt.

Klimaatactivisten gooien zuurballonnen naar Microsoft-datacentrum

Extinction Rebellion Amsterdam escaleert protest tegen AI-infrastructuur met chemisch mengsel.

KlimaatBedrijfsleven

Activisten van Extinction Rebellion hebben waterballonnen gevuld met een mengsel van waterstofperoxide, azijnzuur, zout en acrylverf naar een Microsoft-datacentrum in aanbouw in Amsterdam gegooid. Het zuur tast beton aan; de actie is bedoeld als statement tegen de klimaatimpact van AI-infrastructuur. De groep eiste verantwoordelijkheid voor de actie en noemde datacentra “milieuvernietigende infrastructuur die alleen dient om winst te maken”.

Het is niet de eerste keer dat datacentra doelwit worden van protest, maar het gebruik van chemicaliën markeert een escalatie. Microsoft heeft nog niet gereageerd op de actie.

via Futurism

ChatGPT maakt steeds meer fouten — terwijl hij ‘geavanceerder’ wordt

Gebruikers rapporteren inconsistent gedrag, vergeten context en onterechte zekerheid.

AI-ontwikkeling

Gebruikers van ChatGPT en Claude melden op forums dat de nieuwste versies vaker instructies negeren, context vergeten en met onterechte zekerheid fouten maken. Een ontwikkelaar schrijft: “Het probleem is niet langer hallucinatie. Het is inconsistent volgen van instructies, vergeten context, en claimen dat werk is geverifieerd terwijl dat niet zo is.” De klachten richten zich op zowel OpenAI’s GPT-4 als Anthropic’s Claude, en suggereren dat meer capaciteit niet automatisch meer betrouwbaarheid betekent.

OpenAI en Anthropic hebben de meldingen niet bevestigd, maar de discussie raakt een breder punt: naarmate modellen complexer worden, wordt het moeilijker te voorspellen wanneer ze falen — en waarom.

via OpenAI Community Forum

Alibaba’s Qwen3.8 claimt tweede plek — direct achter Claude Fable 5

Chinese AI-startup kondigde beursgang aan binnen zes maanden na doorbraak.

AI-ontwikkelingBedrijfsleven

Alibaba heeft een preview vrijgegeven van Qwen3.8-Max, een nieuw AI-model met 2,4 biljoen parameters dat volgens het bedrijf “alleen achter Anthropic’s Claude Fable 5” staat. Het model is beschikbaar via Alibaba’s Token Plan en QoderWork-platform. Tegelijk kondigde Chinese startup Moonshot AI aan binnen zes maanden naar de beurs te willen, na een doorbraak in AI-capaciteiten. De timing is opvallend: beide bedrijven versnellen commercialisering op het moment dat westerse concurrenten te maken krijgen met kosten- en vertrouwensvragen.

China’s AI-sector accelereert op enterprise-toepassingen. Op de World Artificial Intelligence Conference in Shanghai presenteerden Ant Group, Tencent, Alibaba en Baidu nieuwe zakelijke AI-agenten — systemen die geautomatiseerd taken uitvoeren voor bedrijfsklanten.

via South China Morning Post

Voor wie zelf met AI bouwt

Anthropic’s Claude Tag voor Slack triggert op onbedoelde content

Beveiligingsstart-up Tego AI waarschuwt dat de Slack-integratie acties kan uitvoeren zonder expliciete opdracht.

BeveiligingTools

Cybersecurity-start-up Tego AI rapporteert dat Anthropic’s nieuwe Slack-integratie, Claude Tag, kan reageren op onbedoelde berichten en daardoor ongeautoriseerde acties in enterprise-systemen kan triggeren. De integratie, bedoeld om Claude direct vanuit Slack toegankelijk te maken, interpreteert soms standaard Slack-conversaties als commando’s — met risico op datadiefstal of gewijzigde configuraties als gevolg.

Anthropic heeft de bevindingen nog niet publiekelijk bevestigd. Tego AI raadt teams aan de integratie te testen in een geïsoleerde omgeving voordat hij in productie gaat, en triggers expliciet te configureren in plaats van te vertrouwen op standaardinstellingen.

Aanbeveling: Test in een staging-omgeving met beperkte permissies voordat je Claude Tag breeduit implementeert.

via Analytics Insight


Digital Trends · CFO.nl · The Next Web · Futurism · OpenAI Community Forum · South China Morning Post · Analytics Insight


Transparantie: het maken van deze editie kostte ±€0,28 aan AI-modelgebruik (7-daags gemiddelde per editie; selectie, schrijven, verrijking en eindredactie meegeteld).

Pas begonnen met AI? Begin hier