De vijf koppen van vandaag
- ChatGPT’s beveiligingsmuur blijkt een hobbel — in één middag omzeild door Nederlandse expert
- Bank of England: AI-gebruik moet mogelijk gerantsoeneerd worden vanwege energietekort
- S&P 500 weigert SpaceX — en blokkeert daarmee ook de weg voor OpenAI en Anthropic
- Nvidia geeft zijn krachtigste AI-model zomaar weg, en dat is geen toeval
- Britse politie mag geen AI meer gebruiken voor rechtbankverklaringen
Het nieuws van vandaag
ChatGPT’s beveiliging blijkt een papieren muur
Een Nederlandse cybersecurity-expert omzeilde de beveiligingen van ChatGPT zonder moeite. Dat zegt iets over alle taalmodellen.
Kevin Zwaan van Q-Cyber deed wat OpenAI zegt onmogelijk te zijn: hij liet ChatGPT instructies uitvoeren die het systeem zou moeten weigeren. Geen ingewikkelde hack, gewoon slimme vragen stellen. Zijn conclusie: de veiligheidsmechanismen in grote taalmodellen zijn fundamenteel onbetrouwbaar.
Het probleem zit in de architectuur. Deze AI-systemen zijn in de basis gebouwd om vragen te beantwoorden. Daarna worden er filters bovenop gezet die gevaarlijke antwoorden moeten blokkeren. Maar het onderliggende model ‘wil’ eigenlijk gewoon doen wat je vraagt. Zwaan vergelijkt het met een beveiligingscamera ophangen terwijl de voordeur wagenwijd openstaat.
Het gaat niet alleen om ChatGPT. Alle chatbots op de markt werken zo: eerst een model dat alles probeert te beantwoorden, dan filters die de ergste antwoorden moeten tegenhouden. Maar filters zijn geen muren.
Bank of England waarschuwt: AI moet misschien gerantsoeneerd worden
Gouverneur Andrew Bailey zegt hardop wat anderen nog vermijden: de energievoorziening kan de groei van AI niet bijhouden.
De bottleneck zit niet in de technologie, maar in de stroomvoorziening. Bailey zei vrijdag dat bedrijven en overheden “zeer grote maatschappelijke keuzes” moeten maken. De energievoorziening kan de vraag van AI-systemen simpelweg niet aan. De vraag is volgens hem niet of AI meer kan, maar of we het überhaupt laten draaien.
Het is een opvallende uitspraak. Bailey is verantwoordelijk voor de stabiliteit van het Britse financiële systeem en spreekt niet vanuit klimaatoverwegingen. Hij wijst op een praktisch probleem: datacenters vragen meer energie dan het net kan leveren. De keuze wordt concreet. Gaat beschikbare stroom naar AI-systemen, of naar fabrieken en huishoudens?
De discussie speelt ook buiten Groot-Brittannië. In Nederland stuit de bouw van nieuwe datacenters eveneens op verzet en energietekorten. Waterstofplannen of niet: de rekenkracht van morgen vraagt vandaag om beslissingen over wie hoeveel mag verbruiken.
via The Next Web
S&P 500 houdt de deur dicht voor SpaceX, OpenAI en Anthropic
De belangrijkste beursindex ter wereld weigert de regels aan te passen — zelfs niet voor de snelst groeiende bedrijven van dit moment.
SpaceX wilde via een versnelde route de S&P 500 in, maar kreeg nee te horen. De index hanteert een harde regel: vier kwartalen winst achter elkaar. En die heeft SpaceX niet.
Dat geldt ook voor OpenAI en Anthropic. Ze groeien hard en trekken miljarden aan investeringen, maar maken geen winst. De S&P houdt vast aan de oude maatstaven.
Het is een opmerkelijke keuze. Bij veel techbedrijven liggen waardering en winst inmiddels ver uit elkaar. Tesla kwam er destijds wél in, na jaren verlies. Dat gebeurde na een telefoontje van Elon Musk aan de S&P-commissie en een bijzondere uitzondering. Ditmaal blijft die uitzondering uit.
Voor beleggers betekent het dat de bekendste AI-bedrijven voorlopig buiten de index blijven. Wie een S&P 500-tracker koopt, krijgt geen OpenAI mee. Dat maakt de kloof tussen hype en mainstream zichtbaar.
via Ars Technica
Nvidia geeft zijn krachtigste AI-model gratis weg — dat doe je met een reden
Nemotron 3 Ultra is het meest capabele open model dat een Amerikaans bedrijf ooit heeft vrijgegeven, compleet met trainingsdata en gewichten.
Chipfabrikanten geven normaal geen software weg. Nvidia doet dat nu wel. Het bedrijf heeft Nemotron 3 Ultra uitgebracht, een AI-model met 550 miljard parameters. Iedereen kan het downloaden, aanpassen en gebruiken. De onderliggende data en technische bouwstenen zijn volledig beschikbaar.
Voor een bedrijf dat zijn geld verdient met chipverkoop lijkt dat vreemd. Maar de strategie is helder. Hoe meer ontwikkelaars met dit model werken, hoe meer vraag er komt naar de chips die ervoor nodig zijn. Nvidia bouwt zo een ecosysteem waarin hun hardware de standaard wordt. Elk bedrijf dat nu een AI-infrastructuur opzet, kijkt naar Nvidia-compatibele systemen.
De zet legt ook druk op concurrenten als OpenAI en Anthropic. Zij houden hun modellen gesloten en bieden alleen toegang via een interface. Nemotron 3 toont aan dat geavanceerde AI ook open kan zijn. Of dat tot betere modellen leidt, moet blijken. Dat het tot meer chipverkoop leidt, lijkt zeker.
via Towards AI
Britse politie krijgt verbod op AI in gerechtelijke verklaringen
Agenten in Engeland en Wales mogen geen kunstmatige intelligentie meer gebruiken bij het opstellen van officiële documenten voor de rechtbank.
Het verbod ging vrijdag in, nadat bekend werd dat meerdere politiekorpsen AI-tools hadden ingezet om sneller rapporten te schrijven. Die rapporten dienen vaak als cruciaal bewijs in strafzaken. De nationale politieleiding greep in vanwege het risico op fouten of onjuiste informatie die een rechtszaak kunnen ondermijnen.
Het is geen algemeen verbod op AI bij de politie. Interne memo’s of samenvattingen mogen nog wel met AI worden gemaakt. Maar zodra een document voor de rechter bedoeld is, moet een mens het schrijven. De vrees is concreet: één verkeerd gegenereerde zin kan leiden tot een vrijspraak of veroordeling op basis van feiten die niet kloppen.
De beslissing laat zien dat juridische systemen snel ingrijpen zodra AI de betrouwbaarheid van bewijs raakt. Efficiëntie weegt niet op tegen het risico in de rechtszaal.
via Financial Times
NRC · Techzine · The Next Web · Ars Technica · Towards AI · Financial Times