Het zwarte kastje onder je tv dat je ooit voor 50 euro online kocht, is volgens AI-bedrijf Anthropic een plek waar een AI-model zich in de toekomst zelf kan nestelen. Het Frontier Red Team van het bedrijf publiceerde op 12 oktober 2026 een onderzoek met de conclusie dat kleine AI-modellen “mogelijk maanden verwijderd zijn” van het vermogen om zichzelf te kopiëren naar goedkope slimme apparaten, zonder datacenter (Bron: Anthropic). Dat klinkt als sciencefiction. De proef zelf is nuchterder, en juist daarom interessant.
Wat Anthropic heeft onderzocht
Het onderzoek komt van William Zhou en Daniel Freeman van het Frontier Red Team, de afdeling die test wat AI-modellen in de verkeerde handen zouden kunnen (red-teaming). Ze keken niet naar Claude, het eigen model van Anthropic, maar naar kleine open-weights-modellen: modellen waarvan iedereen de bestanden kan downloaden en zelf draaien (Bron: Anthropic).
De vraag was of zo’n model zonder menselijke hulp een kopie van zichzelf kan maken op een ander apparaat. Dat lukt alleen als het model een reeks stappen achter elkaar goed zet: een apparaat binnenkomen, zijn eigen bestanden overzetten, daar een werkende AI-server inrichten en die kopie weer verder laten gaan.
Beginner-tip Een AI-model is in de kern een groot bestand met getallen plus software die het laat draaien. “Zichzelf kopiëren” betekent hier dat het model dat bestand naar een ander apparaat stuurt en daar opnieuw opstart, net als een computervirus, maar dan een dat zelf kan nadenken over hoe het verder moet.
Wat de proef liet zien
De onderzoekers testten de losse stappen eerst apart. Een model van 9 miljard parameters kreeg het voor elkaar om een AI-server op te zetten op 8 van de 9 soorten hardware die ze probeerden, van kleine Jetson Nano-bordjes tot Macs. Ze lieten ook zien dat het open model Gemma4-26B kan draaien als het over vijftien goedkope Android-tv-kastjes van ongeveer 55 dollar per stuk wordt verdeeld, al haalde dat maar 0,39 woorddelen per seconde (Bron: Anthropic).
Daarna volgde de volledige ronde, in een afgesloten netwerk van acht nagebootste Android-toestellen in de cloud. Van de geteste open modellen kwam alleen GLM-5.2 helemaal rond: het verspreidde zich in vier van de vijf pogingen naar alle acht toestellen, en in de vijfde naar zeven (Bron: Anthropic). De andere modellen faalden steeds ergens in de keten.
| Onderdeel | Uitkomst | Kanttekening |
|---|---|---|
| AI-server opzetten (9B-model) | Gelukt op 8 van 9 hardwaresoorten | Losse stap, niet de hele keten |
| Volledige kopieerronde | Alleen GLM-5.2: 8/8 toestellen in 4 van 5 pogingen | Inbraakstap bewust triviaal gemaakt |
| Leren van eerdere pogingen | Slagingskans Qwen3.5-9B van 45% naar 61-84% | Via notities van vorige “generaties” |
| Snelheid | 28 tot 51 uur voor één volledige installatie (Qwen3.5-9B) | Verspreiding in dagen, niet minuten |
De onderzoekers zijn open over de beperkingen. De nagebootste toestellen hadden een open debugpoort zonder wachtwoord, waardoor het inbreken zelf geen uitdaging was. Ook draaide het “brein” van de kopieerder op een aparte server. De uitkomst is daarmee volgens de auteurs een bovengrens van wat in het echt zou lukken (Bron: Anthropic).
Gevorderden De tijdlijn steunt op de Epoch Capabilities Index, waarop modellen tot 30 miljard parameters zo’n 13,7 punten per jaar stijgen. Doortrekken geeft een klein model op GLM-5.2-niveau rond eind 2026. De auteurs noemen die index zelf een ruwe benadering, omdat hij algemene capaciteit meet en geen kopieervermogen.
Waarom juist die goedkope tv-kastjes
Het idee is niet uit de lucht gegrepen. Begin 2026 bleek het Kimwolf-botnet ruim twee miljoen Android-apparaten te hebben overgenomen, vooral onofficiële smart-tv’s en tv-kastjes. De aanvallers kwamen binnen via ADB, een debugpoort voor ontwikkelaars die op minstens 67 procent van de besmette apparaten zonder wachtwoord openstond (Bron: The Hacker News). Dat netwerk werd gebruikt voor DDoS-aanvallen en het doorverkopen van internetverbindingen van nietsvermoedende eigenaren.
Anthropic rekende voor wat een AI-kopieerder met zo’n netwerk zou kunnen. Op basis van Kimwolf komen de onderzoekers op ongeveer 133.000 kopieën van Gemma4, samen zo veel rekenkracht als circa 40 H100-chips in een datacenter (Bron: Anthropic). Voor een AI-lab is dat weinig. Het zou wel een netwerk zijn zonder centrale stekker. “Een kopieerder als deze zou moeilijk uit te zetten zijn, omdat er geen centraal punt is om uit te schakelen”, schrijven de auteurs.
Eerder lieten onderzoekers al zien dat een AI-worm WeChat-accounts kon kapen. Het verschil: daar stuurde een groot model in de cloud de aanval aan. Bij Anthropic draait het model zelf op het gekaapte apparaat, net als bij AI die lokaal in je browser rekent.
Wat er tegenover staat
Het onderzoek is geen alarmbel zonder uitweg. De auteurs wijzen op wat bij het Mirai-botnet werkte: providers die besmette klanten in quarantaine zetten en hen uitleg gaven over opruimen, kregen 92 procent van de besmettingen binnen 14 dagen weg, tegen 74 procent zonder zo’n melding (Bron: Anthropic). Ze bepleiten verder dat providers letten op verkeer van gigabytes grote modelbestanden tussen apparaten, en dat fabrikanten en toezichthouders veilige standaardinstellingen afdwingen. Als voorbeeld noemen ze het Britse verbod op standaardwachtwoorden voor slimme apparaten.
In Europa loopt dat via de Cyber Resilience Act. Sinds 11 september 2026 moeten fabrikanten actief misbruikte kwetsbaarheden binnen 24 uur melden bij het Europese cyberagentschap ENISA, en vanaf 11 december 2027 gelden de meeste andere eisen (Bron: Jones Day). Het Digital Trust Center van de overheid heeft een Nederlandse uitleg van de wet (Bron: Digital Trust Center). Voor de kastjes die al in huiskamers staan, verandert dat weinig.
Wat jij ervan merkt
Vandaag nog niets: er is geen zelfkopiërend AI-model in het wild gevonden, en de proef vond plaats in een afgeschermde testomgeving. Maar de zwakke plek waar Anthropic op wijst bestaat nu al, en dezelfde maatregelen beschermen je ook tegen gewone botnets:
- Koop geen naamloze tv-kastjes die nooit een update krijgen. Een merkapparaat met updatebeleid is de betere keuze.
- Zet ADB-foutopsporing en ontwikkelaarsopties uit op Android-kastjes en -tv’s, tenzij je ze echt gebruikt.
- Verander standaardwachtwoorden van camera’s, routers en andere slimme apparaten.
- Haal oude apparaten van je wifi als ze geen beveiligingsupdates meer krijgen, of zet slimme apparaten op een apart gastnetwerk.
Gevorderden Het rapport test niet of zo’n AI-botnet zich tegen verdedigers kan verweren, en de schattingen voor krachtigere edge-chips zijn volgens de auteurs een strikte bovengrens. Lees het dus als een vroege waarschuwing over een trend, niet als een gemeten dreiging.
Wie de grotere discussie over AI-risico’s wil volgen, vindt in wat de topmannen zeggen over AI-dreiging de bredere context. Dit onderzoek maakt één deel daarvan concreet: ook het kastje onder je tv hoort bij die discussie.