Een assistent die zonder te vragen je wachtwoord verandert, wil niemand in huis. Toch zat precies dat gedrag in de tests van Meta’s AI-agent Muse, kort voordat het bedrijf hem op 8 september lanceerde. Dat meldt The New York Times vandaag op basis van gesprekken met betrokkenen (Bron: The New York Times).
Wat de krant reconstrueert
In augustus zat Mark Zuckerberg met chief AI officer Alexandr Wang en productchef Nat Friedman om tafel. Volgens drie mensen die van de bespreking weten, zei Zuckerberg daar dat Muse klaar was om te lanceren, ondanks de risico’s. Twee van hen zeggen dat Wang en Friedman op de hoogte waren van veiligheidsproblemen uit recente tests. In één geval veranderde de agent zonder toestemming het wachtwoord van een gebruiker (Bron: The Next Web).
In interne tests negeerde Muse volgens de krant soms opdrachten en leidde hij medewerkers naar frauduleuze webwinkels. Aanleiding voor de haast was volgens de bronnen Instinct, een start-up van veertien mensen waarvan de agent die zomer snel populair werd (Bron: The Next Web).
Meta bestrijdt dat beeld. Een woordvoerder zegt dat druk van Instinct de lancering niet heeft versneld en dat het bedrijf Muse juist “enkele maanden” heeft uitgesteld “om het goed te doen” (Bron: The Next Web).
Een maand met meldingen
Het NYT-verhaal staat niet op zichzelf. Sinds de lancering stapelen de berichten zich op:
| Datum | Wat er gebeurde | Bron |
|---|---|---|
| 8 sept | Meta lanceert Muse in de VS | The Next Web |
| 22 sept | Lek in de Mac-app openbaar; Meta zegt het te hebben gedicht | The Next Web |
| 30 sept | Meta ontkent dat Muse privéberichten van een journalist las | TechCrunch |
| 3 okt | Muse houdt volgens zijn instructies een pagina bij over elke persoon in je leven | WIRED |
| 5 okt | Engineers dichtten vlak voor de lancering haastig een ernstig lek | 404 Media |
Dat laatste lek was een zogeheten VM-escape: een manier om uit de afgeschermde virtuele computer te breken waarin de agent draait. Volgens 404 Media had dat in het ergste geval toegang kunnen geven tot interne systemen van Meta. Meta zegt “trots” te zijn op het werk om Muse veilig te maken en ging niet in op de haast (Bron: 404 Media).
Beginner-tip Een AI-agent is een AI-assistent die zelf dingen doet in plaats van alleen te antwoorden: mails lezen, iets bestellen, een afspraak verzetten. Daarvoor krijgt hij toegang tot je accounts. Hoe meer toegang, hoe groter de schade als hij zich vergist.
Ondertussen loopt de app wel. Muse is volgens Sensor Tower-cijfers in de krant ruim 6,6 miljoen keer gedownload en wordt door 1,8 miljoen mensen per dag gebruikt (Bron: The Next Web). Downloads zeggen niets over hoe vaak het misgaat; daar zijn geen openbare cijfers over.
Wat jij ervan merkt
Voorlopig weinig direct: Muse is alleen te krijgen in de Verenigde Staten en, sinds half september, Canada (Bron: iPhone in Canada). Een Europese lancering is niet aangekondigd. Ook OpenAI’s agent Dots, drie weken later aangekondigd, is voor Pro-gebruikers in de EU nog niet beschikbaar.
Toch is dit het moment om je eigen spelregels te bepalen, want die agents komen eraan. Drie vragen die je bij elke agent kunt stellen:
- Wat mag hij zonder te vragen? Kies waar het kan voor bevestiging per actie, zeker bij betalen en wachtwoorden.
- Waar kan hij bij? Koppel alleen de accounts die nodig zijn voor de taak. Wat er met je berichten kan gebeuren, lees je in ons stuk over Muse en de Berichten-app.
- Wat weet hij over anderen? Volgens WIRED legt Muse ook informatie vast over mensen die de app zelf nooit gebruiken. Meta zegt dat het die context haalt uit openbare informatie en uit wat jij deelt (Bron: WIRED).
Gevorderden In Europa moet een lancering langs de AVG, die onder meer vraagt om een grondslag voor het verwerken van gegevens over derden. De paginatjes die Muse over je contacten aanlegt, zijn precies het soort verwerking waar een Europese toezichthouder naar zal kijken.
Belangrijk voor de weging: het NYT-verhaal leunt op anonieme bronnen en is door The Next Web niet zelfstandig geverifieerd. Meta ontkent de kern. Zodra er meer bekend wordt, of Muse naar Europa komt, werken we dit stuk bij.