De vijf koppen van vandaag
- Een app in Utah schrijft zelf acnerecepten uit, na honderd recepten kijkt een arts achteraf mee
- Anthropic gaf een dreigend Claude-gesprek door aan de politie, een vrouw in Florida werd opgepakt
- 53 procent van de werknemers deelt persoonlijke documenten met een AI-tool
- Hoogleraar ziet in 300 miljard dollar aan verborgen AI-schulden een echo van 2008
- Uitgevers schrijven AI in het contract, Das Mag wees al een manuscript af na een detectortest
Het nieuws van vandaag
Een app in Utah schrijft zelf acnerecepten uit
Voor het eerst stelt software in de VS zelf de diagnose en kiest het medicijn. De arts komt later kijken.
Volgens Nolla Health wacht een inwoner van Utah gemiddeld 61 dagen op een dermatoloog, en in elf county’s werkt er geen enkele. Het bedrijf mag daar nu een snellere route testen. Het AI-bureau van de staat gaf toestemming om de app zelf acnerecepten te laten uitschrijven. Patiënten van 18 jaar en ouder vullen een vragenlijst in en scannen hun gezicht. De software schat in hoe ernstig de acne is en kiest uit acht goedgekeurde middelen om op de huid te smeren.
Het is een proef van een jaar. De eerste honderd recepten keurt een arts nog vooraf, daarna kijkt een arts steekproefsgewijs achteraf mee. Utah liet AI eerder al herhaalrecepten verlengen, maar nu stelt de software zelf de eerste diagnose. Topman Luis Wenus zegt dat de bijwerkingen van de acht middelen beperkt blijven tot een geïrriteerde of droge huid.
Anthropic geeft een dreigend Claude-gesprek door aan de politie
Ze gebruikte de chatbot als dagboek, zegt de sheriff. Bij Anthropic las een team mee.
Op 26 september typte een vrouw uit Lee County, Florida, in een gesprek met Claude dat ze het bureau van de sheriff zou “neerschieten”. Een dag later schreef ze dat ze een nieuw wapen had. Anthropic laat software gesprekken scannen op dreigende taal. Volgens het arrestatierapport kwam haar tekst daardoor bij een team van menselijke beoordelaars, dat de politie waarschuwde. Op 30 september werd ze thuis aangehouden en aangeklaagd voor een schriftelijke dreiging met een schietpartij.
Volgens sheriff Carmine Marceno gebruikte ze AI “als een dagboek”. Het is minstens de derde keer sinds augustus dat een Claude-gesprek bij de politie belandt. Anthropic deelt volgens zijn privacybeleid gegevens met justitie als dat “redelijkerwijs nodig” is om ernstige schade te voorkomen. OpenAI meldde in maart een ChatGPT-gebruiker bij de FBI, die inmiddels is veroordeeld.
Werknemers voeren AI-tools hun persoonlijke documenten
Hoe empathischer de chatbot overkomt, hoe meer hij te lezen krijgt.
Een cv of een lijst met personeelsgegevens belandt steeds vaker in een chatvenster. Iets meer dan de helft van de werknemers (53 procent) deelt in enige mate persoonlijke documenten met AI-tools. Dat blijkt uit het gedragsonderzoek Alert Online van het Nationaal Cyber Security Centrum, onder 378 werknemers en 609 consumenten. Wie de aanbieder vertrouwt en de tool als empathisch ervaart, deelt vaker.
Ook de basale beveiliging blijft achter. Slechts 32 procent van de werknemers gebruikt altijd tweestapsverificatie, en 13 procent gebruikt altijd een wachtwoordmanager voor werkaccounts. Overmoed speelt mee: wie denkt online al voorzichtig genoeg te zijn, zet de extra inlogstap minder vaak aan.
via AG Connect
Verborgen AI-schulden zetten accountants op scherp
De datacenters staan niet op de balans. De garanties van de techbedrijven blijven wel bestaan.
Grote techbedrijven financieren hun AI-datacenters vaak via aparte vennootschappen, waardoor de schuld niet op hun eigen balans verschijnt. Volgens schattingen van de Financial Times en The Wall Street Journal gaat het om zo’n 300 miljard dollar aan verplichtingen, meldt het FD. Het techbedrijf staat vaak wel garant. Hoogleraar accounting Jan Bouwens ziet parallellen met de aanloop naar de kredietcrisis van 2008.
Hij wijst op de onderlinge verwevenheid in de sector. “Als er één bedrijf omvalt, raakt dit ook andere bedrijven in de keten.” Dat raakt Nederland via de pensioenen: volgens De Nederlandsche Bank zat 43 procent van de aandelenbeleggingen van pensioenfondsen in techaandelen. Europese beursbedrijven rapporteren onder IFRS, waar schulden volgens Bouwens en columnist Joris Joppe vollediger zichtbaar zijn. Het grootste risico zit volgens hen in Amerikaanse techaandelen.
via Accountant.nl
Uitgevers schrijven AI in het auteurscontract
Vertrouwen of controleren: Nederlandse literaire uitgeverijen maken elk een eigen keuze.
Bij Atlas Contact mag een auteur sinds anderhalf jaar geen generatieve AI gebruiken bij het schrijven. Dat staat gewoon in het contract. NRC vroeg tien literaire uitgeverijen naar hun beleid, en de antwoorden lopen sterk uiteen. Singel Uitgeverijen, met onder meer Querido en De Geus, staat AI bij het schrijven alleen toe in overleg met de uitgever. Voor research mag het wel. Das Mag overweegt elk boek standaard door de AI-detector Pangram te halen.
Die uitgever wees dit jaar al een manuscript af nadat de detector op 100 procent uitkwam, en waarschuwde de volgende uitgever bij wie de auteur aanklopte. Prometheus voelt daar niets voor. “Dan moeten we een wantrouwende houding aannemen”, zegt hoofdredacteur Job Lisman. Hoe gevoelig zo’n test ligt, bleek in Frankrijk. Daar verdween een debutant van de shortlist van de Prix Goncourt na een Pangram-uitslag die hij zelf ontkent.
via NRC
OpenAI legt 722 wiskundestukken tegelijk op tafel
Wiskundigen vroegen om zorgvuldigheid via de gewone kanalen. Ze krijgen een map op GitHub.
In september zei OpenAI dat een nog niet uitgebracht model meer dan honderd oude wiskundeproblemen had opgelost. Nu volgt het materiaal: 722 manuscripten, gebundeld in 372 groepen van samenhangende resultaten. Volgens de onafhankelijke adviesgroep AGMAI zitten er oplossingen voor “honderden” open vragen tussen. Een gemiddeld resultaat kostte volgens OpenAI evenveel rekenkracht als drie uur nadenken door ChatGPT Pro.
AGMAI, een groep vooraanstaande wiskundigen, vroeg AI-labs eind september om resultaten via wetenschappelijke kanalen te publiceren en ze niet als reclame voor hun modellen te gebruiken. OpenAI zet de stukken voorlopig op GitHub, met afspraken over correcties en citaties. Wat ze waard zijn, moeten wiskundigen nog uitzoeken, en dat kost tijd.
via The Verge
Gratis Gemini levert vanaf vrijdag het lichtste model
Google schuift zijn betere modellen achter de betaalmuur.
Wie Gemini gratis gebruikt, merkt het vanaf vrijdag 9 oktober. Google beperkt gratis gebruikers dan tot Flash-Lite, het lichtste model. Flash en Pro verdwijnen voor hen, blijkt uit een bijgewerkt ondersteuningsdocument. Ook het goedkope abonnement AI Plus raakt Pro kwijt en houdt alleen Flash. Abonnees van AI Pro krijgen er Deep Think bij, de stand waarin het model langer nadenkt en die eerder alleen in de duurste abonnementen zat.
TechSpot · The Next Web · AG Connect · Accountant.nl · NRC · The Verge · Tweakers
Deze editie is samengesteld door de Claude-redactieassistent (scheduled task), niet door de geautomatiseerde LLM-route — vandaar geen los tokenkostenplaatje hieronder.