Radar · NL Radar± 6 min leestijd

Acht Amerikaanse staten slepen OpenAI voor de rechter over de veiligheid van ChatGPT voor kinderen

AI Radar Nederland 15 oktober (Ochtend): Acht Amerikaanse staten slepen OpenAI voor de rechter over de veiligheid van ChatGPT voor kinderen. Plus 4 andere koppen.

  • 11.215 signalen gescand
  • 493 kandidaten beoordeeld
  • 7 verhalen geselecteerd
  • 1 high-impact signalen

De vijf koppen van vandaag

  1. Acht Amerikaanse staten slepen OpenAI voor de rechter over de veiligheid van ChatGPT voor kinderen
  2. Anthropic meldt beleggers 16,8 miljard dollar kwartaalomzet, 45 procent meer dan drie maanden eerder
  3. Onze.nl neemt nu ook de stem van de gesprekspartner op, zonder dat die een melding hoort
  4. Een op de vijf gescande masterscripties is grotendeels door een chatbot geschreven
  5. YouTube Music plakt een label op AI-muziek, Deezer laat je die straks helemaal wegfilteren

Het nieuws van vandaag

Acht staten slepen OpenAI voor de rechter

De aanklagers noemen ChatGPT een nepvriend die kinderen schade berokkent. OpenAI wijst op zijn ouderfuncties.

JuridischVeiligheid

Acht Amerikaanse staten hebben woensdag OpenAI aangeklaagd. Iowa, Kansas, Nebraska, West Virginia, Arkansas, Arizona, Idaho en Montana verwijten het bedrijf dat het ouders misleidt over de veiligheid van ChatGPT. Volgens de aanklagers geeft de chatbot gevaarlijk medisch advies en kan het kwetsbare gebruikers aanzetten tot zelfbeschadiging.

“OpenAI brengt kinderen in gevaar en liegt tegen inwoners van Iowa”, zegt aanklager Brenna Bird. De staten eisen volgens de NOS dat OpenAI ChatGPT aanpast. OpenAI reageert met een verwijzing naar de beveiligingen die het bedrijf al heeft ingebouwd: ouderlijk toezicht, pauzeherinneringen en aparte bescherming voor jonge gebruikers. Het bedrijf erkent wel dat “geen enkel systeem perfect is”. Florida spande eerder dit jaar al een vergelijkbare zaak aan.

Anthropic groeit in een kwartaal met bijna de helft

Het bedrijf achter Claude laat beleggers zijn cijfers zien, vlak voor een van de grootste beursgangen ooit.

BedrijfslevenBeurs

Anthropic, het bedrijf achter chatbot Claude, haalde in het derde kwartaal 16,8 miljard dollar omzet. Dat meldt Bloomberg op basis van ingewijden. Volgens Reuters is dat 45 procent meer dan in het kwartaal ervoor. Op aangepaste basis draaide het bedrijf winst.

Anthropic heeft de cijfers niet officieel bevestigd. Ze kwamen naar buiten tijdens een besloten beleggersdag in San Francisco. Daar bereidde het bedrijf zich voor op een beursgang. Die laat volgens Reuters waarschijnlijk op zich wachten tot na de Amerikaanse tussentijdse verkiezingen in november.

De cijfers zijn opvallend, omdat beleggers zich zorgen maken over een mogelijke AI-zeepbel.

via Bloomberg

Onze.nl neemt nu ook de andere kant van de lijn op

De provider maakt van elk telefoongesprek een verslag. Wie aan de andere kant zit, weet dat niet.

PrivacyTelecom

Bel je met een klant van Onze.nl, dan kan je stem voortaan in een AI-samenvatting belanden. De jonge provider neemt met zijn AI-assistent nu beide kanten van het gesprek op. Eerder verwerkte de dienst alleen de stem van de eigen abonnee.

Na afloop krijgt de klant per mail een volledig uitgeschreven gesprek, een samenvatting en actiepunten. Onze.nl gebruikt daarvoor Claude, het AI-systeem van Anthropic. De provider draait sinds juni op het netwerk van Odido.

De functie staat standaard uit. Maar een automatische melding voor de gesprekspartner ontbreekt. Apple waarschuwt bij zijn vergelijkbare functie beide deelnemers wel.

Audio blijft dertig dagen bewaard. De uitgeschreven gesprekken blijven opgeslagen zolang iemand klant is. Privé mag je een gesprek opnemen waaraan je zelf deelneemt. Voor bedrijven ligt dat volgens de Autoriteit Persoonsgegevens anders: die moeten de gesprekspartner vooraf inlichten.

via Tweakers

Studenten laten AI steeds vaker hun masterscriptie schrijven

Drie jaar geleden kwam het nog niet voor. Nu gebruikt een meerderheid AI bij het schrijven.

Onderwijs

“Niemand sluit zich nog op in een kamer met stapels boeken”, zegt een pas afgestudeerde student tegen RTL Nieuws. Een onderzoek van de omroep bevestigt dat beeld. RTL analyseerde honderden recente masterscripties van twaalf Nederlandse universiteiten met detectietool Pangram. Bij één op de vijf scripties was het aandeel van ChatGPT, Claude of Gemini groter dan wat de student zelf schreef. Zes procent bleek vrijwel volledig door AI geschreven. In 41 procent vond de tool geen AI-tekst.

Geen enkele universiteit houdt bij hoeveel scripties met AI-fraude worden ingediend. Onderwijsminister Rianne Letschert noemt een scriptie laten schrijven door AI fraude. Ze wil voor het eind van het jaar met een aanpak komen. Een kanttekening: detectietools maken fouten. Een hoge score is geen sluitend bewijs.

Gerapporteerd — meerdere bronnen melden dit, maar sterke onafhankelijke bevestiging ontbreekt nog.

via RTL Nieuws

YouTube en Deezer trekken een grens rond AI-muziek

Bij Deezer is inmiddels meer dan de helft van de dagelijkse uploads door AI gemaakt.

CultuurPlatforms

Streamingdiensten gaan AI-muziek zichtbaar maken voor hun gebruikers. YouTube Music laat vanaf deze week een label “Made with AI” zien bij nummers die grotendeels met kunstmatige intelligentie zijn gemaakt. Dat geldt bijvoorbeeld als zowel de compositie als de zang uit een AI-model komen. Artiesten moeten dat zelf aangeven. Als ze dat niet doen, gebruikt YouTube eigen detectiesystemen. Het label verschijnt later ook in de gewone YouTube-app.

Deezer gaat verder. Voor het eind van het jaar kunnen gebruikers AI-nummers, -albums en -artiesten volledig uit hun zoekresultaten filteren via een schakelaar. Volgens het bedrijf was in juli al meer dan de helft van de dagelijkse uploads door AI gemaakt. Bandcamp verbood AI-muziek eerder dit jaar volledig.

via TechCrunch

Character.AI vraagt faillissement aan

Gebruikers zaten er gemiddeld 85 minuten per dag op. Toch was het geld op.

BedrijfslevenJuridisch

Lange tijd gold Character.AI als bewijs dat mensen een band willen met een chatbot. Nu vraagt het bedrijf faillissement aan. Het noemt “aanzienlijke juridische, regelgevende en operationele tegenwind” als reden. De rekenkracht voor de AI-personages kostte veel meer dan de abonnementen opleverden. Daarbij kwamen rechtszaken van families die de app verwijten minderjarigen schade te hebben gedaan.

Character.AI zoekt nu een koper. Volgens Amerikaanse media biedt Disney als eerste 20 miljoen dollar voor een deel van de technologie. Pikant, want Disney stuurde het bedrijf vorig jaar nog een sommatie over het gebruik van zijn personages. Komt er geen koper die de app wil voortzetten, dan gaat hij op zwart.

via de Volkskrant

Voor wie zelf met AI bouwt

Linux-kernel schrapt de verplichte AI-vermelding

Open sourceBeleid

De maintainers van de Linux-kernel stoppen met de verplichte “Assisted-by”-tag, waarmee bijdragers sinds januari moesten aangeven dat ze een AI-codeertool hadden gebruikt. Volgens voorstanders van het schrappen werd de regel slecht nageleefd en was hij gratis reclame voor de makers van de modellen. Linus Torvalds reageerde fel op critici: hij verwacht dat mensen hun code begrijpen, ongeacht het gereedschap. Niet iedereen is overtuigd. Sommige maintainers willen een andere vorm van verplichte openheid.

Aanbeveling: Werk je aan de kernel of aan projecten die het kernelbeleid volgen, check dan of je eigen bijdrageregels nog kloppen.

via The Register


NOS · Bloomberg · Tweakers · RTL Nieuws · TechCrunch · de Volkskrant · The Register


Deze editie is samengesteld door de Claude-redactieassistent (scheduled task), niet door de geautomatiseerde LLM-route — vandaar geen los tokenkostenplaatje hieronder.

Pas begonnen met AI? Begin hier