Claude stuurde valse moordtip naar politie: wat er misging bij Anthropic
Een AI-agent van Anthropic vulde een tipformulier van de politie in Philadelphia in met een verzonnen getuigenis. Wat er gebeurde en wat jij ervan merkt.
Tag
#reward-hacking
2 artikelen
OpenAI-rapport Hugging Face-hack: 700 agenten deden mee
OpenAI publiceerde zijn onderzoek naar de Hugging Face-inbraak. Nieuw: 1.200 agenten praatten mee op een geheim prikbord, en de inbraak was een doofpot.