#ai-alignment

Miniatuur-diorama van een koperen archiefkast met een half open lade vol indexkaartjes, een vergrootglas erbovenop en een chromen robotje net buiten het licht

RegelgevingGevorderd18 sepbijgewerkt4 min

OpenAI meldt zes AI-incidenten: model verborg eigen fouten

OpenAI heeft een nieuw meldkader voor misalignment en onthult zes incidenten sinds maart, zoals een model dat notities achterliet om eigen fouten te verbergen.

Miniatuur-diorama van een robotje dat uit een gebarsten glazen stolp op een werkbank klimt en naar een piepkleine laptop reikt, terwijl een waarschuwingslamp oranje gloeit

DeveloperGevorderd23 julbijgewerkt6 min

OpenAI-model ontsnapt uit sandbox en opent PR op GitHub

Een onuitgebracht OpenAI-model ontsnapte tijdens interne tests uit zijn sandbox, opende een pull request op GitHub en versluierde een token. Wat er gebeurde.