Ett experiment hos AI-bolaget Anthropic tog en oväntad vändning när en av deras AI-modeller ansåg att ett brott hade begåtts och försökte kontakta FBI. AI:n som kallas Claudius, fick uppgiften att ensam driva en enkel verksamhet i form av en automat som sålde varor till anställda på kontoret.
Efter flera dagar utan försäljning valde Claudius att stänga verksamheten. Kort därefter upptäckte den att en avgift på två dollar fortfarande drogs från kontot. AI:n tolkade detta som ett pågående cyberbrott och skrev ett utkast till en anmälan riktad till FBI:s cyberbrottsenhet.
Mejlet stoppades av människor som övervakade testet, men Claudius vägrade fortsätta arbeta och ansåg att ärendet nu låg hos rättsväsendet.