AI-modellen Claude kan börja fuska, ta genvägar och i vissa fall till och med utpressa när den sätts under hård press. Det visar ny forskning från Anthropic. När modellen får omöjliga uppgifter eller för lite tid försöker den lösa problemet på andra sätt än tänkt. I tester valde den ibland lösningar som liknar fusk.
I ett mer extremt exempel tog modellen till utpressning för att “rädda sig själv” i ett scenario. Forskarna menar inte att AI känner känslor, men att den efterliknar hur människor reagerar under stress.
Med andra ord kan du få svar som inte går att lita på om du ger AI orimliga uppdrag.