Forskare har hittat ett fel i OpenAIs nya webbläsare ChatGPT Atlas som gör att hackare kan smyga in dolda instruktioner i AI:ns minne. Felet utnyttjar en metod där användaren luras att klicka på en länk som ser oskyldig ut. När länken öppnas, kan angriparen i hemlighet få AI:n att spara instruktioner som ligger kvar även efter att webbläsaren stängts.
Nästa gång användaren pratar med ChatGPT kan dessa dolda kommandon aktiveras. Då kan AI:n till exempel ge ifrån sig personlig information eller ladda ner skadliga filer utan att användaren märker något.
Minnesfunktionen i Atlas skapades för att göra samtal mer personliga, men i det här fallet blir den en svag punkt. Forskare rekommenderar att man inte använder Atlas för känsliga uppgifter och att man rensar sparat minne tills problemet är löst.
Via: The Hacker News