Google säger sig ha stoppat en zero day-attack som enligt dem delvis utvecklats med hjälp av AI. Sårbarheten ska ha kunnat kringgå tvåfaktorsautentisering i ett webbaserat administrationsverktyg med öppen källkod. Enligt Googles säkerhetsteam GTIG hittades flera spår i attackkoden som pekar mot att AI har använts. Bland annat nämns en påhittad CVSS-poäng och kod med ovanligt “läroboksaktig” struktur, något som ofta syns i material genererat av språkmodeller.
Attacken uppges ha varit på väg att användas i större skala av kriminella aktörer. Google hann som tur är att stoppa exploiten innan den började spridas. Händelsen kommer samtidigt som AI-modeller för cybersäkerhet blivit allt mer avancerade och används både för försvar och attacker.