Efter att AI-verktyget Grok använts för att skapa miljontals sexualiserade bilder i början av 2026 har OpenAI och Google förstärkt sina säkerhetssystem. Händelsen visade hur snabbt generativ AI kan missbrukas om skydden brister.
OpenAI har nyligen täppt till en sårbarhet i ChatGPT som gjorde det möjligt att lura modellen att skapa otillåtet bildmaterial. Säkerhetsforskare slog larm och företaget säger att felet åtgärdades innan det hann spridas brett.
Google fokuserar även på spridningen av skadligt innehåll. Företaget har förenklat processen för att anmäla och ta bort explicita bilder i Google Sök. Det ska bli lättare att rapportera flera bilder och följa ärendet.
Experter påpekar att AI-säkerhet aldrig är färdig. Skydd måste hela tiden uppdateras eftersom metoderna för att kringgå dem utvecklas lika snabbt.