Tre tonåringar har stämt Elon Musks AI-bolag xAI i USA. De menar att tjänsten Grok har använts för att skapa sexuella bilder av dem utan deras vetskap. Riktiga bilder och videor ska ha manipulerats så att de framstår som nakna eller i sexuella situationer. Materialet ska sedan ha spridits i privata chattgrupper.
Tonåringarna kräver skadestånd och vill att xAI stoppar möjligheten att skapa den här typen av bilder.
Myndigheter i Storbritannien, EU och Kalifornien har redan inlett utredningar kring funktionen och hur den används för att skapa sexuella bilder av riktiga personer, särskilt minderåriga.
X har sagt att de ska införa tekniska begränsningar för att stoppa möjligheten att “klä av” personer i bilder.
Personen bakom spridningen i ett Discord-nätverk har också gripits i en separat polisutredning. Där hittades hundratals AI-manipulerade bilder av minderåriga som delades vidare på andra plattformar.