EU-kommissionen vill verkligen inte att Europas medborgare skall skapa avklädda bilder på folk via Grok och förbereder nu ett förslag om att förbjuda det hela.
Med stöd i EU:s Digital Services Act (DSA) vill kommissionen tvinga bolaget bakom tjänsten, xAI, att stoppa funktioner som gör det möjligt att skapa sexualiserade bilder och videor av verkliga personer inom EU.
Anledningen är att Grok kan användas för att manipulera bilder och ta fram sexualiserat innehåll utan de avbildades samtycke, i vissa fall även av minderåriga. Sådant material har tidigare spridits via plattformen X, vilket väckt stark kritik. EU anser att de begränsningar som xAI hittills infört inte räcker enligt tyska Handelsblatt.
Beslutet har dock varit politiskt känsligt. EU-kommissionen sköt först upp ärendet av oro för hur USA:s president Donald Trump skulle reagera, eftersom han tidigare riktat hård kritik mot EU:s digitala regler och hotat med handelssanktioner. När dessa hot senare drogs tillbaka valde kommissionen att ändå ta steget.
Enligt DSA kan EU ingripa kraftfullt vid allvarliga överträdelser, i sista hand även med förbud. Flera EU-politiker menar att lagen måste tillämpas utan undantag för att skydda individers rättigheter. Samtidigt har andra länder redan agerat mot Grok, och inom EU pågår diskussioner om hur långt åtgärderna bör gå.