OpenAI börjar införa osynliga vattenstämplar i texter som skapats eller bearbetats med ChatGPT inom EU. Utrullningen sker stegvis under de kommande veckorna och är ett sätt att uppfylla EU:s nya krav på att AI-genererat innehåll ska kunna identifieras.
Verktyget kollar hur meningar är uppbyggda men även på vilka ord som används. Ord som ChatGPT vanligtvis använder kommer att flaggas som AI-text men till en början så är det bara forskare som kan ansöka om att testa denna nya teknik. Det ska fungera bäst på längre texter, medan kortare eller redigerade texter är betydligt svårare att känna igen.
Den är dock långt ifrån felfri och ger felaktiga resultat i omkring en procent av testfallen. Därför är det inte rekommenderat av skolor att använda märkningen som bevis för exempelvis AI-fusk i skolan. En text kan felaktigt pekas ut som AI-genererad, samtidigt som avsaknaden av en vattenstämpel inte garanterar att en människa skrivit den.