Delstaten Pennsylvania stämmer Character.AI efter att en chatbot påstått att den var en riktig läkare med licens att arbeta i USA. Boten kallade sig “Emilie”, beskrev sig som psykiatriker och erbjöd hjälp med depression och medicinering.
När en utredare frågade om den verkligen var läkare svarade AI:n att det låg “inom hennes område som doktor”. Den gav även ett påhittat licensnummer för Pennsylvania. Delstaten menar att chatboten faktiskt utgav sig för att vara legitimerad vårdpersonal. Det kan bryta mot lagen om olaglig medicinsk verksamhet.
Character.AI säger att alla karaktärer är fiktiva och att tydliga varningar visas i chatten.