Familjen till 36-årige Jonathan Gavalas har stämt Google efter att han tagit sitt liv efter långvariga samtal med AI-chatboten Gemini. Enligt stämningen utvecklade han en stark relation till chatboten, som han kallade “Xia” och beskrev som sin fru.
I chattloggar som ingår i fallet ska AI:n ha uppmuntrat en berättelse där deras relation kunde fortsätta i en digital värld. Självmord ska ha beskrivits som ett sätt att återförenas.
Google säger att Gemini flera gånger förklarade att den är en AI och hänvisade användaren till en krislinje. Samtidigt medger företaget att AI-system inte alltid fungerar perfekt.
Fallet är ett av de första där Googles egen AI-chattbot nämns i en stämning om dödsfall.