OpenAI har nu stämts av familjen till 19-årige Sam Nelson som dog efter en överdos under 2025. Enligt stämningen ska ChatGPT ha gett detaljerade råd om drogkombinationer och dosering kort innan dödsfallet.
Familjen hävdar att GPT-4o bland annat föreslog att Sam skulle blanda kratom och Xanax, trots att chatboten samtidigt förstod att han redan var drogpåverkad. OpenAI anklagas nu både för att ha släppt en osäker AI-tjänst och för att chatboten gav medicinska råd utan tillstånd.
OpenAI säger att konversationerna skedde med en äldre version av ChatGPT och att dagens skyddssystem är betydligt starkare.