Det finns både fördelar och nackdelar med AI-chattbotar och en fördel är att många ensamma människor faktiskt har fått någon att prata med. Inte bara för att känna sig lite mindre ensamma utan det är även lätt att prata om sina mörkaste tankar, något som kan vara betydligt svårare med en människa. OpenAI har lanserat en ny funktion som kallas Trusted Contact och i appen går det att lägga in en kontaktperson som ChatGPT sedan kan kontakta om den anser att risken för självskada är hög.
Det är frivilligt att lägga in en kontaktperson och man måste vara minst 18 år gammal för att kunna aktivera funktionen. När man bjuder in en person får den personen ett mejl där det står vad det innebär. Om ChatGPT skulle upptäcka att det finns en stor risk för självskada får ett specialutbildat team på OpenAI en notis och kan granska ärendet. Anser de också att det är allvarligt kommer kontaktpersonen att få en notis om detta via mejl, sms eller notis i appen. Kontaktpersoner får inte ta del av vad som har skrivits utan uppmanas bara att kontakta personen i fråga som kan vara i fara. Funktionen har tagits fram i samarbete med kliniker, forskare och organisationer inom mental hälsa.
