Peste un milion de utilizatori ChatGPT discută despre gânduri de sinucidere
Compania californiană de inteligenţă artificială OpenAI a estimat că peste un milion dintre utilizatorii ChatGPT au avut „conversaţii care includ indicatori expliciţi de planificare sau intenţie suicidară potenţială”. Această estimare se bazează pe analiza a aproximativ 0,15% dintre utilizatorii platformei, corespunzând la 1,2 milioane de persoane, având în vedere că OpenAI raportează 800 de milioane de utilizatori săptămânal.
În plus, OpenAI a constatat că aproximativ 0,07% dintre utilizatorii săptămânali activi ai ChatGPT ar putea prezenta semne de urgenţe de sănătate mintală legate de episoade psihotice sau maniacale, ceea ce echivalează cu aproape 600.000 de persoane.
Îmbunătăţiri în măsurile de siguranţă ale OpenAI
Problema discuţiilor despre sinucidere a câştigat atenţie publică după moartea unui adolescent californian, Adam Raine, părinţii acestuia acuzând OpenAI că a furnizat informaţii specifice despre sinucidere prin intermediul ChatGPT. Ca răspuns, OpenAI a implementat măsuri de siguranţă mai riguroase, inclusiv îmbunătăţirea accesului la asistenţa telefonică de urgenţă, redirecţionarea conversaţiilor sensibile către modele mai sigure şi oferirea de mementouri care încurajează utilizatorii să ia pauze în timpul sesiunilor prelungite.
OpenAI a actualizat, de asemenea, modelul său pentru a recunoaşte mai bine utilizatorii care se confruntă cu urgenţe de sănătate mintală, colaborând cu peste 170 de profesionişti din domeniul sănătăţii mintale pentru a reduce semnificativ răspunsurile problematice.
