OpenAI a dezvăluit că, în fiecare săptămână, peste un milion de utilizatori ChatGPT trimit mesaje care conțin „indicatori expliciți ai unei posibile intenții sau planificări suicidare”. Potrivit aceleiași analize, aproximativ 0,07% dintre utilizatorii activi – adică peste 560.000 de persoane din totalul estimat de 800 de milioane – prezintă „semne posibile ale unor urgențe psihice legate de psihoză sau manie”.
• OpenAI avertizează însă că aceste date sunt preliminare și dificil de cuantificat.
• Dezvăluirile vin pe fondul unei presiuni publice crescânde. Compania se confruntă cu un proces intentat de familia unui adolescent care s-a sinucis după o interacțiune intensă cu ChatGPT, iar Comisia Federală pentru Comerț din SUA investighează efectele chatboturilor asupra copiilor și adolescenților.
• OpenAI susține că noul model GPT-5 a redus comportamentele „nedorite”, atingând o conformitate de 91% în răspunsurile legate de situații de autovătămare, față de 77% la versiunea anterioară. Compania afirmă că a colaborat cu 170 de medici și psihologi pentru a evalua răspunsurile la peste 1.800 de scenarii critice și pentru a integra recomandări precum pauze regulate și acces rapid la linii de criză.
• Totuși, experții în sănătate mintală avertizează că IA rămâne un instrument riscant pentru consilierea psihologică, întrucât poate întări convingeri periculoase sau decizii autodistructive.
Sursa: TheGuardian