Algunos mensajes de ChatGPT pueden estar relacionados con emergencias de salud mental.

OpenAI ha publicado nuevas estimaciones del número de usuarios de ChatGPT que muestran signos de posibles emergencias de salud mental, incluida psicosis o pensamientos suicidas, según informa la BBC.

La compañía señaló que estima que aproximadamente el 0,07 % de los usuarios activos de ChatGPT en una semana determinada podrían tener mensajes relacionados con emergencias de salud mental, lo que indica que estos casos son extremadamente raros. Sin embargo, dado que los usuarios activos semanales de ChatGPT alcanzaron recientemente los 800 millones, este pequeño porcentaje podría representar cientos de miles, según Sam Altman, director ejecutivo de OpenAI.

La compañía también estimó que el 0,15 por ciento de los usuarios de ChatGPT participaron en conversaciones que contenían "indicadores claros de una posible planificación o intención de suicidio".

En su declaración sobre las predicciones, la compañía señaló que con las recientes actualizaciones del chatbot, ChatGPT está diseñado para "responder de manera segura y empática a posibles signos de delirios" y detectar "signos indirectos de posible autolesión o riesgo de suicidio".

"En una plataforma con cientos de millones de usuarios, el 0,07 por ciento puede parecer un porcentaje pequeño, pero en realidad podría ser bastante grande", dijo Jason Nagata, profesor asociado de la Universidad de California.

"La IA puede ampliar el acceso al apoyo de salud mental y apoyar la salud mental de algunas maneras, pero debemos ser conscientes de las limitaciones", dijo Nagata.