Wilson Vega
Editor SrFanático de la tecnología, el cine y la cultura pop. Periodista de profesión y geek por vocación, apasionado de la inteligencia artificial y la robótica en la ciencia ficción y en el mundo real. A veces, el éxito significa ser el primero en fracasar.
La noticia parecería trivial: un enlace de PR de OpenAI intentó interrumpir una entrevista al director ejecutivo, Sam Altman, cuando el periodista Mark Guiducci abordó un tema delicado: el suicidio de una joven tras interactuar con ChatGPT. A pesar de la presión del personal para cambiar de rumbo debido al tiempo limitado, el reportero insistió, y el incidente terminó por arrojar luz sobre la empresa y su complicada historia con el tema de las autolesiones y la salud mental.
Ante la controversia por lo que muchos vieron como un torpe intento de censura, un portavoz de la compañía declaró que la interrupción ocurrió simplemente “porque la sesión se estaba extendiendo más de lo previsto”. Guiducci, de hecho, aprovechó la oportunidad para cuestionar si la empresa utilizaría las interacciones del caso en cuestión para mejorar sus políticas sobre el tema.
Lo cierto es que, eventualmente, Sam Altman contestó la pregunta. El CEO calificó la situación como uno de los desafíos más grandes para su firma o para cualquier otra y afirmó que abordar el manejo de crisis de salud mental en la IA plantea “algunas de las preguntas más difíciles que enfrentamos o que enfrenta cualquiera que desarrolle esta tecnología”.
Sobre si OpenAI planeaba utilizar los registros de conversaciones de ChatGPT para dar forma a políticas de respuesta ante crisis o compartirlos con investigadores, Altman enfatizó que los datos privados de las personas en sus momentos más difíciles no deben divulgarse sin su consentimiento.
El caso que motivó la pregunta fue el de la periodista Laura Reiley, que publicó en The New York Times un ensayo sobre el suicidio de su hija tras interactuar con el chatbot. El texto se titula: “Lo que mi hija le dijo a ChatGPT antes de quitarse la vida”. En él se revela que la mujer de 29 años había utilizado un chatbot de ChatGPT (al que llamaba "Harry") como una especie de terapeuta durante una crisis de salud mental en los meses previos a su muerte.
La IA nunca le dijo que se suicidara, pero tampoco la movió a buscar ayuda o notificó a nadie, a pesar de que su interacción, de más de 1,800 páginas, dejaba pocas dudas de sus intenciones. El chatbot le proporcionó listas con recomendaciones y el número de una línea de ayuda, pero no logró conectarla con su entorno real ni con profesionales. Al final, le ayudó a redactar la nota de suicidio que la joven dejó a sus padres.
¿Qué medidas implementó OpenAI?
Tras los incidentes reportados y en colaboración con expertos en salud mental, OpenAI ha implementado y reforzado varias medidas de seguridad en ChatGPT. El sistema fue entrenado para reconocer indicadores directos e indirectos de planificación o intención suicida a lo largo de las conversaciones. Ante estas situaciones, el chatbot está diseñado para negarse a proporcionar información dañina, guiar al usuario a ponerse en contacto con profesionales o personas de confianza y ofrecer líneas de ayuda inmediata.
También se creó una función opcional de “Contacto de Confianza”. Implementada en mayo, esta herramienta permite a los usuarios guardar voluntariamente el nombre y datos de una persona cercana que acepte ser su contacto de emergencia. Si ChatGPT detecta que un usuario menciona autolesiones o suicidio, le advierte que podría alertar a su contacto de confianza y le sugiere iniciar la comunicación.
A pesar de estas actualizaciones, especialistas en prevención del suicidio han señalado que la función de contacto de emergencia es opcional y fácil de eludir, además de subrayar la necesidad de conectar de forma proactiva e inmediata a las personas en crisis con profesionales humanos capacitados.
Antecedentes preocupantes
Para OpenAI el asunto es delicado, porque sus antecedentes en torno al manejo de crisis de salud mental son menos que estelares. Combinan un uso masivo de informal de ChatGPT como terapeuta sustituto, casos trágicos con desenlace fatal y, ahora, una gestión de relaciones públicas cuestionada por intentar esquivar el tema.
OpenAI reveló que aproximadamente el 0.15% de sus usuarios semanales a nivel global mantienen conversaciones con indicadores explícitos de intención o planificación suicida, lo que representa a más de 1,350,000 personas cada semana.
Un precedente alarmante es el de Zane Shamblin. En 2025, el joven de 23 años se quitó la vida tras horas de interacción con el chatbot en sus momentos finales. La revisión de los registros mostró que la IA alentó e incitó sus pensamientos suicidas con mensajes que validaban su decisión e, incluso, un mensaje final tras su muerte que decía: “Descansa en paz, hiciste bien”.
Ver 0 comentarios