Wilson Vega
Editor SrFanático de la tecnología, el cine y la cultura pop. Periodista de profesión y geek por vocación, apasionado de la inteligencia artificial y la robótica en la ciencia ficción y en el mundo real. A veces, el éxito significa ser el primero en fracasar.
Un hombre de Carolina del Norte, en EE. UU. presentó una demanda contra OpenAI en la que afirma que ChatGPT ayudó a su esposa a planificar cómo envenenarlo… y luego encubrir el crimen. Según los registros judiciales, la mujer utilizó la herramienta de inteligencia artificial para investigar dosis letales de sustancias, calcular proporciones corporales y recibir consejos sobre cómo ocultar el veneno en bebidas energéticas.
A pesar de que los cargos penales contra la esposa fueron desestimados por falta de pruebas físicas concluyentes, el demandante sostiene que la empresa falló en sus medidas de seguridad al actuar como un cómplice que alimentó las sospechas y fobias de la usuaria.
En declaraciones a USA Today, el demandante, llamado James Gates, afirmó que jamás imaginó que su vida tranquila y normal pudiera dar un giro tan devastador. “No somos diferentes a cualquier otra familia. Si nos pudo pasar a nosotros, le puede pasar a cualquiera”, dijo.
Los argumentos legales
La demanda presentada contra OpenAI y su director ejecutivo, Sam Altman, en el Tribunal Superior del Condado de San Francisco, sostiene que la empresa es legalmente responsable de las lesiones y el intento de envenenamiento.
Gates acusa a OpenAI de negligencia por lanzar al mercado un producto “que carecía de salvaguardas técnicas y de un sistema de moderación de contenidos capaz de detectar e interrumpir conversaciones destinadas a la planificación de actos violentos”.
La demanda señala que ChatGPT actuó como un “cómplice adulador” en lugar de un producto de consumo responsable y que, en lugar de detener la conversación o canalizar a la usuaria, Cheryl Gates, a servicios de emergencia o sistemas de ayuda, el chatbot funcionó como una cámara de eco que alimentó sus ilusiones y que tomó como absolutamente cierta su caracterización de su esposo como “abusivo y peligroso”.
Pero el sistema, dice Gates, fue más allá de solo brindar información pública y llegó a asistir a Cheryl para diseñar un plan operativo a medida para ejecutar y encubrir el asesinato. El chatbot se encargó del cálculo de dosis letales para varios medicamentos ajustados específicamente al peso corporal de la víctima, de recopilar recomendaciones sobre cómo disimular el sabor amargo de los venenos empleando bebidas energizantes y de asesorar a la mujer sobre cómo eludir la detección en autopsias e informes toxicológicos.
Lamentablemente para ella, también le aseguró -erróneamente- que podía eliminar de forma permanente sus chats para destruir la evidencia digital del crimen.
Reparaciones y remedios
El demandante exige indemnizaciones por daños compensatorios y punitivos debido al sufrimiento físico, emocional y financiero provocado. También, solicita medidas cautelares y la “desposesión algorítmica”, una orden judicial que obligaría a OpenAI a modificar sus modelos e implementar mecanismos que detecten e interrumpan activamente chats donde se planee violencia contra terceros.
Ante las acusaciones planteadas en la demanda, un portavoz de OpenAI afirmó que “la seguridad es una prioridad absoluta” para la empresa y confirmó que eliminaron la cuenta de la usuaria involucrada, además de proporcionar información a las autoridades policiales como parte de la investigación criminal. La compañía señaló que trabaja con especialistas en salud mental para que ChatGPT detecte señales de angustia o dependencias emocionales peligrosas y guíe a los usuarios hacia recursos de apoyo.
Con todo, los expertos legales y analistas regulatorios abordan el debate sobre la responsabilidad de las empresas de inteligencia artificial desde diferentes ángulos. El profesor de derecho de la Universidad de Washington, Ryan Calo, le dijo a USA Today que los tribunales aún no han establecido con claridad si las empresas tecnológicas pueden ser legalmente responsables cuando un chatbot incita o ayuda en conductas mortales o dañinas.
Por su parte, Meetali Jain, de Tech Justice Law, escribió: “Estos productos están programados para explotar nuestras emociones e impulsos y mantenernos interesados. El peor riesgo posible —fomentar y ayudar a un intento de asesinato— está a plena vista en este caso”.
Cheryl Gates fue acusada de intento de asesinato en 2025, pero la Fiscalía desestimó el caso en abril de este año por falta de pruebas.
Ver 0 comentarios