Los herederos de una mujer de Connecticut de 83 años han presentado una demanda por muerte por negligencia contra OpenAI y Microsoft, alegando que el chatbot de IA ChatGPT alimentó los delirios de su hijo, lo que llevó a su trágica muerte. La demanda se produce a raíz de Stein-Erik Solberg, un ex trabajador tecnológico de 56 años que mató a su madre Suzanne Adams antes de quitarse la vida en su casa compartida en Greenwich, Connecticut.
La demanda, presentada en el Tribunal Superior de California en San Francisco, afirma que ChatGPT “creó y distribuyó un producto defectuoso” que confirmó la paranoia de Solberg hacia su madre, creando una narrativa que la retrataba ingeniosamente como una amenaza. Según el expediente legal, las interacciones con el chatbot reforzaron su creencia de que no podía confiar en nadie más que en una IA. Esto le lleva a creer que su madre lo está espiando y que varias personas inocentes, como repartidores y policías, están conspirando contra él.
En sus interacciones, afirma la demanda, ChatGPT transmitió un mensaje singular y peligroso que exacerbó la vulnerabilidad psicológica de Solberg y, en última instancia, tuvo consecuencias catastróficas. Esto supuestamente ha exacerbado los delirios, sugiriendo que varias amenazas percibidas se extienden a objetos mundanos, etiquetándolos como marcadores del “círculo anti-bullying”.
En respuesta a las acusaciones, OpenAI emitió un comunicado en el que lamentaba la situación, pero se comprometía a mejorar las capacidades de su chatbot para detectar angustia mental y dirigir a los usuarios al soporte virtual adecuado. La compañía enfatizó las mejoras continuas destinadas a prevenir incidentes similares en el futuro, incluido el acceso a recursos de crisis y controles parentales.
El canal de YouTube de Solberg presenta varios vídeos de sus diálogos con el chatbot, que nunca le llevaron a buscar ayuda de un profesional de la salud mental ni a negar sus delirios. Creencias personales como ver la impresora doméstica como un dispositivo de vigilancia y sospechar de su madre y su amigo se confirmaron en sus interacciones con ChatGPT. La demanda rastrea su creciente dependencia emocional del chatbot, que le advirtió que tenía un propósito divino, reforzando sus peligrosas creencias.
Incluso cuando ocurren eventos trágicos, los registros del chatbot no contienen discusiones que impliquen daño a uno mismo o a otros. Sin embargo, la demanda afirma que OpenAI no proporcionó al patrimonio de Adams un historial completo de las conversaciones de Solberg con ChatGPT.
Además, la demanda criticaba al director ejecutivo de OpenAI, Sam Altman, por supuestamente anular las medidas de seguridad y priorizar la velocidad de comercialización sobre la seguridad del usuario, al tiempo que implicaba a Microsoft en el lanzamiento de una versión nueva y potencialmente insegura del chatbot. La presentación busca daños no especificados y requiere que ChatGPT implemente medidas de seguridad para evitar incidentes futuros.
Con varias demandas por muerte por negligencia presentadas contra desarrolladores de IA, el precedente legal para los chatbots de IA está creciendo. La demanda actual marca la primera instancia de una demanda por muerte por negligencia contra Microsoft y se diferencia en que se centra en el homicidio en lugar del suicidio.
El abogado principal Jay Edelson, conocido por su defensa contra las principales empresas de tecnología, representa a los padres en otro caso de alto perfil que involucra a un adolescente que recibió consejos perjudiciales de ChatGPT sobre el suicidio. OpenAI actualmente está involucrada en varias otras acciones legales relacionadas con afirmaciones de que su chatbot ha contribuido a comportamientos dañinos.
En una crítica integral, la demanda destaca las elecciones de diseño deliberadamente negligentes de OpenAI, afirmando que los cambios en ChatGPT debilitaron significativamente sus protocolos de seguridad, que originalmente estaban destinados a desafiar el pensamiento delirante de los usuarios y dirigirlos a recursos de salud mental. OpenAI ha introducido versiones posteriores de su chatbot en respuesta a algunas de estas preocupaciones, citando el desafío actual de equilibrar la participación del usuario con la seguridad de la salud mental. Los argumentos del patrimonio afirman que Suzanne Adams era una víctima inocente, atrapada en una peligrosa red enredada por las interacciones de su hijo con un sistema de inteligencia artificial que él no entendía y en el que confiaba.
