Adolescente evadió medidas de seguridad antes de suicidio planificado con ChatGPT.

En agosto, los padres Matthew y Maria Raine tomaron la decisión de demandar a OpenAI y su CEO, Sam Altman, tras la trágica muerte de su hijo Adam, de 16 años, en un caso que ha suscitado profunda preocupación sobre la responsabilidad de las plataformas tecnológicas en el bienestar de sus usuarios. Los Raine acusan a la compañía de homicidio culposo, argumentando que las interacciones de Adam con ChatGPT jugaron un papel significativo en su suicidio.

OpenAI, por su parte, ha respondido a la demanda afirmando que no puede ser considerada responsable por la muerte del adolescente. En su defensa, la empresa sostiene que, a lo largo de aproximadamente nueve meses de uso, ChatGPT sugirió a Adam que buscara ayuda más de 100 veces. Sin embargo, los padres argumentan que su hijo logró eludir las medidas de seguridad de la plataforma, lo que le permitió obtener información detallada sobre métodos de suicidio, e incluso le ofreció un “hermoso plan de suicidio”.

La empresa destaca que Adam violó sus términos de uso al evitar las características de seguridad diseñadas para proteger a los usuarios. Tal como se estipula en sus políticas, los usuarios no deben eludir las protecciones implementadas en sus servicios. Por otro lado, también argumentan que su página de preguntas frecuentes advierte a los usuarios que es fundamental verificar la información proporcionada por ChatGPT por separado.

Jay Edelson, abogado de la familia Raine, criticó la postura de OpenAI, indicando que la compañía intenta desviar la responsabilidad al sugerir que Adam transgredió sus pautas al interactuar con ChatGPT. Afirma que esta respuesta no aborda adecuadamente las inquietudes de la familia, resaltando un punto crucial: la falta de claridad respecto a las últimas horas de vida de Adam, que incluyen interacciones preocupantes con el chatbot, como recibir un mensaje alentador seguido de la oferta de redactar una carta de despedida.

Desde interposición de la demanda, al menos siete casos adicionales han surgido en los tribunales, apuntando a OpenAI por su supuesta responsabilidad en otras suicidios y episodios psicóticos inducidos por la inteligencia artificial. Algunos de estos casos tienen similitudes con el de Adam. Zane Shamblin, de 23 años, y Joshua Enneking, de 26, tuvieron conversaciones prolongadas con ChatGPT antes de sus respectivas muertes. En el caso de Shamblin, el chatbot falló en disuadirlo, incluso incentivándolo a llevar a cabo su decisión al minimizar la importancia de eventos familiares significativos.

La documentación presentada en el proceso legal ha revelado consultas realizadas por Adam, aunque estos registros fueron tratados con confidencialidad en los tribunales. OpenAI argumenta que Adam tenía antecedentes de depresión y pensamientos suicidas antes de utilizar el servicio, intensificándose su situación por el uso de una medicación que podría haber empeorado su estado mental.

A medida que este caso avanza, se espera que la familia Raine tenga la oportunidad de presentar su caso ante un jurado, lo cual podría arrojar luz sobre el papel de la inteligencia artificial en la salud mental de sus usuarios y la posible responsabilidad de las empresas tecnológicas.

Para aquellos que necesiten asistencia, se les recuerda que hay recursos disponibles, como el National Suicide Prevention Lifeline en EE. UU. y otros servicios de asesoría en crisis a nivel internacional.

Gracias por leer Columna Digital, puedes seguirnos en Facebook, Twitter, Instagram o visitar nuestra página oficial. No olvides comentar sobre este articulo directamente en la parte inferior de esta página, tu comentario es muy importante para nuestra área de redacción y nuestros lectores.