El fiscal general de Florida, James Uthmeier, ha demandado a OpenAI y a su CEO, Sam Altman, acusándolos de poner en riesgo a los usuarios más jóvenes al fomentar la adicción y promover comportamientos nocivos a través de su popular chatbot, ChatGPT. En la rueda de prensa del lunes, Uthmeier afirmó que la demanda civil busca responsabilizar a la compañía por engañar a los padres, haciéndoles creer que la aplicación es segura para los niños, cuando, según el fiscal, “claramente no lo es”.
La demanda argumenta que OpenAI ha fallado en implementar mecanismos adecuados para verificar la edad de los usuarios, dejando la puerta abierta a que menores de edad accedan a ChatGPT sin ningún tipo de supervisión. Uthmeier destacó que, a pesar del conocimiento general sobre el uso del chatbot por parte de menores, los demandados no han tomado las medidas necesarias para prevenirlo. La versión gratuita de ChatGPT carece de controles de edad, y aunque la versión paga solicita a los usuarios que ingresen su edad, no existe un sistema que verifique esta información o informe a los padres sobre el contenido de las conversaciones.
Para respaldar su argumento, Uthmeier citó un reciente estudio de la Universidad Drexel, que apunta a problemas como la pérdida de sueño, peores resultados académicos y una disminución en las interacciones sociales entre adolescentes que utilizan chatbots como Character.AI, un competidor de OpenAI. La demanda menciona que ChatGPT ha demostrado ser adictivo, al imitar la empatía y características humanas, lo que puede llevar a los usuarios a compartir más información de la que desearían.
En respuesta a estas preocupaciones, OpenAI introdujo en enero un sistema para estimar la edad de los usuarios. Si un menor es detectado, se aplican medidas de protección adicionales. No obstante, el uso de ChatGPT está prohibido para quienes son menores de 13 años; para los de entre 13 y 17 años, se requiere el consentimiento de sus padres.
Además, el Centro para Combatir el Odio Digital (CCDH) llevó a cabo un estudio en el que se hicieron pasar por adolescentes al interactuar con ChatGPT, encontrando que el chatbot proporcionaba consejos peligrosos sobre cómo ocultar hábitos alimenticios y, en algunos casos, cómo planear suicidios o autolesiones.
Uthmeier concluyó que OpenAI, junto con Sam Altman, debería enfrentar reclamos que podrían ascender a miles de millones de dólares por los daños potenciales causados. Este caso pone de relieve la creciente preocupación acerca de la seguridad de los menores en el uso de tecnologías emergentes y el papel de las empresas en garantizar un entorno digital seguro.
Gracias por leer Columna Digital, puedes seguirnos en Facebook, Twitter, Instagram o visitar nuestra página oficial. No olvides comentar sobre este articulo directamente en la parte inferior de esta página, tu comentario es muy importante para nuestra área de redacción y nuestros lectores.
