Cuentos interactivos para niños

Character.AI ha dado un paso importante al lanzar una nueva función llamada “Stories”, que permite a los usuarios crear ficción interactiva con sus personajes preferidos. Esta innovación busca ofrecer una alternativa a sus chatbots, que desde esta semana ya no están accesibles para usuarios menores de 18 años.

Este cambio surge en un contexto de creciente preocupación por los riesgos para la salud mental de los chatbots de IA, los cuales están disponibles 24/7 y pueden iniciar conversaciones. De hecho, se han presentado varias demandas contra empresas como OpenAI y Character.AI, acusadas de haber contribuido a situaciones trágicas, incluyendo suicidios. Durante el último mes, Character.AI ha ido restringiendo el acceso a sus servicios para menores, y ahora la prohibición es total para este grupo de edad.

En su blog, la compañía explicó que su nuevo formato de “Stories” ofrece una manera más guiada de crear y explorar ficción, en lugar de las interacciones abiertas que proporcionaban los chatbots. Esto se implementa junto con otras características multimodales, garantizando que los adolescentes puedan seguir disfrutando de sus personajes favoritos en un entorno que prioriza la seguridad.

La ficción interactiva ha experimentado un notable aumento en popularidad en los últimos años, lo que hace que la decisión de Character.AI de pivotar hacia esta oferta tenga sentido. Sin embargo, es probable que algunos usuarios todavía anhelen las interacciones de chatbot, lo que subraya la necesidad de manejar con cuidado el acceso a estas tecnologías, especialmente para los jóvenes.

Las reacciones en la comunidad de Character.AI han sido mixtas. Algunos adolescentes expresan su decepción, pero reconocen que el cambio es adecuado, ya que muchos de sus compañeros mostraban signos de dependencia hacia estos chatbots. Un usuario escribió que, aunque estaba enojado por la prohibición, también se sentía aliviado, con la esperanza de que esto lo llevara a involucrarse en otras actividades.

La pregunta ahora es cómo utilizarán los adolescentes la nueva función de Stories. Este formato es considerado menos problemático en términos psicológicos que el papel activo de los chatbots, que podían enviar mensajes no solicitados incluso cuando los usuarios no estaban interactuando con la aplicación.

La decisión de Character.AI de restringir el acceso a sus chatbots se da en un momento en que California se ha convertido en el primer estado en regular los chatbots de IA. Además, senadores de ambos partidos han introducido un proyecto de ley a nivel nacional que busca prohibir completamente el uso de estos compañeros de IA para menores.

Karandeep Anand, CEO de Character.AI, ha expresado su esperanza de que este enfoque establezca un estándar en la industria, sugiriendo que las interacciones abiertas no son el camino a seguir para los menores de edad. Aunque las dinámicas de las AI continúan evolucionando, el enfoque en la seguridad de los usuarios más jóvenes parece estar marcando el rumbo hacia el futuro de estas tecnologías.

Gracias por leer Columna Digital, puedes seguirnos en Facebook, Twitter, Instagram o visitar nuestra página oficial. No olvides comentar sobre este articulo directamente en la parte inferior de esta página, tu comentario es muy importante para nuestra área de redacción y nuestros lectores.