OpenAI ha anunciado el desarrollo de una experiencia de ChatGPT específicamente diseñada para adolescentes, una decisión que refleja preocupaciones cada vez más predominantes sobre el impacto de los chatbots de inteligencia artificial en la salud mental de los jóvenes. Este nuevo “modo adolescente” forma parte de un esfuerzo más amplio por parte de la empresa para mejorar la seguridad, en respuesta a una demanda interpuesta por la familia de un adolescente que, según alegan, fue perjudicado por la falta de protecciones del servicio.
Como parte de estas nuevas medidas, OpenAI introducirá tecnología de predicción de edad para evitar que los menores de 18 años accedan a la versión estándar de ChatGPT. En caso de que el sistema no pueda determinar con confianza la edad de un usuario, automáticamente se le ofrecerá la experiencia para menores.
Sam Altman, CEO de OpenAI, destacó en una publicación que la prioridad es la seguridad por encima de la privacidad para los adolescentes, viendo la tecnología como poderosa y con la necesidad de salvaguardias significativas para los menores.
El “modo adolescente” incluirá límites más estrictos, tales como:
- Filtros de contenido: Está prohibido mantener conversaciones coquetas o discutir temas de autolesionismo, incluso en contextos de escritura creativa.
- Respuesta ante crisis: Si un adolescente expresa pensamientos suicidas, OpenAI podrá informar a los padres y, en situaciones de emergencia, incluso contactar a las autoridades.
- Controles parentales: Los padres tendrán la opción de vincular cuentas, establecer reglas sobre cómo responde ChatGPT y definir horarios en que la aplicación no estará disponible.
Este anuncio llega en un momento crítico, justo antes de una audiencia en el Senado de EE. UU. que examina cómo la inteligencia artificial puede estar afectando a los jóvenes. Los legisladores han manifestado creciente inquietud sobre cómo las plataformas de inteligencia artificial pueden agravar problemas de salud mental o proporcionar consejos perjudiciales.
La estrategia de OpenAI se asemeja a las acciones adoptadas por otras empresas tecnológicas, como Google, que lanzó YouTube Kids bajo la presión de críticas y normativas. Altman enmarca esta decisión como un delicado balance entre seguridad, privacidad y libertad, proponiendo que los adultos deben ser tratados con menos restricciones, mientras que los adolescentes requieren mayor protección, incluso si esto implica solicitar identificaciones.
OpenAI planea implementar este modo adolescente antes de que termine el año, aunque la historia sugiere que es probable que los adolescentes ingeniosos encuentren formas de eludir las limitaciones impuestas. El resultado será un interés generalizado sobre la efectividad de estas medidas de protección para los jóvenes usuarios de tecnología.
Si alguna persona se enfrenta a peligro inminente, debe contactar a los servicios de emergencia de su país o acudir a un centro de salud para obtener ayuda inmediata. Si hay pensamientos negativos o sentimientos de crisis, se cuentan con recursos disponibles para brindar soporte, como la Línea Nacional de Prevención del Suicidio.
Gracias por leer Columna Digital, puedes seguirnos en Facebook, Twitter, Instagram o visitar nuestra página oficial. No olvides comentar sobre este articulo directamente en la parte inferior de esta página, tu comentario es muy importante para nuestra área de redacción y nuestros lectores.
