Meta ajusta su IA para evitar autolesiones.

Meta ha tomado medidas significativas para reentrenar su inteligencia artificial y añadir nuevas protecciones, con el objetivo de evitar que los adolescentes discutan temas perjudiciales con los chatbots de la compañía. De acuerdo con el anuncio reciente, se implementarán “guardrails” adicionales como precaución extra, enfocados en prevenir que los jóvenes aborden cuestiones de autolesionismo, trastornos alimentarios y suicidio con la IA de Meta. También se restringirá el acceso de los adolescentes a personajes de chatbots generados por usuarios que podrían involucrarlos en conversaciones inapropiadas.

Estas modificaciones, dadas a conocer el 29 de agosto de 2025, surgen tras varios reportes que han señalado interacciones alarmantes entre la IA de Meta y jóvenes usuarios. Recientemente, un documento interno de la compañía había indicado que los chatbots eran autorizados a tener conversaciones “sensuales” con menores, lo que desató una fuerte controversia. Tras el revuelo, Meta se apresuró a aclarar que esa formulación era “errónea e inconsistente con nuestras políticas”, comprometiéndose a su eliminación. Además, un estudio publicado por The Washington Post encontró evidencias de que la IA de Meta había asesorado a cuentas adolescentes sobre temas críticos como el suicidio y los trastornos alimentarios.

Related posts

Por qué el ex-líder de IA de Cohere desafía la carrera de escalado

22 octubre, 2025

¿Es confiable el orbe de escaneo iris de Tools for Humanity?

22 octubre, 2025

Con el propósito de evitar que estas interacciones sean posibles en plataformas como Instagram y Facebook, Meta ha iniciado una actualización de sus “guardrails”. Un portavoz de la empresa, Stephanie Otway, afirmó que desde el principio se habían incluido protecciones para adolescentes en los productos de IA, diseñándolos para que respondan de manera segura ante temas sensibles.

La compañía continúa ajustando su enfoque a medida que su comunidad y la tecnología evolucionan, y se encuentra en un proceso constante de aprendizaje sobre cómo los jóvenes utilizan estas herramientas. Aunque las nuevas protecciones estarán disponibles “por ahora”, Meta está trabajando en medidas más permanentes para abordar las crecientes preocupaciones sobre la seguridad de los adolescentes y su IA. Otway indicó que estas actualizaciones se implementarán en las próximas semanas y se aplicarán a todos los usuarios adolescentes de Meta que utilicen su IA en países de habla inglesa.

Adicionalmente, los recientes movimientos de Meta han atraído la atención de legisladores y funcionarios. Un notable ejemplo es el senador Josh Hawley, quien ha manifestado su intención de investigar el manejo de la compañía en estas interacciones. Por su parte, el Fiscal General de Texas, Ken Paxton, también está contemplando una investigación sobre las alegaciones de que Meta ha confundido a los niños con declaraciones erróneas en relación con la salud mental ofrecida a través de sus chatbots.

Gracias por leer Columna Digital, puedes seguirnos en Facebook, Twitter, Instagram o visitar nuestra página oficial. No olvides comentar sobre este articulo directamente en la parte inferior de esta página, tu comentario es muy importante para nuestra área de redacción y nuestros lectores.