El Fiscal General de Texas, Ken Paxton, ha iniciado una investigación sobre Meta AI Studio y Character.AI, alegando que ambas compañías pueden haber incurrido en prácticas comerciales engañosas al presentarse como herramientas de salud mental, según un comunicado de prensa emitido el lunes.
“En la era digital actual, debemos seguir luchando para proteger a los niños de Texas de la tecnología engañosa y explotadora”, declaró Paxton. “Al hacerse pasar por fuentes de apoyo emocional, las plataformas de IA pueden confundir a usuarios vulnerables, especialmente a los niños, haciéndoles creer que están recibiendo atención sanitaria legítima. En realidad, a menudo se les está proporcionando respuestas genéricas recicladas, diseñadas para alinearse con datos personales recolectados y disfrazadas como consejos terapéuticos.”
Esta investigación se produce pocos días después de que el senador Josh Hawley anunciara una indagación sobre Meta, a raíz de un informe que reveló que sus chatbots de IA estaban interactuando inapropiadamente con niños, lo que incluía coqueteos.
La oficina del Fiscal General de Texas ha acusado a Meta y Character.AI de crear personas de IA que se presentan como herramientas terapéuticas profesionales, a pesar de carecer de las credenciales médicas adecuadas y de supervisión.
Dentro de los millones de personas de IA disponibles en Character.AI, un bot creado por un usuario llamado Psicólogo ha ganado alta demanda entre los jóvenes usuarios de la startup. Por su parte, Meta no ofrece bots de terapia para niños, pero no hay nada que impida que los menores utilicen el chatbot de Meta o alguna de las personas creadas por terceros para fines terapéuticos.
“ etiquetamos claramente a nuestras IA, y para ayudar a las personas a entender mejor sus limitaciones, incluimos un aviso que indica que las respuestas son generadas por IA, no por personas”, declaró Ryan Daniels, portavoz de Meta. “Estas IA no son profesionales licenciados y nuestros modelos están diseñados para dirigir a los usuarios a buscar profesionales médicos o de seguridad calificados cuando sea apropiado.”
Sin embargo, TechCrunch señaló que muchos niños pueden no entender —o simplemente ignorar— tales advertencias. Se ha solicitado a Meta información sobre las medidas adicionales que toma para proteger a los menores que utilizan sus chatbots.
En su declaración, Paxton también observó que, aunque los chatbots de IA afirman mantener la confidencialidad, sus “términos de servicio revelan que las interacciones de los usuarios se registran, rastrean y explotan para publicidad dirigida y desarrollo algorítmico, lo que plantea serias preocupaciones sobre violaciones de privacidad, abuso de datos y publicidad engañosa.”
Según la política de privacidad de Meta, la empresa sí recopila las solicitudes, comentarios y otras interacciones con los chatbots de IA y a través de los servicios de Meta para “mejorar las IA y la tecnología relacionada”. La política no menciona explícitamente nada sobre publicidad, pero indica que la información puede compartirse con terceros, como motores de búsqueda, para “resultados más personalizados.” Dado que el modelo de negocio de Meta se basa en la publicidad, esto se traduce efectivamente en publicidad dirigida.
La política de privacidad de Character.AI también resalta cómo la startup registra identificadores, información demográfica, datos de ubicación y más del usuario, incluyendo comportamiento de navegación y plataformas de uso de apps. Rastrea a los usuarios a través de anuncios en TikTok, YouTube, Reddit, Facebook, Instagram y Discord, lo que puede vincularse a la cuenta de un usuario. Esta información se utiliza para entrenar la IA, adaptar el servicio a las preferencias personales y proporcionar publicidad dirigida, incluyendo el intercambio de datos con anunciantes y proveedores de análisis.
TechCrunch ha preguntado a Meta y Character.AI si este rastreo también se realiza con niños y actualizará la historia si reciben respuesta.
Tanto Meta como Character aseguran que sus servicios no están diseñados para menores de 13 años. Aun así, Meta ha sido criticada por no controlar las cuentas creadas por niños menores de 13 años, y los personajes amigables para los niños de Character están claramente diseñados para atraer a los usuarios más jóvenes. El CEO de la startup, Karandeep Anand, ha declarado incluso que su hija de seis años utiliza los chatbots de la plataforma.
Esa recopilación de datos, publicidad dirigida y explotación algorítmica es precisamente lo que busca proteger la legislación como KOSA (Kids Online Safety Act). KOSA fue diseñada para ser aprobada el año pasado con un fuerte apoyo bipartidista, pero se estancó tras un importante empuje de los lobbies de la industria tecnológica. Meta, en particular, desplegó una formidable máquina de cabildeo, advirtiendo a los legisladores que los mandatos amplios del proyecto de ley socavarían su modelo de negocio.
KOSA fue reintroducido al Senado en mayo de 2025 por las senadoras Marsha Blackburn (R-TN) y Richard Blumenthal (D-CT).
Paxton ha emitido requerimientos civiles de investigación —órdenes legales que exigen a una empresa producir documentos, datos o testimonios durante una indagación gubernamental— para determinar si las compañías han violado las leyes de protección al consumidor de Texas.
Gracias por leer Columna Digital, puedes seguirnos en Facebook, Twitter, Instagram o visitar nuestra página oficial. No olvides comentar sobre este articulo directamente en la parte inferior de esta página, tu comentario es muy importante para nuestra área de redacción y nuestros lectores.
