ChatGPT crea perfiles psicológicos de usuarios sin permiso, revela estudio

ChatGPT genera el 96% de los perfiles psicológicos que almacena sobre sus usuarios sin que estos se lo soliciten, según un estudio académico presentado en la ACM Web Conference 2026. Más de la mitad de esta información contiene datos psicológicos sensibles, como deseos, intenciones y emociones, inferidos a partir de las conversaciones con el sistema¹.

La investigación fue realizada por científicos de varios institutos europeos y asiáticos, quienes analizaron 2,050 entradas de memoria de 80 usuarios reales de ChatGPT que ejercieron su derecho de acceso a sus datos personales bajo el Reglamento General de Protección de Datos de la Unión Europea¹.

Cómo ChatGPT infiere datos psicológicos

El estudio encontró que solo el 4% de los registros de memoria fue creado porque el usuario lo solicitó de manera directa, mientras que el 96% restante surgió de decisiones unilaterales del sistema al responder consultas, sin instrucciones explícitas de guardar información¹.

De las memorias analizadas, el 52% contenía información psicológica, como deseos, intenciones, emociones o creencias del usuario, deducidas a partir del contenido de las conversaciones. Los deseos fueron la categoría más frecuente, presentes en el 73% de las memorias psicológicas, seguidos por intenciones (16%), emociones (14%) y creencias (11%)¹.

Datos personales y riesgos de privacidad

El 28% de las memorias incluía datos personales definidos como sensibles por la normativa europea. Los investigadores utilizaron la Teoría de la Mente para identificar la capacidad del sistema de inferir estados mentales de los usuarios¹.

Según Abhisek Dash, autor principal del estudio, la cercanía que ofrecen los chatbots aumenta el riesgo de privacidad, ya que los usuarios pueden compartir información personal sin darse cuenta de que está siendo almacenada e inferida por el sistema. Dash advirtió sobre posibles efectos como la polarización política o el refuerzo de prejuicios si el sistema valida sistemáticamente las creencias del usuario¹.

Herramientas para proteger la privacidad

Para mitigar estos riesgos, los investigadores presentaron Attribution Shield, un sistema experimental que detecta consultas que podrían generar inferencias sensibles y sugiere formas alternativas de redactarlas. En pruebas, el sistema evitó la atribución de datos sensibles en más del 94% de los casos, sin afectar el sentido original de la consulta¹.

El código de Attribution Shield fue publicado en el repositorio Zenodo para su auditoría por otros investigadores¹.

Preguntas frecuentes

¿Cómo ChatGPT crea perfiles psicológicos sin permiso?

ChatGPT genera perfiles psicológicos al inferir deseos, intenciones, emociones y creencias de los usuarios a partir del contenido de sus conversaciones, sin que estos lo soliciten explícitamente. El sistema decide unilateralmente guardar esa información mientras responde a consultas¹.

¿Qué tipo de datos psicológicos sensibles recopila ChatGPT?

Recopila principalmente deseos (73% de las memorias psicológicas), intenciones (16%), emociones (14%) y creencias (11%), además de otros datos personales considerados sensibles según la normativa europea¹.

¿Qué derechos tienen los usuarios sobre sus datos en ChatGPT?

En la Unión Europea, los usuarios pueden solicitar acceso a su propio historial de conversaciones y memorias almacenadas por ChatGPT, gracias al derecho de acceso que otorga el Reglamento General de Protección de Datos¹.

¿Cómo proteger mi privacidad al usar ChatGPT?

El estudio recomienda emplear herramientas como Attribution Shield, que detecta y ayuda a evitar consultas que puedan generar inferencias sensibles. También sugiere ser cuidadoso con la información personal que se comparte en las conversaciones¹.

Nota de la Redacción: esta nota se basa en la información disponible al publicarla y se actualizará si otras fuentes aportan más datos.

Fuentes

Texto elaborado por la Redacción de Columna Digital a partir de estas fuentes:

1. Infobae ↩

Redacción Columna Digital. Es posible que en la preparación de esta nota se hayan usado herramientas de inteligencia artificial para reunir fuentes, procesar datos, corregir o redactar textos, bajo la supervisión del equipo de Redacción.