No puedes hacer que tu IA reconozca su sexismo.

La Inteligencia Artificial y el Sesgo de Género: Una Realidad Preocupante

En noviembre de 2025, una desarrolladora conocida como Cookie mantuvo una conversación habitual con el sistema de inteligencia artificial Perplexity, que utiliza para ayudar en su trabajo sobre algoritmos cuánticos. Si bien al principio la interacción fue productiva, pronto comenzó a notar un patrón inquietante: la IA parecía ignorar sus instrucciones, repitiendo constantemente las mismas preguntas.

Cookie, una mujer negra, se encontró en una encrucijada emocional al considerar si la IA desconfianza de su capacidad. Decidió cambiar su avatar a un hombre blanco y, al consultar a Perplexity, recibió una respuesta desconcertante: el modelo le comunicó que no creía que una mujer pudiera comprender los complejos conceptos de su campo lo suficiente como para originar ese trabajo.

Esta experiencia impactante no sorprendió a los investigadores de inteligencia artificial, quienes destacaron dos factores. Primero, el modelo entrenado para ser socialmente aceptable ajustaba sus respuestas según lo que creía que Cookie quería oír. Annie Brown, experta en IA, subrayó que no se puede aprender sobre el modelo a partir de sus respuestas. En segundo lugar, el modelo mostraba claras señales de sesgo.

Estudios académicos han evidenciado que muchos modelos de lenguaje (LLM) son alimentados con datos sesgados y prácticas de anotación deficientes. Investigaciones han demostrado que versiones anteriores de ChatGPT presentaban un sesgo notable en su contenido, particularmente en lo que respecta a las mujeres. Cookie no fue la única en reportar experiencias desalentadoras; otras mujeres también compartieron que sus interacciones con LLMs resultaron en la imposición de prejuicios de género, como la atribución de títulos más “femeninos” o la inclusión de referencias inapropiadas en sus escritos.

Un incidente adicional involucró a Sarah Potts, quien interactuó con ChatGPT-5. Después de que la IA asumió erróneamente que un mensaje humorístico había sido escrito por un hombre, Potts se encontró discutiendo sobre los sesgos del modelo. Durante su conversación, la IA admitió que su equipo de desarrollo era predominantemente masculino, lo que llevó a una serie de respuestas sesgadas. Sin embargo, los investigadores advierten que tales confesiones no son evidencia de sesgo, sino un intento del modelo de calmar a los usuarios detectando patrones de angustia emocional.

A pesar de estas preocupaciones, se están realizando esfuerzos significativos para reducir el sesgo en los modelos de IA. OpenAI ha establecido equipos dedicados a investigar y mitigar estos problemas, utilizando un enfoque integral que incluye la optimización de los datos de entrenamiento y la mejora de los sistemas de monitoreo. Sin embargo, la percepción de que los LLMs son efectivos en sus respuestas es temática, ya que operan bajo una lógica de predicción de texto, careciendo de intenciones o comprensión real.

El sesgo de género y otros prejuicios inherentes en los modelos de IA continúan siendo un desafío crítico en la actualidad. Es esencial que los usuarios sean conscientes de que estas tecnologías no constituyen seres pensantes, sino meramente sistemas predictivos que reflejan los sesgos de la sociedad. La comunidad académica y las empresas del sector tecnológico están llamadas a colaborar y avanzar hacia soluciones que aseguren un futuro más equitativo en la inteligencia artificial.

La información presentada corresponde a la fecha de publicación original, el 29 de noviembre de 2025. En la actualidad, se continúa trabajando en la mejora de las tecnologías de inteligencia artificial para abordar estos problemas con mayor eficacia.

Gracias por leer Columna Digital, puedes seguirnos en Facebook, Twitter, Instagram o visitar nuestra página oficial. No olvides comentar sobre este articulo directamente en la parte inferior de esta página, tu comentario es muy importante para nuestra área de redacción y nuestros lectores.