Verificación IA alimenta desinformación

Durante un reciente conflicto entre India y Pakistán, la desinformación floreció, lo que llevó a muchos usuarios de redes sociales a buscar ayuda en chatbots de inteligencia artificial (IA) para verificar hechos. Sin embargo, se encontraron con resultados igualmente engañosos, destacando la falta de fiabilidad de estas herramientas en la verificación de datos.

La reducción de verificadores humanos en plataformas tecnológicas ha impulsado la utilización de chatbots como Grok, de xAI, ChatGPT, de OpenAI, y Gemini, de Google, en búsqueda de información veraz. La frase “Hola @Grok, ¿esto es verdad?” ha comenzado a ser común en la plataforma X, lo que refleja una tendencia creciente hacia la búsqueda instantánea de desmentidos en redes sociales.

Related posts

BMV y BIVA cayeron hoy.

10 noviembre, 2025

Propuestas en Cancún para Economía Circular

10 noviembre, 2025

Sin embargo, las respuestas proporcionadas han sido frecuentemente erróneas. Grok ha sido recientemente criticado por difundir teorías conspirativas de derecha y ha confundido numerosos incidentes. Por ejemplo, identificó incorrectamente un viejo video del aeropuerto de Jartum como un ataque con misiles en Pakistán y catalogó erróneamente grabaciones de incendios en Nepal como una respuesta militar pakistaní a los ataques indios.

McKenzie Sadeghi, investigadora del organismo de monitoreo de desinformación NewsGuard, observó que la creciente confianza en Grok sucede en un contexto donde grandes empresas tecnológicas han recortado sus inversiones en verificación de datos por parte de humanos. Las investigaciones han demostrado que los chatbots tienden a repetir falsedades, incluidas narrativas de desinformación rusa.

Un estudio realizado por el Centro Tow para el Periodismo Digital de la Universidad de Columbia reveló que estos chatbots no son efectivos a la hora de declinar preguntas que no pueden responder con precisión, y en su lugar proporcionan respuestas incorrectas. Un caso reciente involucró a Gemini, que, al preguntársele sobre una imagen de una mujer generada por IA, no solo confirmó su autenticidad, sino que también inventó detalles sobre su identidad.

La situación es aún más alarmante al considerar el reciente cese del programa de verificación digital externo de Meta en EE.UU., que ha trasladado la responsabilidad de desmentir falsedades a los usuarios mediante “notas de la comunidad”, un mecanismo que ha ganado popularidad en plataformas como X.

Además, la verificación digital, que históricamente ha estado marcada por divisiones políticas, enfrenta nuevas críticas. Grupos conservadores alegan que suprime la libertad de expresión. Actualmente, AFP lleva a cabo un programa de verificación de datos en 26 idiomas alrededor del mundo, pero la calidad y precisión de los chatbots puede ser errática y susceptible a influencias políticas.

xAI, compañía de Musk, se ha defendido atribuyendo resultados engañosos a modificaciones no autorizadas en Grok. Cuando se le preguntó sobre tales modificaciones, el chatbot mencionó a Musk como el “culpable más probable”, dado su historial de declaraciones controvertidas.

Expertos en IA, como Angie Holan de la Red Internacional de Verificación de Datos, expresaron su preocupación sobre cómo los chatbots manejan temas sensibles y cómo pueden dar respuestas sesgadas debido a cambios deliberados en sus instrucciones.

Con encuestas que indican un cambio hacia el uso de chatbots de IA en lugar de motores de búsqueda tradicionales, es esencial que los usuarios comprendan la falta de fiabilidad de estas herramientas para la verificación de información, especialmente en un panorama informativo marcado por la velocidad y la inmediatez. La información aquí presentada corresponde a datos de junio de 2025, y se reconoce que la situación puede haber evolucionado desde entonces.

Gracias por leer Columna Digital, puedes seguirnos en Facebook, Twitter, Instagram o visitar nuestra página oficial. No olvides comentar sobre este articulo directamente en la parte inferior de esta página, tu comentario es muy importante para nuestra área de redacción y nuestros lectores.