Las Alucinaciones en Modelos de Lenguaje: Un Desafío Persistente
En los recientes estudios exploratorios de la inteligencia artificial, surge una calamitosa cuestión: ¿por qué los modelos de lenguaje de gran tamaño, como GPT-5, y los chatbots, como ChatGPT, siguen experimentando alucinaciones, y qué se puede hacer para mitigar este fenómeno?
Las alucinaciones, definidas como “declaraciones plausibles pero falsas generadas por modelos de lenguaje”, son un desafío que persiste a pesar de los avances significativos en la tecnología. Aun así, los investigadores admiten que este problema nunca será completamente erradicado. Un experimento emblemático ilustra esta problemática: cuando se interrogó a un chatbot ampliamente utilizado sobre el título de la disertación de doctorado de Adam Tauman Kalai, ¡proporcionó tres respuestas, todas erróneas! A la misma pregunta sobre su fecha de nacimiento, las respuestas fueron igualmente imprecisas.
La inquietante pregunta que se plantea es: ¿cómo puede un chatbot manifestar tanta confianza en sus respuestas incorrectas? Los estudios sugieren que las alucinaciones surgen, en parte, de un proceso de preentrenamiento que se concentra en predecir la próxima palabra sin etiquetas de verdad que guíen el aprendizaje. El modelo solo se expone a ejemplos positivos de lenguaje fluido y debe aproximar la distribución general, lo que, a su vez, genera confusión con hechos de baja frecuencia. Por ejemplo, elementos específicos como la fecha de cumpleaños de una mascota no se pueden predecir con patrones lingüísticos, lo que provoca alucinaciones.
Una solución propuesta se centra menos en el proceso de preentrenamiento y más en los modelos de evaluación utilizados para juzgar el rendimiento de los modelos de lenguaje. Aunque estos modelos de evaluación no son responsables de generar alucinaciones, establecen incentivos incorrectos. Los investigadores comparan estas evaluaciones a exámenes de elección múltiple donde adivinar puede resultar favorable, mientras que dejar una respuesta en blanco garantiza un puntaje nulo.
Este enfoque lleva a un fenómeno preocupante: si los modelos son evaluados solo por su precisión, se incentiva que adivinen respuestas en lugar de manifestar dudas. Por consiguiente, para contrarrestar esta tendencia, se sugiere implementar sistemas de evaluación que penalicen los errores seguros con mayor rigor que la incertidumbre, a la vez que se otorgan créditos parciales por expresiones adecuadas de duda.
Adicionalmente, los investigadores enfatizan que no es suficiente introducir pruebas de incertidumbre como si fueran un complemento; es crucial actualizar las evaluaciones ampliamente utilizadas para desincentivar la adivinanza. Si los sistemas de puntuación continúan recompensando respuestas afortunadas, los modelos de lenguaje seguirán aprendiendo a adivinar, perpetuando el ciclo de alucinaciones.
Estos hallazgos subrayan la necesidad urgente de reevaluar cómo se entrenan y evalúan los modelos de lenguaje para avanzar hacia una inteligencia artificial más precisa y confiable, según la información más reciente disponible hasta el 7 de septiembre de 2025.
Gracias por leer Columna Digital, puedes seguirnos en Facebook, Twitter, Instagram o visitar nuestra página oficial. No olvides comentar sobre este articulo directamente en la parte inferior de esta página, tu comentario es muy importante para nuestra área de redacción y nuestros lectores.
