¿Por qué alucina la IA?

La raíz técnica más profunda es que los LLM no están diseñados para decir la verdad, sino para predecir la siguiente palabra más probable (aprenden a estimar distribuciones condicionales sobre tokens dados en contextos largos). Calculan la probabilidad de que un token (palabra) siga a otro basándose en millones de textos. La frase «La capital de Francia es París» es muy probable. Pero la frase «La capital de Francia es Berlín» tiene una baja probabilidad de aparecer en un texto educativo, aunque puede parecer gramaticalmente correcta o aparecer en contextos de ficción; no distingue entre «hecho» y «patrón estadístico plausible».

Estos modelos se entrenan con vastas cantidades de datos de internet (Common Crawl, Wikipedia, libros, etc.), los cuales contienen información desactualizada (si los datos son de 2025, no sabe eventos de 2026) y pueden «inventar» una respuesta para completar el hueco. En Internet hay opiniones opuestas, teorías de conspiración y errores. Los modelos aprenden de todas ellas y pueden mezclarlas; no tienen un marcador interno que diga «esto es una historia de Harry Potter» y «esto es historia real»; todo es texto para ellos. (2)

A diferencia de un humano, el LLM no ha visto, tocado ni experimentado el mundo real. Su conocimiento es puramente sintáctico y simbólico. Sabe que «manzana» se relaciona con «roja» y «comer», pero no sabe qué es una manzana. Cuando se le pregunta sobre hechos que no están bien representados en sus datos de entrenamiento, trata de «adivinar» la respuesta basándose en patrones lingüísticos similares, lo que a menudo lleva a alucinaciones convincentes pero falsas. (3)

Se debe comprimir el conocimiento de todo internet en un número fijo de parámetros («pesos» de la red neuronal). Esta compresión forzada significa que no se «almacenan» libros enteros, sino esquemas y resúmenes de cómo se escribe sobre ciertos temas. Al recuperar la información, se reconstruyen los hechos en lugar de buscarlos en una base de datos perfecta, lo que introduce errores de reconstrucción. (4)

Parámetros como la temperatura (que introduce aleatoriedad) hacen que el modelo sea más creativo pero también más propenso a alucinar. Si se equivoca en una palabra al principio de una frase, tratará de mantener la coherencia gramatical con ese error, perpetuando la alucinación a lo largo de la respuesta. (5)

Los LLM alucinan porque son loros estocásticos (6) que imitan patrones de lenguaje para maximizar la probabilidad de la siguiente palabra, sin tener una verificación de hechos ni una comprensión real de la realidad. Se confunde la plausibilidad con la verdad.

Para minimizar su aparición se utilizan el ajuste fino con datos verificados, revisión externa, filtros de fact-checking y limitar la aleatoriedad en decodificación; ninguna solución elimina completamente las alucinaciones. Kalai et al. (2025) argumentan que la solución definitiva requiere una aproximación socio-técnica: modificar los puntos de evaluación para no penalizar la incertidumbre, incentivando así a los sistemas a reconocer lo que no saben en lugar de tratar de adivinarlo (1).