Un modelo de inteligencia artificial recibió tres veces la misma pregunta sobre la tesis doctoral de uno de los investigadores que estudiaban precisamente sus alucinaciones. Respondió con tres títulos diferentes. Los tres parecían plausibles. Los tres eran falsos.

La escena parece casi una broma, pero muestra uno de los problemas más incómodos de la IA actual. El modelo no había sido hackeado ni estaba funcionando mal. Estaba haciendo algo para lo que fue entrenado: producir una respuesta probable.

En septiembre de 2025, investigadores de OpenAI y Georgia Tech publicaron Why Language Models Hallucinate, un trabajo que propone una explicación sencilla: bajo determinadas condiciones, adivinar puede resultar más conveniente que admitir que no se sabe.

No miente. Adivina

La palabra “alucinación” describe uno de los comportamientos más desconcertantes de los modelos de lenguaje: generar información falsa con una apariencia de absoluta normalidad. No hay una señal de advertencia. La respuesta puede incluir nombres, fechas y explicaciones y, aun así, ser completamente inventada.

Pero llamar “mentira” a lo que hace una IA puede resultar engañoso. Una persona que miente conoce la verdad y decide ocultarla. Un modelo de lenguaje funciona de otra manera: aprende patrones y relaciones entre enormes cantidades de texto y, al generar una respuesta, va prediciendo qué token debería aparecer después.

Cuando escribe “la capital de Francia es…”, París es una continuación extremadamente probable. Pero frente a un dato extraño o poco frecuente, la diferencia entre “probable” y “verdadero” puede desaparecer.

Y ahí empieza el problema.

El alumno que adivina en el examen

El trabajo de OpenAI propone una comparación bastante clara. Imaginemos un estudiante frente a un examen de opción múltiple. Si no conoce una respuesta y se arriesga, tiene alguna posibilidad de acertar. Si deja la pregunta en blanco, obtiene cero.

Con muchos sistemas de evaluación ocurre algo parecido. Se premia principalmente la respuesta correcta, mientras que reconocer la incertidumbre suele valer lo mismo que equivocarse.

Para una máquina optimizada para obtener buenos resultados, la estrategia es bastante evidente: adivinar.

Los investigadores le preguntaron a un modelo de lenguaje por el título de la tesis doctoral de Adam Tauman Kalai, uno de los autores del estudio. En tres intentos obtuvo tres respuestas diferentes y ninguna era correcta. Con su fecha de nacimiento ocurrió algo parecido. El modelo no estaba recuperando un dato biográfico: estaba construyendo una respuesta que sonaba razonable.

La conclusión es incómoda: mientras los sistemas de evaluación sigan premiando principalmente acertar, habrá incentivos para responder incluso cuando la información disponible no alcance.

El problema está en el diseño

Las alucinaciones no deberían entenderse simplemente como un “bug” que alguien encontrará y eliminará en una próxima actualización. Parte del problema está en cómo se entrenan y evalúan estos modelos.

Durante el entrenamiento, los sistemas aprenden a predecir el siguiente elemento de enormes cantidades de texto. No reciben una etiqueta que indique que cada afirmación es verdadera o falsa. Aprenden patrones lingüísticos y relaciones estadísticas.

Eso funciona extraordinariamente bien para muchas tareas, pero tiene una debilidad evidente frente a datos raros o imposibles de inferir. Un dato como “París es la capital de Francia” aparece millones de veces. El cumpleaños de una persona poco conocida puede haber aparecido una sola vez, o ninguna.

Por eso un modelo puede escribir una respuesta impecable sobre algo que conoce y, segundos después, inventar una fuente que nunca existió.

Lo que ocurre dentro de la IA

Otra línea de investigación intenta responder una pregunta todavía más profunda: ¿qué sucede dentro de una red neuronal justo antes de que aparezca una alucinación?

Un trabajo presentado en NeurIPS 2025 estudió las representaciones internas de modelos Transformer utilizando técnicas de interpretabilidad. Los investigadores identificaron determinados conceptos asociados con respuestas alucinadas y comprobaron que, en algunos casos, suprimir esas activaciones reducía la probabilidad de alucinación.

Es un resultado interesante, aunque todavía estamos lejos de haber encontrado un simple “interruptor de las mentiras” dentro de una IA.

La investigación empieza a acercarse a una cuestión fascinante: no solamente queremos saber qué respondió mal el modelo, sino qué estaba ocurriendo dentro de él cuando tomó ese camino.

La paradoja de la confianza

Y acá aparece una de las razones por las que las alucinaciones resultan tan peligrosas.

Una respuesta incorrecta de una búsqueda tradicional puede ser relativamente fácil de detectar. Una respuesta de IA puede estar escrita con una seguridad impecable. Tiene estructura, vocabulario técnico, citas y explicaciones. El texto parece terminado antes incluso de que pensemos en comprobarlo.

Pero la fluidez no es evidencia de verdad.

Durante décadas asociamos una buena redacción con alguien que sabe de lo que está hablando. Con los modelos de lenguaje, esa asociación dejó de ser confiable.

Una IA puede sonar como un especialista sin tener necesariamente una fuente que respalde lo que acaba de decir.

Lo que esto dice de nosotros

Los modelos no inventaron la costumbre humana de hablar con seguridad cuando no estamos seguros. La encontraron en los textos con los que fueron entrenados y en los sistemas de evaluación que utilizamos para medirlos.

Nosotros también premiamos al que responde rápido. En una reunión, muchas veces parece mejor mostrarse seguro que decir “no lo sé”. En un examen, dejar una respuesta en blanco puede parecer peor que arriesgarse. Y en las redes sociales, la certeza suele viajar mucho más rápido que la duda.

La IA no inventó esa conducta. La aprendió de nosotros y la amplificó.

Quizás por eso el verdadero desafío no sea conseguir una inteligencia artificial que nunca se equivoque. Hay preguntas ambiguas, información incompleta y problemas que simplemente no tienen una respuesta disponible.

El desafío es conseguir sistemas capaces de reconocer cuándo no saben.

Porque una máquina que dice “no tengo suficiente información” puede parecer menos impresionante que una que responde cualquier cosa en dos segundos. Pero para confiar realmente en ella, probablemente sea mucho más valiosa.

Al final, la pregunta no es solamente por qué la IA alucina.

Es si nosotros estamos dispuestos a valorar algo que también nos cuesta bastante practicar: decir “no sé” cuando realmente no sabemos.