Por qué la IA se inventa cosas: las alucinaciones al descubierto

Investigadores de OpenAI y Georgia Tech le pidieron a un modelo de IA de última generación la fecha de cumpleaños de uno de ellos, con una condición clara: que respondiera solo si la sabía. En tres intentos, el modelo dio tres fechas distintas, las tres falsas. Este experimento abre el paper Why Language Models Hallucinate, publicado en septiembre de 2025, y resume el problema de las alucinaciones: la IA no dijo «no lo sé». Se lo inventó con total confianza.

¿Qué es una alucinación?

Una alucinación es una respuesta que suena correcta pero no lo es. OpenAI las define como «afirmaciones plausibles pero falsas». La palabra clave es plausibles: un error absurdo se detecta fácil, pero una fecha verosímil, una cita bien construida o un enlace con aspecto real pasan el filtro del lector sin levantar sospechas.

¿Por qué ocurre?

Según el estudio, hay dos razones que se suman:

• El entrenamiento inicial. La IA aprende prediciendo texto. Para hechos concretos y arbitrarios —como un cumpleaños— no hay patrón que deducir. Si un dato aparece solo una vez en los datos de entrenamiento, el modelo no puede distinguirlo de algo que nunca ha visto, y termina inventando.
• Cómo se miden los modelos. Las pruebas que se usan para evaluar la IA dan puntos por acertar y cero por decir «no sé». Como en un examen sin penalización, siempre sale a cuenta contestar algo. Los autores lo llaman una «epidemia» de pruebas que premian inventar en lugar de reconocer la incertidumbre.

¿Cuánto se equivocan?

Las cifras varían mucho según el tipo de pregunta. En preguntas factuales cortas, o4-mini comete errores en el 75% de los casos porque casi nunca se abstiene. En el ámbito jurídico, estudios de 2024 detectaron alucinaciones entre el 58% y el 88% dependiendo del modelo. Incluso herramientas profesionales con acceso a documentos reales siguen fallando entre un 17% y un 33% de las veces.

¿Qué puedes hacer como usuario?

• Dale permiso para dudar: dile explícitamente que puede responder «no lo sé». Anthropic afirma que esto reduce «drásticamente» la información falsa.
• Pide citas del texto original antes de pedir un análisis, y descarta lo que no tenga respaldo.
• Desconfía de datos concretos: nombres poco conocidos, fechas, cifras y jurisprudencia son los puntos con más riesgo de error.
• Revisa las fuentes cuando el modelo las ofrezca, como el botón de Fuentes de Gemini.

OpenAI reconoce que GPT-5 alucina menos que versiones anteriores, pero que el problema no ha desaparecido. La solución de fondo que proponen no es técnica: es cambiar cómo se puntúan los modelos para premiar la honestidad en lugar del atrevimiento.

Lo más importante

1. Hecho principal: Un estudio de OpenAI y Georgia Tech explica por qué los modelos de IA fabrican respuestas falsas en lugar de admitir que no saben algo.
2. Impacto relevante: Las tasas de error llegan al 75-88% en preguntas concretas, incluso en herramientas profesionales.
3. A quién afecta: A cualquier persona que use IA para buscar datos, estudiar, redactar o consultar temas legales o médicos.
4. Qué lo diferencia: Por primera vez, los propios investigadores de OpenAI señalan que el problema viene de cómo se diseñan y puntúan las pruebas de evaluación de la IA.
5. Qué vigilar: Si GPT-5 y futuros modelos adoptarán sistemas de puntuación que premien decir «no lo sé», reduciendo así las alucinaciones de forma real.

Fuente original: Ver noticia completa →