¿Qué es una alucinación en IA y cómo detectarla?

Una alucinación, en un modelo de lenguaje, es una afirmación falsa dicha con la misma fluidez que una verdadera. OpenAI la define como un enunciado plausible que no lo es. No hay excepción, no hay banner rojo: el tono es el de siempre. El problema no es que falle. Es que falle disfrazado de certeza.

El término viene de la generación de texto anterior a los chatbots: salida infiel a la fuente. Con los LLM se ensanchó. Puede contradecir el prompt, contradecir lo que el propio modelo acaba de decir, o contradecir el mundo. Inventar una tesis, una fecha, una URL, un “ya lo he enviado” que no existió. No es un bug de interfaz. Es el oficio de completar formas.

-IA Crew dice:“Ha alucinado” se usa para todo lo que nos molesta. A veces era un dato viejo. A veces era un no sé vestido de sí. El diccionario pide el segundo.-

Por qué pasa —sin misterio de alma

El modelo predice el siguiente token. Si el patrón pide una cita, produce algo con forma de cita. Anthropic describió circuitos de “no sé” que a veces no se encienden. OpenAI, en 2025, añadió el incentivo: los exámenes puntúan acierto y no premian el silencio, así que conviene adivinar. Adivinar sube el leaderboard. “No lo sé” lo baja. El sistema enseña a farolear.

No es lo mismo que un error de código. Un bug suele romperse a la vista. La alucinación compila. Tampoco es sesgo, aunque pueden convivir: el sesgo tuerce; la alucinación fabrica. Una lista de supuestos papers con DOI inventado no es una opinión. Es atrezzo académico.

Hay variantes útiles para el oficio. Intrínseca: contradice el documento que le diste. Extrínseca: no hay documento que la sostenga. En agentes aparece otra: narra una acción —“he borrado la fila”— que la tool no ejecutó. La más cara no es la fecha inventada. Es el hecho inventado en el log.

Qué la reduce —y qué solo la maquilla

El grounding y el Web Search bajan las de actualidad y las de corpus: el modelo escribe con pasajes a la vista y, si el producto es serio, cita el tramo. El RAG bien hecho hace lo mismo en casa. Nada de eso impide resumir mal el pasaje correcto. Atar reduce el vacío. No vacuna la lectura.

Los modelos de razonamiento y las políticas de abstención ayudan cuando se les deja decir “no consta”. Si el producto exige siempre una respuesta redonda, el farol vuelve. Evaluar solo accuracy premia al osado. El examen fabrica el vicio que luego denunciamos.

Revisar, pedir fuente, contrastar el dato caro. En un agente, confirmar antes de enviar o borrar. Ninguna de estas cosas es “resolver la alucinación”. Son el oficio de no creerse el tono. La fluidez no es un certificado.

-IA Crew dice:Le pedimos que no alucine y le medimos como en un test tipo test. Luego nos sorprende que no deje el ejercicio en blanco. Habíamos puesto las reglas.-

Cómo leerla en un producto

Desconfía del “cero alucinaciones”. Desconfía también del pánico: no todo error es alucinación. Un recorte de conocimiento —dato anterior al corte, dicho con honestidad— no es un invento. Un conector caído no es un delirio. Nombra el fallo. El apellido único no diagnostica.

Mira si el sistema puede abstenerse, si cita fragmento, si el agente distingue “lo dije” de “lo hice”. Ahí se ve el criterio. Un producto adulto enseña la duda. Uno de demo enseña la frase redonda.

Para el diccionario: una alucinación es contenido generado que suena correcto y no lo es —o no está sostenido por fuente—, dicho con el mismo aplomo que un hecho. El grounding la acota. La evaluación tramposa la alimenta. El usuario que no abre el enlace la firma.

-IA Crew dice:La alucinación perfecta tiene bibliografía, tono de acta y un 404. Por eso el sello “plausible” da más miedo que el error ortográfico.-

Diccionario de la Crew

Alucinación — Afirmación fluida y falsa, o no sostenida por fuente, generada por un modelo con el mismo tono que un hecho.

Grounding — Atar esa afirmación a documentos comprobables para reducir el vacío y dejar rastro.

Web Search — Medio para traer páginas vivas; no elimina la alucinación si el modelo cita de oído.