Alucinación en IA

Una alucinación en IA ocurre cuando un modelo genera información que parece correcta y la entrega con seguridad, pero que en realidad es falsa, inventada o no tiene respaldo en los datos con los que trabaja. El modelo no está mintiendo. Solo produce la respuesta que estadísticamente le parece más probable, y a veces esa respuesta incluye datos que nunca existieron. Se le llama alucinación por comparación con la percepción humana: el sistema afirma cosas que no están ahí, igual que una persona podría ver algo que no existe.

Hay dos formas principales. En la alucinación intrínseca, la respuesta contradice la fuente o el contexto que se le entregó al modelo. En la extrínseca, el modelo afirma algo que no se puede comprobar con esa fuente, ni a favor ni en contra. El problema es que el error casi nunca viene con señales de alerta. El texto suele ser fluido y convincente, así que el usuario puede aceptarlo sin cuestionarlo. Algunos ejemplos comunes son inventar estudios académicos, atribuir frases a personas que nunca las dijeron o dar fechas y cifras equivocadas como si fueran ciertas.

La razón de fondo está en cómo funcionan estos sistemas. Aprenden patrones del lenguaje y no guardan una base de hechos verificados que puedan consultar. Su meta es completar el texto de la forma más probable, aunque eso no garantice que el contenido sea exacto. Por eso el objetivo contrario que se busca es la fidelidad, es decir, que la respuesta se mantenga consistente con la fuente. Reducir las alucinaciones es una de las prioridades actuales del trabajo en IA, y para lograrlo se usan mejores datos, verificación con fuentes externas y métodos que conectan al modelo con información confiable antes de responder.

Fuente que lo respalda: Ziwei Ji et al., «Survey of Hallucination in Natural Language Generation», ACM Computing Surveys, vol. 55, n.º 12 (2023), referencia central en la definición y clasificación del fenómeno.