Definición
Una alucinación es una respuesta de un modelo de IA que parece plausible y se expresa con seguridad, pero es falsa: una cifra inventada, una sentencia judicial que no existe, una función de programación que nunca se escribió, una cita atribuida a quien no la dijo. Ocurre porque el modelo genera el texto más probable según lo que aprendió, no el más verdadero. Cuando no sabe, no tiene por defecto un mecanismo para callarse.
En la empresa, la alucinación es el riesgo operativo número uno al usar IA sin controles: un asistente que promete a un cliente una garantía inexistente, un informe con datos financieros inventados, un contrato con una cláusula legal errónea. Se mitiga con RAG, para que el modelo responda a partir de documentos reales; con uso de herramientas, para que consulte datos en lugar de recordarlos; con instrucciones para reconocer la incertidumbre; y con revisión humana proporcional al riesgo.
Los modelos actuales alucinan mucho menos que los de hace dos años, especialmente cuando tienen acceso a fuentes, pero ningún modelo está libre de ello. El malentendido habitual es tratar la alucinación como un fallo que se arreglará del todo en la próxima versión. Es una propiedad de cómo funcionan estos sistemas. La estrategia correcta no es esperar el modelo perfecto, sino diseñar el proceso para que un error del modelo sea detectable y barato.
En la práctica
Un despacho pide a un asistente de IA la jurisprudencia sobre un caso y recibe tres sentencias con número, fecha y tribunal. Dos no existen. Con un sistema RAG conectado a la base de datos jurídica real, el mismo asistente cita solo sentencias verificables y enlaza al texto.
Por qué importa
Una alucinación cuesta más que el ahorro de cien respuestas correctas si llega a un cliente o a un regulador. Antes de aprobar un proyecto de IA, pregunta qué pasa cuando el modelo se equivoque, porque se equivocará.
Preguntas frecuentes
- ¿Por qué la inteligencia artificial inventa cosas?
- Porque el modelo está entrenado para generar el texto más probable, no para comprobar la verdad. Si le preguntas por algo que no conoce bien, completa el hueco con lo que suena verosímil. No es mentira en sentido humano; es una predicción sin fuente. Darle acceso a datos reales reduce mucho el problema.
- ¿Cómo evitar las alucinaciones de la IA en mi empresa?
- Conecta el modelo a tus fuentes con RAG o herramientas para que responda con datos reales, pídele que cite la fuente y que reconozca cuando no sabe, mide su precisión con evaluaciones periódicas y pon revisión humana en las respuestas con impacto legal o económico. Ninguna medida aislada basta; juntas funcionan.