Alucinación
Cuando una IA da una respuesta que suena convincente pero es falsa o se la ha inventado. En diseño con agentes se reduce dándole datos reales con los que trabajar (tokens, reglas) y comprobando después lo que produce, para que improvise lo menos posible.
En una analogía · Es cuando alguien te responde con mucha seguridad algo que se ha inventado: suena bien, pero no es verdad.
También conocido como: hallucination
El problema de las alucinaciones es que la IA no avisa de que está dudando: afirma lo falso con la misma seguridad que lo cierto. Por eso no basta con confiar en la respuesta, hay que poder comprobarla.
En diseño con agentes esto se traduce en evitar que el asistente se invente un color, un componente o un nombre de variable que no existe. La defensa es darle el design system como fuente de verdad y validar lo que genera (por ejemplo, que solo use tokens reales) antes de darlo por bueno.
Lecturas de referencia
A seguir