Contratos / guardrails
Límites claros y comprobables que marcan qué puede y qué no puede hacer una IA dentro del sistema. No le dicen cómo trabajar, pero impiden que se salga de lo permitido, y como son automáticos, se puede verificar que se cumplen.
En una analogía · Son las vallas de una carretera de montaña: no conducen por ti, pero impiden que el coche se salga.
Dar autonomía a un agente sin límites es arriesgado: puede generar algo que técnicamente funciona pero rompe la coherencia del producto. Los contratos y guardrails ponen barreras que el agente no puede cruzar, por ejemplo: “solo puedes usar colores del design system”, “no puedes borrar componentes en uso”, “los textos no pueden superar tal longitud”.
Lo importante es que estas reglas se comprueban solas, no dependen de que alguien las revise a mano cada vez. El agente trabaja con libertad dentro de esos límites y, si intenta salirse, el sistema lo frena.
Lecturas de referencia
A seguir
Marco propio del Instituto de Diseño Agéntico, no un estándar del sector.