El agente no distingue tu criterio de tu descuido

Un diseñador de Apple rellenó el hueco de un icono con el 17 de julio y se fue a comer. Veinticuatro años después, media industria felicita el Día Mundial del Emoji ese día porque las demás plataformas acabaron copiando la fecha de su dibujo. Aquel hombre no tomó una decisión de producto. Rellenó un hueco. Y el hueco se volvió calendario.

Esa historia da risa mientras sea una anécdota de emojis. Deja de darla cuando uno se da cuenta de que es la descripción exacta de lo que hace un agente con nuestro sistema de diseño. Durante décadas hubo un hueco protector entre decidir algo y que ese algo ocurriera: el handoff, la revisión de código, el QA, el «ya lo miramos en la siguiente». En ese hueco cabía la rectificación. El oficio, en buena medida, vivía ahí: no en el acierto inicial, sino en las veinte correcciones que nadie ve. La máquina ha cerrado el hueco. En bodados, la pareja dice «marca a García como confirmado» y la fila cambia. No hay borrador, no hay pasillo, no hay tarde del viernes para pensarlo mejor.

De ahí sale una asimetría que me parece la idea central de todo esto: el agente ejecuta tu criterio y tu descuido con exactamente la misma obediencia. No tiene forma de saber cuál es cuál. La regla que discutisteis tres semanas y el valor por defecto que alguien puso un martes para salir del paso llegan al agente con idéntico rango. Antes, el descuido se diluía: se lo comía la variabilidad humana, alguien lo pisaba sin querer, se corregía en la siguiente iteración. Ahora se amplifica. Escala igual de bien que lo bueno, y más rápido, porque lo bueno suele ser más caro de aplicar.

Si esto es cierto, y creo que lo es aunque todavía no tengamos datos suficientes para demostrarlo, entonces la calidad de un sistema ya no se mide por la media de sus decisiones. Se mide por cuántas de sus decisiones fueron decisiones. Un sistema con diez reglas deliberadas y noventa valores heredados por inercia era, hasta ayer, un sistema normal. Hoy es una máquina de multiplicar inercia.

Por eso el reflejo defensivo se entiende tan bien. Polaris cuelga un cartel de noai en su portada y no publica índice para agentes. Es una postura legítima, y sospecho que también es un gesto emocional: si no puedo garantizar que la máquina lea bien lo mío, prefiero que no lea. La alternativa que eligieron Carbon y Atlassian es más incómoda porque obliga a escribir, en una línea, qué es tu sistema. Y escribir eso es admitir que hay una respuesta, y que la sabes.

Queda la pregunta que no sé contestar, y este ensayo no va a fingir que sí. Lo único que el agente no puede ejecutar es la duda. Ejecuta reglas; la duda no es una regla, es la sospecha de que la regla no aplica aquí. Todo el oficio, cuando era oficio, consistía en eso: en el «espera, este caso es distinto». Si el sistema solo puede transmitir lo que se puede escribir, y la duda no se escribe, ¿dónde vive ahora la duda? Hay dos respuestas posibles y ninguna me convence del todo. O la duda sube de nivel y se convierte en el trabajo del diseñador, que ya no dibuja pero decide cuándo el sistema se equivoca. O la duda desaparece, porque un sistema que ejecuta sin fricción no ofrece ocasión de dudar.

Los vigías de incendios de Maine tenían mapas circulares con su torre en el centro: cada mapa solo servía desde un sitio. Los satélites que los sustituyeron ven más, ven siempre y no tienen centro. Es mejor para apagar fuegos. Pero un mapa sin centro no obliga a nadie a saber dónde está, y un sistema que ejecuta solo no obliga a nadie a saber por qué. Mi apuesta, que es apuesta y no dato, es que el oficio de la próxima década consistirá en volver a poner el centro. No en dibujar mejor: en firmar.