Editorial Goatify: el presupuesto de incertidumbre debe ser una propiedad del workflow, no una sensación del modelo

No todas las dudas merecen el mismo tratamiento. Un agente puede estar 90% seguro de una etiqueta interna y esa incertidumbre ser aceptable si el resultado se puede corregir en segundos. El mismo 90% es insuficiente para enviar dinero, publicar una campaña o borrar información. Sin embargo, muchas arquitecturas tratan la confianza del modelo como si tuviera el mismo significado en cualquier tarea. Proponemos otra unidad: presupuesto de incertidumbre. Cada paso declara cuánto riesgo tolera, qué evidencia necesita y cuánto cómputo, búsqueda, validación o revisión humana está dispuesto a gastar antes de convertir una inferencia en una acción externa.

La consecuencia debería fijar el costo mínimo de verificación. Una clasificación reversible puede usar una ruta rápida. Un cambio que afecta a un cliente puede requerir una segunda fuente, una regla determinista o una aprobación. Una operación financiera puede exigir identidad fuerte, límites de monto, reconciliación y confirmación explícita. El modelo no decide solo cuánto “pensar”; el workflow impone un piso de verificación según impacto. Eso cambia el diseño: en vez de preguntar qué modelo es más inteligente, preguntamos qué combinación de evidencia y controles hace suficientemente confiable este paso específico. La inteligencia se convierte en un componente dentro de una política de riesgo.

La reversibilidad es una variable distinta de la probabilidad. Dos acciones con la misma posibilidad de error pueden necesitar controles muy diferentes si una se revierte fácilmente y la otra no. Un borrador puede corregirse; un mensaje ya enviado puede propagarse; un pago puede generar comisiones, fraude o reclamos. El presupuesto debe incorporar costo de rollback y velocidad de detección. Si un sistema puede observar el resultado inmediatamente y deshacerlo sin daño, permite más autonomía. Si el efecto es irreversible o difícil de medir, la arquitectura debe gastar más antes de actuar. Esa regla es más estable que confiar en una cifra de confidence aislada.

La evidencia también tiene calidad y caducidad. Verificar no significa acumular enlaces. Una fuente oficial reciente puede valer más que diez resúmenes secundarios; un dato transaccional actual puede invalidar una memoria guardada ayer. El workflow debería registrar qué evidencia usó, su fecha, procedencia y relación con la decisión. También puede exigir diversidad cuando la afirmación es discutida. Para acciones críticas, una sola respuesta del mismo modelo no constituye una segunda opinión real. El presupuesto de incertidumbre debe especificar qué clases de evidencia reducen el riesgo y cuáles simplemente repiten la misma inferencia con otro formato.

El usuario necesita ver cuándo el sistema está gastando ese presupuesto. Una experiencia madura puede mostrar estados como “verificando identidad”, “contrastando fuente”, “esperando aprobación” o “validando resultado” sin exponer complejidad técnica innecesaria. Eso convierte una demora en un control comprensible. También permite comparar operaciones: por qué una publicación simple salió rápido y una transferencia tardó más. Si el agente solo parece lento de forma arbitraria, el usuario presiona para eliminar controles. Cuando la interfaz explica el motivo operacional, la fricción adquiere sentido. La confianza no viene de ocultar la cautela, sino de hacer que sea predecible y proporcional.

Tesis Goatify. Queremos que cada habilidad de Goatify pueda declarar un “uncertainty budget” junto a sus permisos: riesgo, reversibilidad, evidencia mínima, validadores, necesidad de humano y prueba posterior. Esa especificación sobreviviría al cambio de modelo. Un motor nuevo puede ser más capaz, pero no elimina los controles definidos por el negocio. Con el tiempo, los datos reales permiten ajustar el presupuesto: si una clase de acción muestra pocos errores y rollback fácil, se automatiza más; si aparecen incidentes, se endurece. El producto deja de vender autonomía absoluta y vende autonomía calibrada con una política que el cliente puede inspeccionar.