Noticias, guías y análisis
El acoplamiento más peligroso en un agente es permitir que el mismo componente recomiende una acción y sea quien la ejecute
Análisis sobre por qué la separación entre propuesta y ejecución reduce el radio de daño y mejora auditoría, pruebas, recuperación e idempotencia.
El problema no es que un modelo pueda equivocarse. Todo sistema complejo produce errores: modelos, humanos, reglas y APIs. El riesgo aumenta cuando el componente que formula una hipótesis también posee la credencial necesaria para materializarla sin una verificación independiente. En ese diseño, la distancia entre interpretación y consecuencia es cero. Un agente puede confundir una cuenta, una fecha o una intención y el sistema no tiene un punto natural para detectar la desviación. Separar funciones introduce una frontera donde la propuesta puede ser revisada por criterios diferentes a los que la produjeron.
La independencia importa porque reduce errores correlacionados. Pedirle al mismo modelo que proponga y luego “revise cuidadosamente” su respuesta no crea una segunda fuente de verdad. Puede repetir la misma interpretación equivocada con más confianza. Una validación fuerte utiliza datos o reglas que no dependen de la narrativa original: consultar el saldo real, comprobar el identificador del archivo, verificar que el destinatario pertenece a una lista autorizada o recalcular un monto con código determinista. La diversidad entre mecanismos es más valiosa que multiplicar prompts que comparten los mismos supuestos.
Separar capas facilita pruebas unitarias de gobernanza. Si la propuesta y la ejecución están mezcladas, probar una regla exige simular todo el agente. Cuando el ejecutor acepta un contrato pequeño, podemos alimentarlo con casos sintéticos y confirmar que rechaza estados prohibidos. También podemos probar el validador sin invocar el modelo. Esto convierte la seguridad en ingeniería mantenible. Un cambio de modelo no obliga a revalidar todas las propiedades del sistema desde cero; se prueban de nuevo las interfaces donde su salida entra en componentes con autoridad.
El diseño también mejora la recuperación. Supongamos que una API devuelve timeout después de una acción. Si el agente completo reintenta la tarea desde el principio, puede volver a razonar y producir una propuesta ligeramente distinta. En una cadena separada, la propuesta validada conserva identidad y el ejecutor usa una clave idempotente. El recovery pregunta primero si esa acción ya ocurrió y, si ocurrió, registra el resultado en vez de repetirla. La consistencia operacional nace de tratar la decisión como un objeto persistente, no como un turno efímero de conversación.
La revisión humana se vuelve más eficiente cuando recibe una propuesta cerrada. Una persona no debería entrar al workflow para reconstruir todo el contexto cada vez. El agente puede preparar alternativas, evidencia y la condición exacta que bloquea ejecución. El humano decide sobre una excepción específica y devuelve una señal que continúa el mismo caso. Esto mantiene la intervención donde aporta juicio en lugar de convertirla en trabajo administrativo. También permite medir cuántas propuestas se auto-validan, cuántas requieren escalamiento y qué reglas generan más excepciones.
El principio se parece a separación de funciones en finanzas y seguridad. Muchas organizaciones impiden que una sola persona cree y apruebe una transacción porque el control reduce fraude y error. En software agentic podemos aplicar la misma lógica sin copiar burocracia innecesaria. La separación puede ser entre modelo y código, entre dos credenciales o entre una política central y herramientas locales. Lo importante es que ninguna salida generativa obtenga autoridad irreversible solo por haberse expresado con suficiente fluidez.
Aplicación Goatify. Deberíamos identificar todas las habilidades que hoy combinan recomendación y efecto: publicar, pautar, enviar, borrar, cobrar, modificar permisos o mover archivos. Para cada una, podemos definir un objeto de propuesta, validaciones obligatorias y un ejecutor mínimo. El resultado no será menos autónomo; será autonomía con estructura. A medida que los modelos mejoren, podremos ampliar qué decisiones se auto-validan sin ampliar accidentalmente las credenciales que poseen. Esa diferencia hará que nuestras automatizaciones puedan crecer sin convertir cada nueva capacidad en un nuevo vector de riesgo.