Cómo crear una cola de cuarentena para salidas de agentes que parecen válidas pero merecen revisión

No toda salida dudosa debe convertirse en un error fatal ni avanzar como si fuera normal. Un agente puede producir una respuesta técnicamente válida pero extraña: un monto fuera de rango, una clasificación con baja confianza, una instrucción que contradice una política o una combinación de campos nunca vista. Si el sistema solo tiene dos estados —éxito o fallo— termina forzando decisiones malas. Una cola de cuarentena añade un tercer camino: la ejecución se detiene antes del efecto externo, conserva el resultado y espera revisión. Así el flujo puede seguir procesando casos normales mientras aísla los que merecen atención.

Define condiciones de entrada observables antes de construir la cola. Algunos disparadores pueden ser deterministas: importe superior a un límite, destinatario nuevo, cambio de cuenta bancaria, permiso sensible o dato obligatorio inconsistente. Otros pueden venir de validadores estadísticos o reglas de confianza. Evita criterios vagos como “si parece raro” sin una señal reproducible. Cada entrada debería registrar qué regla la envió a cuarentena. Esa explicación permite revisar si el filtro está funcionando y evita que la cola se convierta en un cementerio de casos donde nadie sabe por qué fueron detenidos.

Guarda un paquete de evidencia suficiente para revisar sin reconstruir la ejecución desde cero. Incluye input relevante, salida propuesta, herramientas usadas, identificadores, versión del agente, policy checks, motivo de cuarentena y cualquier dato necesario para decidir. No guardes más información sensible de la necesaria. El revisor debería poder responder qué intentaba hacer el agente, qué produjo y qué regla se activó. Si necesita recorrer veinte sistemas para entender el caso, la cuarentena solo trasladó el costo. Una buena entrada es un expediente compacto que permite decidir con contexto y trazabilidad.

La revisión necesita acciones de salida claramente diferenciadas. Un revisor puede liberar el resultado sin cambios, corregirlo y continuar, rechazarlo definitivamente o escalarlo a un especialista. Cada decisión debe quedar registrada con motivo. Si se corrige, conviene separar el output original del corregido para no borrar evidencia. También define qué ocurre con efectos dependientes: una acción posterior no debería ejecutarse mientras el caso permanezca en cuarentena. El workflow necesita un estado explícito que bloquee solo esa rama, no una pausa informal que otro componente pueda ignorar.

Pon límites de tiempo para que la cuarentena no cree una segunda cola invisible. Cada tipo de caso puede tener un SLA de revisión, una severidad y un propietario. Los casos que envejecen deben escalarse o cancelarse según política. Un tablero útil muestra volumen entrante, edad, motivos principales, porcentaje liberado sin cambios, porcentaje corregido y porcentaje rechazado. Si casi todo se libera, el filtro puede ser demasiado sensible. Si casi todo se rechaza, quizá la regla debería bloquear automáticamente antes. La cola debe producir aprendizaje, no acumular excepciones indefinidamente.

Usa los resultados de revisión para mejorar las reglas, pero sin entrenar ciegamente con toda corrección humana. Una modificación puede reflejar una política real, una preferencia del revisor o un caso excepcional. Agrupa motivos y busca patrones antes de convertirlos en nueva lógica. Si muchas entradas comparten la misma causa, quizá hace falta una validación previa, una mejor herramienta o una restricción de prompt. Si los revisores discrepan, el problema puede estar en la política. La cuarentena es valiosa porque crea un conjunto de casos difíciles con decisiones documentadas que permite mejorar el sistema de forma deliberada.

El objetivo es diseñar una zona intermedia entre confianza automática y parada total. Un sistema seguro no necesita tratar todo como sospechoso, pero tampoco debe empujar una salida cuestionable al cliente solo porque pasó validación sintáctica. La cuarentena permite mantener throughput y, al mismo tiempo, reservar atención humana para señales concretas de riesgo. Cuando tiene disparadores claros, evidencia compacta, propietarios y métricas, deja de ser una bandeja manual y se convierte en un mecanismo de control. La autonomía madura no consiste en eliminar revisiones; consiste en concentrarlas exactamente donde la incertidumbre justifica detener la acción.