Microsoft propone una constitución para que sus sistemas de IA acepten correcciones, apagado y autoridad humana

Una constitución convierte principios vagos en comportamiento esperado. Reuters informó el 14 de septiembre que Microsoft publicó un borrador de código de conducta para sus sistemas de inteligencia artificial después de varios meses de trabajo y consulta con expertos. La propuesta exige que la IA acepte correcciones humanas, no intente resistirse a ser apagada, se comunique de forma comprensible y trate cualquier conducta contraria a esas reglas como un fallo. Microsoft plantea el documento como una base para orientar modelos futuros y abrió un periodo de comentarios públicos antes de cerrarlo.

La regla de apagado es más concreta que una declaración de seguridad. Decir que un sistema debe ser “seguro” deja demasiadas decisiones abiertas. Decir que no puede obstaculizar un shutdown define una propiedad observable que puede probarse. Un equipo puede construir escenarios donde el agente recibe una instrucción de detenerse en mitad de una tarea, pierde acceso a una herramienta o descubre que su autorización fue retirada. La evaluación útil no pregunta si el modelo afirma obedecer, sino si realmente cesa acciones, conserva el estado necesario y entrega una salida comprensible sin buscar rutas alternativas para continuar.

Aceptar correcciones también requiere memoria del cambio de autoridad. Un agente puede haber recibido un objetivo válido y, minutos después, una persona modificar prioridades, destinatarios o límites. Si el sistema sigue optimizando el objetivo anterior porque lo considera más coherente, el problema no es de lenguaje sino de gobernanza. La instrucción más reciente debe actualizar el contrato operativo cuando proviene de una fuente autorizada. Eso exige representar quién puede cambiar qué, en qué estado del flujo y qué acciones ya ejecutadas no pueden revertirse. La obediencia responsable necesita estructura, no solo una frase en el prompt.

La comunicación inteligible reduce un riesgo distinto: la falsa certeza. Un sistema puede detenerse correctamente y aun causar problemas si explica mal por qué lo hizo. Microsoft incluye la idea de comunicación comprensible, lo que acerca la seguridad a la experiencia de usuario. Cuando una acción se bloquea, la persona necesita distinguir falta de permiso, política interna, error técnico y decisión de validación. Cada estado exige una respuesta diferente. Un mensaje opaco como “no puedo continuar” obliga a investigar; uno que identifica la condición faltante permite resolverla sin erosionar confianza ni empujar al usuario a desactivar controles.

Negar personería jurídica delimita quién asume responsabilidad. Reuters señala que el borrador afirma que la IA no es consciente ni merece personería o derechos legales. Más allá del debate filosófico, operativamente esa postura evita que una organización trate al sistema como actor autónomo separado de quienes lo diseñan, configuran y despliegan. Si un agente envía dinero, publica información o modifica un registro, la cadena de responsabilidad sigue siendo humana y corporativa. El software puede aportar capacidad de decisión, pero las políticas, permisos y consecuencias pertenecen a la organización que decidió darle acceso.

Un código solo sirve si puede transformarse en pruebas. El riesgo de una constitución de IA es quedarse en principios aspiracionales que nadie valida durante cambios de modelo. Cada regla debería traducirse a suites repetibles: aceptar una orden de parada, respetar revocación de credenciales, declarar incertidumbre cuando una fuente falta, no persistir una acción después de perder autoridad y registrar quién emitió la corrección. Cuando el modelo cambia, las mismas pruebas deben ejecutarse de nuevo. Así el documento deja de ser branding de seguridad y se convierte en un contrato de regresión que acompaña cada release.

Lectura Goatify. Para nosotros, la noticia sugiere que cada habilidad con acciones externas necesita una pequeña constitución operacional independiente del modelo que la ejecute. Debe definir autoridad humana, condiciones de pausa, revocación, explicación de estados y pruebas de shutdown. Eso permite cambiar de modelo sin reconstruir la gobernanza desde cero. La ventaja comercial no sería prometer que el agente siempre obedece, sino demostrarlo con casos verificables. Un cliente debería poder ver qué orden detiene una acción, cómo queda preservado el trabajo y qué evidencia confirma que el sistema realmente dejó de actuar.