Anthropic aclara su posición sobre modelos abiertos mientras evita sumarse a la carta promovida por NVIDIA

Anthropic intenta separar apertura de capacidad peligrosa. Dario Amodei publicó el 27 de julio la posición de Anthropic sobre modelos con pesos abiertos. El texto responde a críticas surgidas después de que varias empresas apoyaran una carta favorable a ese ecosistema. Anthropic declara que nunca ha pedido prohibir los modelos abiertos como categoría y sostiene que los sistemas sin capacidades peligrosas pueden ser un bien público para empresas, desarrolladores e investigadores. La distinción central no es abierto contra cerrado, sino qué nivel de capacidad tiene el modelo y qué riesgos puede producir.

La empresa no firmó la carta promovida por NVIDIA. Axios informó que Anthropic fue el único laboratorio de frontera que no se sumó a una carta liderada por Jensen Huang contra restricciones prematuras a modelos abiertos, mientras Google y OpenAI sí se incorporaron. Amodei explicó que coincide con varias ideas de la carta: ampliar acceso, fortalecer competencia en ciertos usos y dar más control a los clientes. Sin embargo, rechazó la afirmación de que abrir pesos necesariamente facilite salvaguardas o favorezca siempre a los defensores más que a los atacantes.

La propuesta prioriza controles sobre recursos y conductas. Anthropic plantea tres líneas principales. Primero, limitar la venta y el contrabando de chips potentes y equipos de fabricación hacia gobiernos autoritarios. Segundo, combatir operaciones de distillation a escala industrial que permitan reproducir capacidades mediante grandes volúmenes de consultas. Tercero, exigir pruebas de seguridad a todos los modelos suficientemente capaces, abiertos o cerrados, antes de su lanzamiento. La empresa presenta estas medidas como alternativas más directas que una prohibición general para negocios estadounidenses.

Los pesos abiertos ofrecen control y también irreversibilidad. Anthropic reconoce que un modelo descargable puede reducir costo y permitir adaptación local. Al mismo tiempo, advierte que una vez publicados los pesos es muy difícil retirar copias, actualizar salvaguardas o observar su uso. Esa diferencia no prueba que todo modelo abierto sea inseguro. Sí cambia la forma de gestionar capacidades avanzadas: el control posterior al lanzamiento es menor, por lo que la decisión inicial necesita considerar qué comportamientos podría habilitar y qué evidencia existe antes de distribuirlo ampliamente.

La evaluación por umbral evita reglas demasiado amplias. Amodei defiende que los modelos menos capaces, incluidos muchos proyectos académicos y de startups, queden exentos de cargas diseñadas para sistemas de frontera. La dificultad está en definir el umbral. Una política útil necesita pruebas concretas, criterios actualizados y una ruta para clasificar nuevas versiones sin depender solamente del nombre del proveedor o del tamaño declarado. Si el umbral es demasiado bajo, puede frenar innovación; si es demasiado alto, puede dejar capacidades relevantes fuera de revisión.

Para las empresas usuarias, la pregunta es quién conserva el control. Un modelo abierto puede ejecutarse en infraestructura propia, personalizarse y reducir dependencia de una API. Un modelo cerrado puede ofrecer actualizaciones centralizadas, seguimiento de uso y una ruta de retirada. Ninguna opción es automáticamente correcta. La decisión debe considerar sensibilidad de datos, necesidad de personalización, capacidad interna de seguridad, costo de operación y posibilidad de cambiar de proveedor. La postura de Anthropic obliga a evaluar la arquitectura y no usar la etiqueta abierto o cerrado como conclusión suficiente.

La acción práctica es clasificar por capacidad y reversibilidad. Antes de adoptar un modelo, el equipo puede registrar qué tareas realiza, qué nivel de acceso tendrá, quién puede actualizarlo, cómo se retira y qué ocurre si aparecen nuevos riesgos. Después prueba escenarios de uso y define un umbral para ampliar autonomía. La discusión sectorial muestra que la política de modelos abiertos seguirá dividida, pero también revela un punto común: las decisiones más defendibles se basan en capacidades observables, evidencia previa al lanzamiento y control real sobre el ciclo de vida.