WASHINGTON.— El conflicto de alto voltaje entre el Departamento de Defensa y una potencia tecnológica valorada en u$s 380.000 millones pone en el centro del debate hasta dónde puede llegar la inteligencia artificial en la guerra.

Mientras el Pentágono presionaba a Anthropic PBC para que eliminara las restricciones de uso (“guardrails”) de sus potentes herramientas de inteligencia artificial, un alto funcionario de defensa de EE.UU. planteó un escenario hipotético al CEO de la compañía, Dario Amodei.

¿Qué pasaría si un misil balístico intercontinental con carga nuclear se dirigiera hacia Estados Unidos y quedaran solo 90 segundos, y la IA de Anthropic fuera la única forma de activar una respuesta defensiva, pero las salvaguardas de la empresa lo impidieran?, preguntó el funcionario durante una llamada en diciembre.

“Llámame”, fue como funcionarios del Pentágono interpretaron la respuesta de Amodei, según otro alto funcionario informado sobre la conversación, quien dijo haber quedado atónito ante la reacción del multimillonario.

La sola posibilidad de tener que localizar tanto al presidente Donald Trump como su maletín con códigos nucleares —y además depender del líder de una empresa privada de u$s 380.000 millones a la vanguardia de la IA— representa un cambio impensado en la estrategia nuclear. También refleja el creciente debate global sobre dónde trazar los límites en el uso de una tecnología aún incipiente y propensa a errores.

Un vocero de Anthropic rechazó la versión del funcionario del Pentágono, publicada previamente por Semafor, calificándola de “patentemente falsa”. “Dario no dijo eso, y todas las versiones de nuestro lenguaje contractual propuesto permitirían que nuestros modelos apoyen la defensa antimisiles y usos similares”, afirmó.

Según una persona familiarizada con el asunto, en esa llamada Anthropic aceptó que el Departamento de Defensa pudiera utilizar sus herramientas de IA para defensa antimisiles y operaciones cibernéticas. Sin embargo, el Pentágono quedó insatisfecho y continúa presionando para flexibilizar aún más las reglas de uso en una disputa que ya lleva al menos dos meses.

En una reunión tensa el martes entre Amodei —quien apoyó a Kamala Harris en la campaña presidencial de 2024— y Pete Hegseth, el secretario de Defensa de Trump y férreo crítico de lo “woke”, el funcionario amenazó con invocar una ley de 1950 que permite obligar a la base industrial estadounidense a suministrar bienes estratégicos, si la empresa no le otorga al Pentágono libertad total para usar sus herramientas de IA dentro de los límites legales.

El enfrentamiento expone la dependencia del Departamento de Defensa de Anthropic en plena rivalidad militar con adversarios como China. Pero también amplifica la tensión entre Silicon Valley y el Pentágono sobre quién controla el futuro de la IA como herramienta de guerra y vigilancia, y si puede utilizarse de forma legal y ética.

“Las protecciones constitucionales en nuestras estructuras militares dependen de que haya humanos que —esperamos— desobedezcan órdenes ilegales. Con armas totalmente autónomas, no necesariamente contamos con esas protecciones”, dijo Amodei en un podcast del New York Times este mes, al advertir sobre la falta de supervisión en el uso de enjambres de drones autónomos. “En cierto modo, necesitamos protección frente a la IA”.

Amodei ha advertido recientemente sobre el riesgo de armas completamente autónomas y sobre la posibilidad de que la IA termine vigilando a las mismas personas que debería proteger. Hegseth exige que Anthropic elimine dos principios centrales de su política: no desarrollar o diseñar armas y no comprometer sistemas informáticos o redes.

Si la empresa no cede, el secretario podría recurrir a la Defense Production Act para obligarla a proporcionar sus herramientas sin restricciones. Además, el Pentágono podría declararla un riesgo para la cadena de suministro, lo que obligaría a proveedores como Palantir Technologies Inc. —que utiliza modelos de Anthropic en su plataforma militar Maven Smart System— a certificar que no emplean su tecnología.

Una medida de ese tipo podría ser devastadora para el negocio gubernamental de Anthropic. Este tipo de sanciones suele reservarse para compañías consideradas adversarias de EE.UU., como Huawei Technologies Co. o la rusa Kaspersky.

El trasfondo es una carrera global por integrar inteligencia artificial en las fuerzas armadas. La nueva estrategia de IA del Pentágono, publicada el mes pasado, busca acelerar su adopción para todo, desde planificación de campañas hasta cadenas de ataque (“kill chains”), y promete dejar atrás lo que denomina “idealismo utópico” en materia de IA responsable.

La estrategia exige que el Departamento utilice modelos “libres de restricciones de políticas de uso que puedan limitar aplicaciones militares legales” e incorpore cláusulas de “cualquier uso legal” en sus contratos.

Anthropic, que nació tras la salida de Amodei de OpenAI por preocupaciones de seguridad, mantiene una de las políticas de uso más restrictivas entre las empresas que trabajan con el ejército estadounidense. Desde su última actualización en septiembre, incluye principios como “No desarrollar ni diseñar armas” y “No comprometer sistemas informáticos o de red”.

Sin embargo, ya hay señales de flexibilidad. La compañía admite que puede “adaptar” sus restricciones para ciertos contratos gubernamentales. Además, recientemente relajó su política central de seguridad, eliminando una norma vigente desde 2023 que retrasaba el lanzamiento de desarrollos potencialmente peligrosos para no perder competitividad.

En paralelo, el Departamento de Defensa firmó un acuerdo con xAI, la empresa de Elon Musk, para utilizar su chatbot Grok en redes clasificadas, y volvió a acercarse a OpenAI para explorar opciones en la nube clasificada.

Reemplazar a Anthropic en sistemas militares implicaría un retraso de al menos seis meses en el uso de IA para seguridad nacional, según fuentes del sector. Pero el mensaje del Pentágono es claro: en la guerra tecnológica, nadie es imprescindible.

El choque entre Anthropic y el Departamento de Defensa no es solo contractual. Es una batalla por definir si la inteligencia artificial será una herramienta bajo control humano con límites claros —o un recurso estratégico que, una vez encendido, ya no admite frenos.