La herramienta de inteligencia artificial Claude de Anthropic se utilizó en la operación militar estadounidense para capturar al expresidente venezolano Nicolás Maduro, lo que destaca cómo los modelos de IA están ganando terreno en el Pentágono, según personas familiarizadas con el asunto.
La misión para capturar a Maduro y a su esposa incluyó el bombardeo de varios lugares en Caracas el mes pasado. Las directrices de uso de Anthropic prohíben que Claude se utilice para facilitar la violencia, desarrollar armas o realizar vigilancia.
“No podemos comentar si Claude, o cualquier otro modelo de IA, se utilizó para alguna operación específica, clasificada o no”, declaró un portavoz de Anthropic. “Cualquier uso de Claude, ya sea en el sector privado o en el gobierno, debe cumplir con nuestras Políticas de Uso, que rigen su implementación. Trabajamos estrechamente con nuestros socios para garantizar su cumplimiento”.
El Departamento de Defensa se negó a hacer comentarios.
El despliegue de Claude se produjo gracias a la asociación de Anthropic con la empresa de datos Palantir Technologies PLTR.1,77%aumentar; triángulo verde que apunta hacia arriba, cuyas herramientas son comúnmente utilizadas por el Departamento de Defensa y las fuerzas del orden federales, según las fuentes. La preocupación de Anthropic sobre cómo el Pentágono puede utilizar a Claude ha llevado a funcionarios de la administración a considerar la cancelación de su contrato, valorado en hasta 200 millones de dólares, según informó anteriormente The Wall Street Journal. Palantir no respondió de inmediato a una solicitud de comentarios.
Anthropic fue el primer desarrollador de modelos de IA que el Departamento de Defensa utilizó en operaciones clasificadas. Es posible que se utilizaran otras herramientas de IA en la operación de Venezuela para tareas no clasificadas. Estas herramientas pueden utilizarse para todo, desde resumir documentos hasta controlar drones autónomos.
Su adopción por parte de los militares se considera un impulso clave para las empresas de IA que compiten por la legitimidad y buscan estar a la altura de las enormes valoraciones que les otorgan los inversores.
El director ejecutivo de Anthropic, Dario Amodei, y otros directores ejecutivos han estado lidiando públicamente con el poder de sus modelos y los riesgos que podrían representar para la sociedad. Amodei se ha distanciado de muchos otros ejecutivos del sector al exigir una mayor regulación y medidas de seguridad para prevenir los daños de la IA. La empresa, centrada en la seguridad, y otras del sector han perdido empleados que, según ellos, priorizan el crecimiento sobre el desarrollo tecnológico responsable.
En un evento de enero en el que se anunció que el Pentágono trabajaría con xAI, el secretario de Defensa, Pete Hegseth, dijo que la agencia no «emplearía modelos de IA que no permitan luchar en guerras», un comentario que hacía referencia a las discusiones que los funcionarios de la administración han tenido con Anthropic, informó el Journal.
Lea más en The Wall Street Journal
