Anthropic y el Pentágono: ¿Qué riesgos enfrentan?

En las últimas semanas, la atención se ha centrado en un choque significativo entre Dario Amodei, CEO de Anthropic, y el Secretario de Defensa, Pete Hegseth, a medida que discuten el uso militar de la inteligencia artificial (IA). Anthropic se ha opuesto firmemente a que sus modelos de IA sean utilizados para la vigilancia masiva de ciudadanos estadounidenses o para armas autónomas que operen sin intervención humana. Por su parte, Hegseth sostiene que el Departamento de Defensa (DoD) no debería estar restringido por las políticas de una empresa, argumentando que cualquier “uso legal” de la tecnología debería ser permitido.

Amodei ha dejado claro que su empresa no cederá a estas presiones, incluso ante la amenaza de que Anthropic pueda ser clasificada como un riesgo en la cadena de suministro. Esta disputa plantea interrogantes fundamentales sobre quién debe tener el control de los sistemas de IA poderosa: las empresas que los desarrollan o el gobierno que busca desplegarlos.

La preocupación de Anthropic radica en su deseo de proteger el uso responsable de su tecnología. A diferencia de los contratistas de defensa tradicionales, que suelen tener poco control sobre cómo se utilizan sus productos, Anthropic considera que la IA conlleva riesgos únicos que requieren salvaguardias específicas. Ellos argumentan que, dado el secreto habitual en las operaciones militares, podría desconocerse el uso que realmente se le está dando a su tecnología, especialmente en el contexto de decisiones letales.

Ya en presente, el DoD ha revelado su dependencia de sistemas altamente automatizados, algunos de los cuales ya son letales. Aunque la toma de decisiones sobre el uso de la fuerza letal históricamente ha recaído en humanos, existen escasas restricciones legales sobre las armas autónomas. La reciente directiva del DoD permite que los sistemas de IA seleccionen y comprometan objetivos sin intervención humana, siempre que cumplan con ciertos estándares y sean aprobados por oficiales superiores.

La inquietud de Anthropic se centra en que, si las fuerzas armadas comenzaran a automatizar la toma de decisiones letales utilizando sus modelos, esto podría clasificarse como un “uso legal”. Las implicaciones de un sistema autónomo mal calibrado son alarmantes; por ejemplo, podría resultar en la identificación errónea de objetivos o en una escalada de conflictos sin autorización humana.

Además, la IA intensifica la capacidad de llevar a cabo una vigilancia legal sobre ciudadanos estadounidenses. A través de la recolección de datos, la IA permite una detección automatizada de patrones a gran escala, lo que plantea cuestiones éticas y legales sobre su uso.

En cuanto a la posición del Pentágono, la defensa radica en la necesidad de implementar la tecnología de Anthropic para cualquier uso legal que consideren oportuno, sin estar limitados por las políticas internas de la empresa. Hegseth ha enfatizado que el departamento no busca llevar a cabo una vigilancia masiva ni desplegar armas autónomas. La urgencia se intensifica, ya que se ha otorgado a Anthropic un plazo para decidir si aceptan esta condición, con la amenaza de que podrían ser considerados un riesgo para la cadena de suministro.

Sin embargo, las implicaciones de esta decisión son profundas. La etiqueta de riesgo en la cadena de suministro podría significar un golpe fatal para Anthropic, mientras que su exclusión del DoD podría convertirse en una cuestión de seguridad nacional, dado que tomaría tiempo para que otras empresas alcancen la capacidad necesaria para reemplazarlos.

Finalmente, el desarrollo de esta situación pone de relieve la creciente intersección entre tecnología avanzada y defensa militar, y cómo las decisiones tomadas ahora moldearán el futuro de la inteligencia artificial en el ámbito público y privado. Con la fecha límite acercándose, todos los ojos están puestos en cómo se resolverá este conflicto, decididamente un punto de inflexión en el diálogo entre tecnología y política militar.

Gracias por leer Columna Digital, puedes seguirnos en Facebook, Twitter, Instagram o visitar nuestra página oficial. No olvides comentar sobre este articulo directamente en la parte inferior de esta página, tu comentario es muy importante para nuestra área de redacción y nuestros lectores.