OpenAI revela más sobre pacto con el Pentágono.

OpenAI ha generado una controversia considerable tras la revelación de su reciente acuerdo con el Departamento de Defensa de EE. UU. En declaraciones del CEO Sam Altman, este acuerdo fue admitido como “definitivamente apresurado” y con “malas perspectivas”. La situación se complicó aún más cuando la negociación entre Anthropic y el Pentágono fracasó, llevando al entonces presidente Donald Trump a ordenar a las agencias federales que cesaran el uso de la tecnología de Anthropic después de un periodo de transición de seis meses. Pete Hegseth, Secretario de Defensa, designó a Anthropic como un riesgo en la cadena de suministro.

Poco después de la caída de los tratos de Anthropic, OpenAI dio a conocer rápidamente su propio acuerdo, que permitirá la implementación de sus modelos en entornos clasificados. Mientras Anthropic establecía límites en el uso de su tecnología para armas autónomas y vigilancia masiva, OpenAI se alineó con los mismos principios, lo que generó dudas sobre la autenticidad de sus promesas de seguridad. ¿Por qué OpenAI logró un acuerdo mientras Anthropic no pudo?

Ante la creciente incertidumbre, los ejecutivos de OpenAI defendieron el acuerdo en redes sociales. También publicaron un artículo en su blog donde delinearon su postura, indicando tres áreas prohibidas para el uso de sus modelos: vigilancia masiva, sistemas de armas autónomas y decisiones automatizadas de alto riesgo, como los “sistemas de crédito social”.

En contraste con otras empresas de inteligencia artificial que han “reducido o eliminado sus medidas de seguridad”, OpenAI argumenta que su acuerdo protege estas líneas rojas mediante un enfoque más amplio y en capas. “Mantenemos la discreción completa sobre nuestra infraestructura de seguridad; implementamos a través de la nube, personal autorizado de OpenAI está involucrado, y tenemos fuertes protecciones contractuales”, se destacó en el comunicado.

La empresa declaró no conocer las razones por las que Anthropic no alcanzó un acuerdo similar, expresando su deseo de que Anthropic y otros laboratorios consideren la posibilidad. Sin embargo, críticos como Mike Masnick de Techdirt argumentan que el acuerdo de OpenAI permitiría efectivamente la vigilancia doméstica, al cumplir con la Orden Ejecutiva 12333, que permite a la NSA realizar vigilancia sobre ciudadanos estadounidenses al interceptar comunicaciones desde el extranjero.

Katrina Mulligan, responsable de asociaciones de seguridad nacional en OpenAI, contrarrestó este argumento, afirmando que el verdadero control sobre el uso de IA en vigilancia y armas no reside únicamente en el lenguaje de los contratos, sino en la arquitectura de implementación. Destacó que al limitar su implementación a la API en la nube, OpenAI asegura que sus modelos no pueden integrarse directamente en sistemas de armas o hardware operativo.

En una conversación en X, Altman también admitió que el acuerdo fue apresurado y que esto provocó una significativa reacción negativa hacia OpenAI, llegando al punto de que Claude, de Anthropic, superó a ChatGPT de OpenAI en la App Store de Apple. Al preguntarle por qué continuaron con el acuerdo, Altman mencionó que su intención era de-escalar la situación y que consideraban el acuerdo favorable. Según su perspectiva, si logran reducir las tensiones entre el Departamento de Defensa y la industria, su decisión será vista como un acto visionario. De lo contrario, se enfrentarán a críticas por actuar de manera irresponsable.

Esta narrativa destaca un momento crucial en la intersección entre la inteligencia artificial y la defensa nacional, planteando interrogantes sobre el futuro de la tecnología y su regulación en contextos sensibles.

Gracias por leer Columna Digital, puedes seguirnos en Facebook, Twitter, Instagram o visitar nuestra página oficial. No olvides comentar sobre este articulo directamente en la parte inferior de esta página, tu comentario es muy importante para nuestra área de redacción y nuestros lectores.