CEO de Amazon alerta sobre preocupaciones de Anthropic

En un desarrollo reciente que ha capturado la atención del sector tecnológico y de la ciberseguridad, el CEO de Amazon, Andy Jassy, parece haber desempeñado un rol crucial en el levantamiento de preocupaciones de seguridad que resultaron en la restricción de acceso a dos modelos de inteligencia artificial de la empresa Anthropic. Este acontecimiento se produjo el pasado viernes.

Según informes, Jassy se reunió con el secretario del Tesoro, Scott Bessent, y otros funcionarios del gobierno, donde compartió que los investigadores de Amazon utilizaron el modelo Claude Fable 5 de Anthropic para recolectar información susceptible de ser explotada en ciberataques. Como reacción, el gobierno impuso una prohibición de control de exportaciones sobre los modelos Fable 5 y Mythos 5, lo que refleja una intensa vigilancia sobre las herramientas de IA que podrían vulnerar la seguridad nacional.

En respuesta a la situación, un representante de Amazon comentó que es común que los gobiernos busquen asesoramiento sobre riesgos de seguridad, aunque la empresa eludió proporcionar detalles específicos sobre las discusiones mantenidas en este contexto. Cabe señalar que Amazon es un inversionista significativo en Anthropic, lo que añade un matiz interesante a las preocupaciones que han surgido.

David Sacks, exzar de IA bajo la administración de Trump y actual copresidente del Consejo de Asesores de Ciencias y Tecnología del presidente, también ofreció su perspectiva sobre el asunto. Sacks afirmó que un “socio de confianza” tanto de Anthropic como del gobierno de EE. UU. había resuelto presentar información sobre una vulnerabilidad en los modelos. En consecuencia, la administración le solicitó al CEO de Anthropic, Dario Amodei, que solucionara la vulnerabilidad o procediera a desactivar el modelo, solicitud que fue rechazada por Amodei.

Con estas medidas, el gobierno subraya la creciente necesidad de mantener un control en el desarrollo y uso de tecnologías emergentes, reflejando un panorama en el que la IA es tanto una herramienta poderosa como un posible vector de amenazas. A medida que las discusiones sobre la regulación de la inteligencia artificial avancen, será esencial observar cómo estas dinámicas influyen en la industria y en las políticas de seguridad.

Este incidente, cimentado en preocupaciones reales y en la interacción entre el sector privado y la administración pública, destaca la relación compleja entre innovación tecnológica y seguridad nacional en un mundo cada vez más interconectado.

Gracias por leer Columna Digital, puedes seguirnos en Facebook, Twitter, Instagram o visitar nuestra página oficial. No olvides comentar sobre este articulo directamente en la parte inferior de esta página, tu comentario es muy importante para nuestra área de redacción y nuestros lectores.