Dario Amodei: No teme modelos abiertos, pero sí AI china.

El debate en torno a los modelos de inteligencia artificial con pesos abiertos sigue generando controversia en la industria tecnológica. Dario Amodei, fundador y CEO de Anthropic, abordó esta cuestión en una reciente publicación, desmintiendo rumores que sugerían que su empresa apoyaba esfuerzos del gobierno de EE.UU. para prohibir tales modelos, particularmente los provenientes de China.

Amodei expresó su desacuerdo con la idea de prohibiciones, enfatizando: “Anthropic nunca ha abogado por una prohibición de modelos de pesos abiertos.” Destacó la importancia de estos modelos como un bien público, ya que proporcionan valor a diversas industrias y no implican costos significativos más allá de la computación necesaria para operarlos.

Este contexto surge después de que Jensen Huang, CEO de Nvidia, manifestara su preocupación sobre posibles restricciones a los modelos de pesos abiertos mediante una carta abierta, firmada por varias empresas de inteligencia artificial, en la que se solicitaba a los legisladores evitar restricciones prematuras. Aunque el documento no mencionó explícitamente a China, la discusión ha girado en torno a acusaciones de que laboratorios chinos están robusteciendo sus capacidades tecnológicas mediante el robo de propiedad intelectual.

Amodei también abordó sus inquietudes respecto a los gobernantes autoritarios, señalando que estos pueden desarrollar modelos de inteligencia artificial que les otorguen una superioridad militar permanente. Aunque reconoce que los modelos de pesos abiertos no pertenecen a su lista de preocupaciones inmediatas, advierte sobre los riesgos que presenta la falta de control sobre su uso, especialmente en escenarios que podrían permitir ataques biológicos.

Su planteamiento contrasta con la perspectiva de los defensores del software de código abierto, quienes argumentan que el acceso a modelos poderosos ayuda a las comunidades defensivas. Para proteger la competitividad de EE.UU., Amodei sugirió restricciones sobre el acceso de China a chips avanzados y propuso un enfoque más formal contra la práctica de distillación, que permite el aprendizaje de un modelo sobre otro.

En un giro interesante, Amodei expresó su apoyo a las iniciativas que buscan establecer una organización para la prueba de seguridad de modelos de inteligencia artificial. Considera que esta colaboración internacional, incluso con la participación de China, podría ser clave para prevenir el uso indebido de estas tecnologías avanzadas.

Este contexto actualiza un debate que continúa evolucionando, a medida que las capacidades de la inteligencia artificial se expanden y su impacto en la seguridad global y la ética tecnológica se vuelve cada vez más urgente.

Gracias por leer Columna Digital, puedes seguirnos en Facebook, Twitter, Instagram o visitar nuestra página oficial. No olvides comentar sobre este articulo directamente en la parte inferior de esta página, tu comentario es muy importante para nuestra área de redacción y nuestros lectores.