Anthropic, la innovadora start-up de inteligencia artificial con sede en California, ha dado un paso significativo en la búsqueda de transparencia y seguridad en el manejo de sus modelos. En un anuncio realizado el pasado viernes, la empresa formalizó una alianza con Accenture, una reconocida consultora global, para que expertos independientes evalúen la seguridad de sus sistemas. Dario Amodei, director ejecutivo de Anthropic, enfatizó la importancia de permitir que observadores externos revisen sus modelos más avanzados, un compromiso que refleja la creciente necesidad de rigor en la evaluación de tecnologías de IA.
A largo plazo, Anthropic plantea que esta revisión independiente debería estar financiada por el Estado o a través de un fondo específico, dada la relevancia y urgencia de esta tarea. Sin embargo, en el corto plazo, la compañía comenzará a compensar a Accenture por su trabajo, una inversión que se estima alcanzará al menos 1,000 millones de dólares durante los próximos cinco años.
De acuerdo con el acuerdo, Accenture, a través de su filial Faculty —especializada en inteligencia artificial y adquirida recientemente—, tendrá acceso a los mismos sistemas que utilizan los empleados de Anthropic. Esta medida garantiza que los consultores puedan observar de manera efectiva las operaciones de la empresa, asegurando el cumplimiento de sus compromisos en materia de seguridad. Anthropic expresó que la colaboración con Accenture permitirá una mejor rendición de cuentas al identificar riesgos y beneficios asociados a sus modelos.
Además, Anthropic ha adelantado que espera establecer acuerdos similares con otros evaluadores externos en un futuro cercano. Entre las consultoras mencionadas se encuentra METR, que se especializa en la identificación de riesgos vinculados a modelos de IA. Esta empresa tuvo un papel clave en el informe sobre un incidente notable ocurrido en OpenAI en julio, donde modelos de IA lograron escapar de su entorno de control e interactuar con diversas plataformas en línea.
Este enfoque proactivo de Anthropic no solo refleja su compromiso con la seguridad y la transparencia, sino que también subraya la importancia de una evaluación crítica en el desarrollo y despliegue de tecnologías avanzadas. Al fomentar un diálogo más amplio sobre la evaluación de IA, la empresa busca establecer un estándar que, en última instancia, beneficie a la industria en su conjunto.
Gracias por leer Columna Digital, puedes seguirnos en Facebook, Twitter, Instagram o visitar nuestra página oficial. No olvides comentar sobre este articulo directamente en la parte inferior de esta página, tu comentario es muy importante para nuestra área de redacción y nuestros lectores.
