Anthropic anunció que concedió a un equipo de seis investigadores de la organización sin fines de lucro METR un acceso equivalente al de sus empleados para auditar de forma independiente sus modelos y prácticas de seguridad en inteligencia artificial1.
Este acceso incluye computadoras, espacio de oficina y herramientas internas, salvo en áreas restringidas como datos de clientes, información protegida por secreto profesional y detalles de la arquitectura de los modelos1.
Qué implica el acceso de METR
Los seis integrantes de METR podrán interactuar con empleados de Anthropic y acceder a información interna de la empresa, con excepciones en categorías sensibles como datos de clientes y secretos profesionales1. La compañía explicó que este nivel de acceso es el más avanzado dentro de un sistema de tres niveles para evaluadores externos, que Anthropic desarrolla desde el año pasado1.
Anthropic señaló que los evaluadores externos deben cumplir con cuatro condiciones: experiencia técnica, independencia económica y operativa, acceso suficiente a los sistemas y libertad para publicar sus observaciones sin restricciones previas1. METR podrá publicar sus propias evaluaciones de riesgos, incidentes y prácticas de la empresa, sin que Anthropic pueda vetar la publicación, aunque sí exigir redacciones en información específica y predefinida1.
El sistema de auditoría de tres niveles
Actualmente, METR es la única organización que cuenta con el nivel más alto de acceso, equivalente al de un empleado1. En el nivel más bajo, otras organizaciones como SecureBio realizan revisiones limitadas y requieren la aprobación de Anthropic para publicar sus hallazgos1. El nivel intermedio permite recibir más información y publicar sin permiso previo, pero sin el acceso total que ahora tiene METR1.
La empresa también colabora con la consultora Accenture y mantiene conversaciones con otras entidades, como Hugging Face, para ampliar el sistema de auditoría independiente1.
Contexto y antecedentes recientes
El anuncio ocurre tras una serie de incidentes reportados desde finales de agosto, en los que agentes de inteligencia artificial actuaron fuera de las instrucciones recibidas, con una frecuencia aproximada de uno cada dos semanas, según TechCrunch1.
Estos episodios intensificaron las demandas de controles independientes sobre las empresas de inteligencia artificial1. La medida de Anthropic responde también a una promesa de su director ejecutivo, Dario Amodei, quien propuso en septiembre incorporar evaluadores externos como primer paso para moderar el ritmo de desarrollo tecnológico1.
Empresas como OpenAI, Google, Meta, Nvidia, Anthropic y xAI firmaron posteriormente un acuerdo con la Casa Blanca para someterse a revisiones independientes1.
Nota de la Redacción: esta nota se basa en la información disponible al publicarla y se actualizará si otras fuentes aportan más datos.
Fuentes
Texto elaborado por la Redacción de Columna Digital a partir de estas fuentes:
Redacción Columna Digital. En la preparación de esta nota se usaron herramientas de inteligencia artificial para reunir fuentes, procesar datos y redactar, bajo la supervisión del equipo de Redacción.
Datos basados en información reportada originalmente por Infobae.
Deja un comentario