Anthropic anunció el desarrollo de FlashProve, un sistema de código abierto diseñado para verificar de manera criptográfica la identidad de los modelos de inteligencia artificial que generan respuestas o resultados. El objetivo es que cualquier usuario pueda comprobar que la respuesta obtenida proviene realmente del modelo que dice ser, mediante una prueba matemática que funciona de manera similar a las firmas digitales utilizadas en correos electrónicos seguros1.
La herramienta busca evitar que laboratorios de IA o terceros suplanten modelos, incluso si estos cuentan con acceso interno, y que las empresas puedan intercambiar modelos sin que el usuario lo note.
Cómo funciona FlashProve y qué resuelve
FlashProve permite a los laboratorios de inteligencia artificial publicar una 'huella digital' de cada modelo que lanzan. Esta huella puede asociarse y comprobarse criptográficamente con las salidas generadas, sin revelar los pesos internos del modelo, que son considerados el principal activo de las empresas de IA y suelen mantenerse en secreto1.
El sistema está diseñado para ser ligero y permitir la verificación en dispositivos locales, evitando la necesidad de grandes recursos computacionales. Entre los problemas que busca resolver está la posibilidad de que una empresa sustituya un modelo avanzado por uno más barato para reducir costos, o que afirme falsamente que una tarea fue realizada por un modelo de última generación. FlashProve permitiría comprobar tales afirmaciones de manera independiente1.
Disponibilidad y estado actual del proyecto
El anuncio de Anthropic incluye la publicación de la especificación técnica y el código de trabajo en GitHub, bajo una licencia de código abierto. La empresa aclara que se trata de un avance intermedio en su investigación y que el sistema aún no está planeado para su despliegue en productos comerciales propios ni de terceros1.
Según los investigadores, el objetivo de compartir el proyecto en esta etapa es que otros expertos y desarrolladores puedan revisarlo, probarlo y mejorarlo. FlashProve está pensado para funcionar con modelos comerciales y de código abierto, siempre que los laboratorios publiquen las huellas digitales requeridas1.
Verificación criptográfica en otros sectores
El uso de pruebas criptográficas para verificar procesos y resultados no es exclusivo de la inteligencia artificial. En el sector salud, por ejemplo, se han desarrollado marcos como ZK-PRET Business Process Prover, que integra estándares de procesos empresariales con verificación criptográfica de conocimiento cero para garantizar el cumplimiento normativo y la privacidad en sistemas distribuidos2.
Estas tecnologías permiten comprobar matemáticamente que un proceso se realizó conforme a las regulaciones, sin necesidad de revelar información sensible. La aplicación de pruebas criptográficas en IA y en otros sectores apunta a una tendencia de mayor transparencia y confianza en sistemas automatizados2.
Fuentes
Texto elaborado por la Redacción de Columna Digital a partir de estas fuentes:
Redacción Columna Digital. Es posible que en la preparación de esta nota se hayan usado herramientas de inteligencia artificial para reunir fuentes, procesar datos, corregir o redactar textos, bajo la supervisión del equipo de Redacción.
Datos basados en información reportada originalmente por TechCrunch.
Reportar un problema en esta notaPolítica de correcciones
Deja un comentario