Anthropic presenta FlashProve para verificar criptográficamente las salidas de modelos de IA

Image: TechCrunch · Source

Anthropic presenta FlashProve, un sistema criptográfico de código abierto que permite verificar si las respuestas de IA provienen genuinamente de modelos específicos, mejorando la confianza y seguridad en el uso de la IA.

Anthropic ha desarrollado FlashProve, un sistema de código abierto diseñado para verificar criptográficamente la identidad de modelos de IA que producen salidas específicas. Publicada en noviembre de 2026, esta investigación aborda un desafío notable en las interacciones con IA: actualmente, los usuarios no pueden estar seguros de que una respuesta provenga exactamente del modelo de IA que el proveedor afirma. FlashProve pretende resolver esto habilitando una "inferencia verificable", proporcionando pruebas criptográficas de que una respuesta determinada fue generada por un modelo de IA designado.

El problema surge porque organizaciones o actores maliciosos pueden sustituir un modelo por otro sin que los usuarios lo sepan, cambiando potencialmente a modelos más baratos o inflando reclamos de rendimiento. FlashProve establece paralelismos con las firmas criptográficas de correo electrónico, ya que adjunta pruebas a las salidas de IA que pueden ser verificadas de forma independiente y rápida, incluso en dispositivos con potencia computacional modesta.

Desde el punto de vista técnico, FlashProve utiliza argumentos concisos de conocimiento cero (zkSNARKs), un tipo de protocolo criptográfico que permite probar afirmaciones computacionales sin revelar datos sensibles como los pesos internos del modelo. De manera importante, el sistema requiere que los laboratorios de IA publiquen una "huella digital" o compromiso con los pesos de su modelo. Estas huellas no revelan los pesos del modelo en sí, preservando así la propiedad intelectual mientras permiten la verificación.

En cuanto al rendimiento, para un modelo de lenguaje Mixture-of-Experts grande como Llama 4 Maverick (400 mil millones de parámetros, cuantificación de 4 bits), una prueba puede generarse a aproximadamente 110 tokens por segundo en una única GPU Nvidia H100, con un tamaño de prueba de unos 19 MB por cada 1,024 tokens. La verificación en una CPU típica multinúcleo toma solo unos segundos, sin requerir hardware especializado. Mientras que la generación de pruebas es intensiva en cómputo — aproximadamente 70 a 95 veces más tiempo que solo ejecutar la inferencia — el proceso de verificación es liviano.

Las aplicaciones potenciales incluyen validar que salidas o análisis provienen genuinamente de modelos avanzados o aprobados, crucial para clientes que auditan servicios de IA o reguladores que hacen cumplir la conformidad. También protege contra la manipulación de servidores de inferencia, ya que los atacantes no pueden falsificar pruebas válidas sin los pesos correctos del modelo.

Anthropic liberó el código de FlashProve, las pruebas formales escritas en el asistente de pruebas Lean y una extensa documentación técnica bajo una licencia de código abierto Apache 2.0, invitando a la comunidad a construir sobre su trabajo. Enfatizan que FlashProve es un prototipo de investigación, aún no desplegado en producción, con investigaciones en curso para mejoras adicionales.

Al permitir la acreditación criptográfica de las salidas de IA sin comprometer detalles propietarios del modelo, FlashProve representa un paso significativo hacia la construcción de sistemas de IA confiables que puedan ser auditados y verificados de forma confiable por usuarios, evaluadores y reguladores por igual.