FlashProve: Anthropic ensaya una prueba para identificar qué modelo respondió
Anthropic publicó FlashProve, un prototipo que busca demostrar criptográficamente que una respuesta corresponde a unos pesos de modelo comprometidos. La prueba aún tiene un coste computacional alto y no está prevista su implantación inmediata.
Anthropic ha publicado FlashProve, un prototipo de investigación que intenta responder una pregunta incómoda para cualquier servicio de inteligencia artificial: ¿cómo sabe el usuario que la respuesta salió del modelo que el proveedor prometió usar? La propuesta añade una prueba criptográfica a la inferencia para ligar cada salida con una versión concreta de los pesos, sin entregarlos al verificador. No convierte una respuesta en verdadera; intenta hacer comprobable su procedencia.
Una huella antes de la conversación
El sistema empieza antes de que llegue el primer prompt. El proveedor publica un compromiso criptográfico —una huella breve de una configuración exacta del modelo— y conserva en privado sus parámetros. Cuando recibe una consulta, genera la respuesta y un archivo de prueba que cualquier persona con la huella, el prompt y los tokens de salida puede comprobar. La idea es que el laboratorio no tenga que pedir “confía en mí” justo cuando existe un incentivo para cambiar de modelo sin avisar.
Anthropic plantea usos para servicios comerciales que guardan sus pesos en secreto y para terceros que quieren demostrar qué herramienta hizo un trabajo. Una empresa podría acreditar que un análisis pasó por el modelo contratado; quien ofrece un servicio podría demostrar que no sustituyó silenciosamente un sistema caro por otro más barato. Son ejemplos posibles, no funciones de producto disponibles hoy.
-IA Crew dice: Si la prueba funciona, el recibo deja de ser una captura del panel de administración y empieza a parecerse a una comprobación independiente.-
La distinción importa porque la inferencia verificable no significa “inteligencia verificable”. El protocolo busca demostrar que una secuencia de tokens corresponde a los pesos comprometidos y a una entrada concreta. No certifica que la respuesta sea correcta, que el prompt estuviera bien planteado ni que el modelo no haya aprendido una barbaridad con mucha seguridad. La criptografía puede vigilar la identidad del cocinero; no puede declarar comestible el plato.
El coste de pedir una prueba
La evaluación inicial usa Llama 4 Maverick, un modelo Mixture-of-Experts (MoE) de 400.000 millones de parámetros, con pesos públicos cuantizados a cuatro bits. Anthropic informa de unos 110 tokens por segundo al generar pruebas en un servidor con una GPU H100 y 24 núcleos de CPU. Cada archivo ocupa alrededor de 19 megabytes y la comprobación tarda 17 segundos con 24 hilos, según la configuración descrita por la empresa.
La parte menos vistosa está en la comparación de rendimiento: para un lote de 24 solicitudes, generar la prueba fue entre 66 y 77 veces más lento por GPU que procesar esas mismas solicitudes con vLLM; a la carga más alta probada, la diferencia llegó a 94 veces. La cifra no significa que cada producto comercial vaya a ser exactamente 94 veces más lento. Sí muestra que demostrar el cálculo tiene un precio computacional serio en esta implementación.
-IA Crew dice: La transparencia llega con una factura de GPU; al menos esta vez viene desglosada.-
Hay también un coste de preparación que se paga por modelo, no por conversación: crear el compromiso inicial tarda unos 39 minutos y, por razones técnicas, sirve para unos 16 millones de solicitudes antes de renovarse. Ese reparto entre coste inicial y comprobaciones posteriores puede ser útil a gran escala, pero las cifras todavía pertenecen a una evaluación de laboratorio, no a un servicio desplegado.
Un borrador de estándar, no una garantía comercial
Anthropic presenta FlashProve como un sistema de prueba de conocimiento cero: quien verifica obtiene evidencia sobre la ejecución sin recibir los pesos ni los valores intermedios del cálculo. La arquitectura del modelo sí queda visible; lo que no se revelan son sus parámetros. La compañía también reconoce que el trabajo depende de supuestos criptográficos y que la seguridad basada en software complementa, pero no elimina, otros enfoques como el hardware confiable.
TechCrunch confirma que el código y la especificación se publicaron como investigación abierta y que Anthropic no tiene planes actuales de desplegar el sistema. Esa cautela es central: todavía falta comprobar cómo se comporta fuera de esta prueba, qué coste aceptan los proveedores y qué mecanismos impedirían que la huella inicial se convierta en otro dato opaco administrado por el propio proveedor.
-IA Crew dice: El primer resultado no es una IA más honesta; es una forma más concreta de discutirle al proveedor cuando dice cuál IA usó.-
Si la técnica madura, podría servir para auditorías, contratos de servicio y evaluaciones donde la identidad del modelo importa tanto como la respuesta. Por ahora, su aporte más realista es cambiar la pregunta: además de “¿qué contestó?”, permite explorar “¿qué versión produjo estos tokens?”. En un mercado donde los nombres de modelo ya son parte del producto, poder verificar esa promesa sería útil; pagar el coste y confiar en la implementación seguirán siendo decisiones humanas.
Diccionario de la Crew
Compromiso criptográfico — huella publicada que identifica una configuración concreta sin revelar sus parámetros.
Inferencia verificable — generación de una salida cuya correspondencia con un modelo y una entrada puede comprobarse.
Mixture-of-Experts (MoE) — arquitectura que activa solo parte de sus parámetros para cada token.
Prueba de conocimiento cero — prueba que permite verificar una afirmación sin revelar información adicional sobre los datos privados usados.
