AI

FlashProve: důkaz, že odpověděl skutečně ten model, stojí 93× víc výkonu

Zdroj: Anthropic

Grafika s nápisem FlashProve, hodnotou 93× a číslem verze 0.16.0
Ilustrace: redakce

FlashProve je prototyp od Anthropic, kterým poskytovatel dokáže, že odpověď vygeneroval právě ten model, ke kterému se zavázal – a přitom nevydá váhy. Na jedné H100 zvládne 111 tokenů za sekundu, jenže proti vLLM je to 71× až 93× dražší a v přesné shodě neprošla ani jedna z 96 uložených odpovědí. Kdo čekal ověřitelné API, dostal výzkumný artefakt.

Co to umí

Repozitář anthropics/FlashProve vznikl 30. 10. 2026, verze 0.16.0, licence Apache 2.0, a v popisu stojí „not maintained, not accepting contributions“. Postavil ho Frontier Red Team s EPFL, MIT a StarkWare.

  • Poskytovatel zveřejní commitment, který ho váže k jedné sadě vah. Váhy zůstanou tajné, zveřejněné hodnoty jsou maskované.
  • Na každou odpověď vyrobí GPU důkaz, že text je výstupem zavázaného modelu.
  • Kdokoli ho ověří na běžném CPU programem cp_verify, bez vah a bez GPU.

Korektnost protokolu je dokázaná v Lean 4: podvodný poskytovatel projde s pravděpodobností zhruba q/2^124 + 2^-101.

Čísla

ParametrHodnota
ModelLlama 4 Maverick, kontext 1 024 tokenů
Železojedna H100 80 GB, CUDA 13.2, 245 GB disku
Propustnost (24 requestů v dávce)111,23 tokenu/s
Velikost důkazu18,78 MB
Ověření na jednom vlákněkolem 21 s
Commitment, jednou na modelkolem 39 min
Stažení u klienta6,24 MB
Paměť při servírování269,7 GB
Proti vLLM při nejvyšší zátěži93× dražší
Pro kohopro auditory a výzkum, ne pro provozní API

Kde to skřípe

Důkaz v přesné shodě projde jen tehdy, když každý token vybere celočíselná verze modelu. Ta se na 6,81 % pozic rozchází s 16bitovým modelem v top tokenu – a z 96 uložených odpovědí ze stock vLLM, v 16 bitech i FP8, neprošla ani jedna.

Provozní čísla jsou stejně nepříjemná. Dávka 64 requestů na 80GB kartě sáhla na 80 629 z 81 559 MiB a na syntetických vahách selhala; autoři doporučují 64 v dávce nepoužívat. Lean verifikátor potřebuje kolem 24 minut a 14 GB paměti, takže slouží jen jako referenční kontrola, ne jako běžný nástroj.

Co z toho plyne

Důkaz původu odpovědi je technicky reálný a levný na ověření – 21 sekund na CPU. Jenže ho nelze přilepit na hotové nasazení: model musí být celočíselný, prokázat se dá jeden token, a cena za GPU je proti normálnímu servírování dvouciferná. Pro firmu, která staví linku, z toho dnes plyne jediné použití: když dodavatel nabídne „ověřenou inferenci“, je potřeba se ptát, co přesně dokazuje a proti jaké verzi vah.

Pro provozovatele lokálních modelů: tohle není funkce, kterou si zapnete v Ollamě. Je to odpověď na otázku, kterou dnes nikdo neklade – a až ji někdo položí, bude to chtít auditor, který si přinese vlastní GPU a týden času.

Zdroje

  1. FlashProve — research prototype for zero-knowledge proofs of AI inference — Anthropic
  2. FlashProve — Performance — Anthropic
  3. Anthropic open-sources FlashProve, its provable inference prototype for MoE models — Help Net Security

Odkazy vedou na primární zdroje. Text článku je redakční shrnutí, ne převzatá zpráva.