FlashProve: důkaz, že odpověděl skutečně ten model, stojí 93× víc výkonu
Zdroj: Anthropic
FlashProve je prototyp od Anthropic, kterým poskytovatel dokáže, že odpověď vygeneroval právě ten model, ke kterému se zavázal – a přitom nevydá váhy. Na jedné H100 zvládne 111 tokenů za sekundu, jenže proti vLLM je to 71× až 93× dražší a v přesné shodě neprošla ani jedna z 96 uložených odpovědí. Kdo čekal ověřitelné API, dostal výzkumný artefakt.
Co to umí
Repozitář anthropics/FlashProve vznikl 30. 10. 2026, verze 0.16.0, licence Apache 2.0, a v popisu stojí „not maintained, not accepting contributions“. Postavil ho Frontier Red Team s EPFL, MIT a StarkWare.
- Poskytovatel zveřejní commitment, který ho váže k jedné sadě vah. Váhy zůstanou tajné, zveřejněné hodnoty jsou maskované.
- Na každou odpověď vyrobí GPU důkaz, že text je výstupem zavázaného modelu.
- Kdokoli ho ověří na běžném CPU programem
cp_verify, bez vah a bez GPU.
Korektnost protokolu je dokázaná v Lean 4: podvodný poskytovatel projde s pravděpodobností zhruba q/2^124 + 2^-101.
Čísla
| Parametr | Hodnota |
|---|---|
| Model | Llama 4 Maverick, kontext 1 024 tokenů |
| Železo | jedna H100 80 GB, CUDA 13.2, 245 GB disku |
| Propustnost (24 requestů v dávce) | 111,23 tokenu/s |
| Velikost důkazu | 18,78 MB |
| Ověření na jednom vlákně | kolem 21 s |
| Commitment, jednou na model | kolem 39 min |
| Stažení u klienta | 6,24 MB |
| Paměť při servírování | 269,7 GB |
| Proti vLLM při nejvyšší zátěži | 93× dražší |
| Pro koho | pro auditory a výzkum, ne pro provozní API |
Kde to skřípe
Důkaz v přesné shodě projde jen tehdy, když každý token vybere celočíselná verze modelu. Ta se na 6,81 % pozic rozchází s 16bitovým modelem v top tokenu – a z 96 uložených odpovědí ze stock vLLM, v 16 bitech i FP8, neprošla ani jedna.
Provozní čísla jsou stejně nepříjemná. Dávka 64 requestů na 80GB kartě sáhla na 80 629 z 81 559 MiB a na syntetických vahách selhala; autoři doporučují 64 v dávce nepoužívat. Lean verifikátor potřebuje kolem 24 minut a 14 GB paměti, takže slouží jen jako referenční kontrola, ne jako běžný nástroj.
Co z toho plyne
Důkaz původu odpovědi je technicky reálný a levný na ověření – 21 sekund na CPU. Jenže ho nelze přilepit na hotové nasazení: model musí být celočíselný, prokázat se dá jeden token, a cena za GPU je proti normálnímu servírování dvouciferná. Pro firmu, která staví linku, z toho dnes plyne jediné použití: když dodavatel nabídne „ověřenou inferenci“, je potřeba se ptát, co přesně dokazuje a proti jaké verzi vah.
Pro provozovatele lokálních modelů: tohle není funkce, kterou si zapnete v Ollamě. Je to odpověď na otázku, kterou dnes nikdo neklade – a až ji někdo položí, bude to chtít auditor, který si přinese vlastní GPU a týden času.
Zdroje
- FlashProve — research prototype for zero-knowledge proofs of AI inference — Anthropic
- FlashProve — Performance — Anthropic
- Anthropic open-sources FlashProve, its provable inference prototype for MoE models — Help Net Security
Odkazy vedou na primární zdroje. Text článku je redakční shrnutí, ne převzatá zpráva.