Tényleg az az AI válaszol, amelyikért fizetsz? Ezt igazolná a FlashProve
Az Anthropic nyílt forrású kutatási prototípusa kriptográfiai bizonyítékkal ellenőrizné a válaszadó modell kilétét. A megoldás még jelentős számítási többlettel jár.
Generált kép
Az Anthropic november 2-án kiadta a FlashProve nevű, nyílt forrású kutatási prototípust. A célja, hogy ellenőrizhető legyen: egy választ valóban a megadott AI-modell állított-e elő.
A jó válasz önmagában nem bizonyíték
Egy közvetítő szolgáltatás elvileg másik modellre irányíthatja a kérést, és ez a válasz szövegéből nem feltétlenül derül ki. Az Anthropic szerint a módszer a titkos modellcserék és a válaszfolyamba történő beavatkozások felismerésében is hasznos lehet.
A megközelítés lényege, hogy a szolgáltató a válasz mellé kriptográfiai bizonyítékot készít. Ezt a fogadó fél a modell belső paramétereinek megismerése nélkül ellenőrizheti.
Még kutatási prototípus
A közölt tesztben a bizonyíték előállítása nagyjából 70–95-ször annyi GPU-időt igényelt, mint az összehasonlításhoz használt vLLM rendszer promptfeldolgozása. Ezért az eredményből nem következik, hogy a megoldás már minden hétköznapi AI-kérésnél gazdaságosan alkalmazható.
A kiadás futtatható kódot, technikai leírást és formális bizonyításokat is tartalmaz. A vállalat köztes kutatási eredményként mutatja be, amelyet más fejlesztők tovább vizsgálhatnak és javíthatnak.
Megosztom a Facebookon ↗
