Skończy się oszukiwanie w benchmarkach czy przez dostawców oferujących „taniej” flagowe modele. O ile tylko projekt Anthropic wyjdzie poza strefę badawczą.
Usługi oparte na sztucznej inteligencji często pozwalają wybierać między modelami różniącymi się możliwościami i ceną. Problem w tym, że użytkownik nie ma prostego sposobu, by ustalić, czy odpowiedź rzeczywiście wygenerował wskazany system, czy jego tańszy zamiennik. Dotyczy to zarówno pośredników udostępniających cudze modele, jak i samych firm rozwijających AI. Anthropic zaprezentowało więc FlashProve, czyli otwartoźródłowy projekt wykorzystujący kryptografię do potwierdzania pochodzenia odpowiedzi.
Na razie brak planów na wprowadzenie tego do Claude
Podstawą rozwiązania jest technologia zkSNARK, pozwalająca matematycznie potwierdzić poprawność obliczeń bez ujawniania danych wykorzystanych podczas ich wykonywania. Dostawca najpierw publikuje cyfrowy „odcisk palca” konkretnego modelu, powiązany z jego parametrami. Następnie może dołączać do odpowiedzi dowód, że wygenerował ją właśnie ten system. Co ważne, sprawdzenie takiego certyfikatu nie wymaga znajomości wag modelu ani uruchamiania go na własnym sprzęcie.
Zastosowań może być więcej niż tylko kontrolowanie płatnych usług. FlashProve pozwoliłby również potwierdzić, że analiza kodu pod kątem luk bezpieczeństwa rzeczywiście została przeprowadzona przez deklarowany model AI. Podobnie wyglądałaby sytuacja z niezależnymi testami i rankingami, podczas których producenci potrafią wykorzystywać mocniejsze modele niż te udostępniane później klientom.
Na razie największym problemem pozostają wymagania dotyczące mocy obliczeniowej. Anthropic przetestowało FlashProve na Llama 4 Maverick, modelu wyposażonym w około 400 miliardów parametrów. Pojedynczy dowód zajmował około 19 MB, a jego sprawdzenie na procesorze trwało od 17 do 21 sekund. Znacznie gorzej wygląda przygotowanie certyfikatu, które wymagało od 70 do 95 razy więcej czasu pracy GPU niż zwykłe przetwarzanie zapytań. Obecny prototyp obsługuje też kontekst ograniczony do zaledwie 1024 tokenów.
Amerykanie udostępnili już kod źródłowy, dokumentację techniczną i opis zabezpieczeń, ale podkreślają, że FlashProve pozostaje na razie projektem badawczym. Nie ogłoszono planów wdrożenia go do Claude ani innych komercyjnych usług.
Źródło: TechCrunch, Anthropic / Zdj. otwierające: Anthropic