Google testuje rewolucyjny, ale wzbudzający ogromne kontrowersje mechanizm weryfikacji użytkowników, który zamiast tradycyjnego przepisywania kodów wymaga pomachania do kamery komputera. Chociaż nowy system reCAPTCHA miał być ostateczną bronią w walce z botami, pierwsi testerzy błyskawicznie obnażyli jego kompromitującą wadę. Okazuje się, że zaawansowaną sztuczną inteligencję odpowiedzialną za cyberbezpieczeństwo można bez trudu oszukać za pomocą darmowych materiałów z internetu. To stawia pod znakiem zapytania sensowność całego projektu.
Kompromitacja zaawansowanego algorytmu. Jak szybko oszukać sztuczną inteligencję?
Innowacyjny system weryfikacji opiera się na analizie biometrycznej. Po uzyskaniu dostępu do kamery internetowej przeglądarki, użytkownik musi wykonać prosty gest np. pomachać lub pokazać otwartą dłoń. Według oficjalnych zapewnień Google, sztuczna inteligencja rejestruje krótki materiał wideo i błyskawicznie mapuje aż 21 punktów współrzędnych na kostkach dłoni, po czym nagranie jest natychmiast bezpowrotnie usuwane z serwerów.
Teoretycznie nie do przejścia dla maszyn, w praktyce system okazał się całkowicie dziurawy. Niezależni testerzy na platformie X udowodnili, że zabezpieczenie nie spełnia swojej funkcji. Wykorzystując darmowe, ogólnodostępne zdjęcie (przedstawiające dłoń w geście powitania) oraz popularne, bezpłatne oprogramowanie OBS Virtual Camera do emulacji obrazu z kamery, udało się bez problemu oszukać algorytmy giganta z Mountain View. System uznał statyczną, nieruchomą fotografię za autentyczny, ludzki ruch. To oczywiście całkowicie dyskwalifikuje ten mechanizm jako skuteczną zaporę przed złośliwym oprogramowaniem.
Nowy system reCAPTCHA. Narastające obawy o prywatność internautów
Skala problemu jest ogromna, gdyż podatność ta drastycznie ułatwia zadanie autorom botów. Skoro algorytm nie potrafi odróżnić płaskiego zdjęcia od trójwymiarowej, poruszającej się ludzkiej ręki, całą procedurę ominięcia zabezpieczenia można zautomatyzować w zaledwie kilka minut za pomocą prostego skryptu napisanego w języku Python. Do złamania blokady nie są nawet potrzebne zaawansowane sieci neuronowe czy generatory wideo oparte na AI.
Na tym wcale nie koniec zarzutów wobec nowego systemu reCAPTCHA. Dla wielu internautów konieczność skanowania własnego ciała i udostępniania danych biometrycznych w celu wejścia na zwykłą stronę internetową jest przekroczeniem granicy komfortu. Nawet jeśli Google deklaruje natychmiastowe kasowanie filmów, głęboki sceptycyzm użytkowników wobec polityki prywatności firmy sprawia, że nowa technologia budzi ogromny opór.
Rozwiązanie znajduje się obecnie we wczesnej fazie testów i Google z pewnością spróbuje zaktualizować swoje algorytmy, by odrzucały statyczne obrazy. Jednak wizerunkowe szkody i niechęć do „machania do ekranu” mogą okazać się już nie do naprawienia.
Źródło: Neowin, Hacker News / Zdjęcie otwierające: Unsplash (@andriklangfield)