Sztuczna inteligencja miała naszym być obiektywnym, cyfrowym powiernikiem – narzędziem, któremu bez cienia żalu powierzamy analizę umów, pisanie osobistych maili, a nierzadko dylematy życiowe. Śledztwo portalu 404 Media brutalnie zweryfikowało ten obraz. Za kurtyną zaawansowanych algorytmów OpenAI działa bowiem tajny program o nazwie Projekt Lilly, w ramach którego żywi ludzie analizują transkrypcje rozmów użytkowników z ChatGPT.
Tajemniczy Projekt Lilly. Za samodoskonaleniem ChatGPT stoją setki ludzi
Większość użytkowników żyje w przekonaniu, że modele językowe uczą się w sposób całkowicie automatyczny. W rzeczywistości proces ten wymaga stałego nadzoru człowieka. W ramach Projektu Lilly firma OpenAI zatrudnia setki kontrahentów zarabiających ponad 50 dolarów za godzinę. Ich zadanie polega na ocenianiu jakości odpowiedzi bota. Sprawdzają oni, czy ChatGPT nie brzmi zbyt protekcjonalnie, czy nie używa nadmiernej liczby emotikonów oraz czy nie udaje, że posiada własne, „ludzkie” doświadczenia.
Systemy anonimizacji OpenAI okazują się jednak dziurawe. Chociaż z czatów usuwane są bezpośrednie identyfikatory, to jednak wiadomości oraz dołączane do nich podsumowania pamięci użytkownika (zawierające kontekst, zainteresowania czy lokalizację) często pozwalają bez trudu zidentyfikować osobę stojącą za pytaniem.
Suwak prywatności to za mało. Dlaczego wycofanie zgody na trenowanie AI nie chroni starych czatów?
Większość platform, od ChatGPT, przez Google Gemini, aż po Anthropic, domyślnie włącza opcję wykorzystywania konwersacji do trenowania modeli. Nawet jeśli wyłączysz tę funkcję w ustawieniach konta, zmiana nie działa wstecz. Dane, które już trafiły do baz treningowych i przeszły proces anonimizacji, pozostają w systemie na zawsze. Świadczy to o pewnym zjawisku. Branża sztucznej inteligencji buduje potęgę na bezpłatnej, nieświadomej współpracy milionów ludzi, uspokajając ich informacją o czysto matematycznym przetwarzaniu danych.
Zjawisko tzw. „terapii przy pomocy bota” stało się masowe. Użytkownicy traktują często sztuczną inteligencję jak przyjaciela, wyznając mu rzeczy, których nie powiedzieliby najbliższym. Projekt Lilly pokazuje jednak, że w sieci nie ma miejsca na absolutną dyskrecję.
Złota zasada bezpiecznego korzystania z AI pozostaje niezmienna. Nigdy nie wpisuj do okna czatu informacji, których nie wysłałbyś na otwartym forum internetowym. Niezależnie od tego, jak bardzo empatyczny wydaje się ChatGPT, po drugiej stronie ekranu wciąż może siedzieć człowiek czytający Twoje wiadomości.
Źródło tekstu: Daily CyberSecurity, Tom’s Hardware / Zdjęcie otwierające: Unsplash (@unsplash)