Co minutę do serwisu YouTube trafiają setki godzin filmów, podobna liczba komentarzy wrzucana jest na Facebooka w ułamku sekundy. W szybkim tempie zapełniane są kolejne serwery Twittera, Instagrama, Snapchata i innych molochów Internetu. Dla większości z nas nie jest to żadne novum, doskonale zdajemy sobie sprawę ze skali zjawiska i jego dynamicznego rozwoju.
Czy wszystkie te treści są godne uwagi? Nie. Można wręcz zaryzykować stwierdzenie, że zdecydowana większość to… śmieci. Najgorsze jest jednak to, że obok śmieci nieszkodliwych znajdują się materiały, których gros internautów nie chce oglądać, bo zawierają treści nie tylko nieprzyjemne, ale wręcz zakazane. Aby jednak te filmy, teksty czy zdjęcia wyparowały ze wspólnej przestrzeni, potrzebna jest praca rzeszy ludzi.
Prosta praca moderatora
Co sobie wyobrażacie słysząc o pracy moderatora treści w Sieci? Zapewne usuwanie obraźliwych komentarzy, banowanie niektórych użytkowników, utrzymywanie dyskusji na przyzwoitym poziomie. To w wariancie „soft”. Na szczęście dla nas, są też moderatorzy usuwający z Internetu rzeczy naprawdę paskudne.
She had to take down *thousands* of graphic posts per day to meet her quota. Contractors in Austin work in same buildings as FB employees (which is actually much better than other tech cos) and get free meals but don’t get healthcare benefits like full-timers do.
— Alex Heath (@alexeheath) 12 marca 2018
Tę pracę trudno nazwać lekką i przyjemną: człowiek siedzi przez kilka godzin przed komputerem i jego oczom ukazują się rzeczy, które kojarzymy głównie z najmroczniejszymi zakamarkami Internetu. Pedofilia, zoofilia, prawdziwe morderstwa i gwałty. Głośnym przykładem był film, który przez całą dobę „wisiał” w serwisie Facebook – ojciec mordował na nim córkę. Powtórzę: wyobraźcie sobie, że takie treści oglądacie każdego dnia, przez kilka godzin. Po weryfikacji usuwacie jeden materiał, ale w kolejce czeka już następny, a za nim jeszcze tysiąc innych.
Praca może i nie jest skomplikowana, lecz u przeciętnego człowieka może wywołać szok już pierwszego dnia.
Koszmary pracowników Microsoftu
Na początku ubiegłego roku media donosiły, że dwóch byłych pracowników Microsoftu postanowiło pozwać tę firmę. Obaj pracowali w dziale Online Safety Team i weryfikowali treści zgłoszone przez algorytmy i ludzi. To oni mogli oglądać, jak właściciel przywiązuje psa do zderzaka samochodu i rusza z dużą prędkością, jak ktoś postanawia sprawdzić, co stanie się z kotem w mikrofalówce albo usuwać ostrą pornografię z udziałem kilkuletnich dzieci. Tak, treści tego typu masowo trafiają do Internetu.
Mężczyźni przekonują, że przez pracę nabawili się zespołu stresu pourazowego (jeden z nich zajmował się tym przez osiem lat, miał do czynienia m.in. z filmem, na którym kobieta została zgwałcona, a następnie zamordowana). Mówili wprost o koszmarach, zepsutych relacjach z rodziną, a nawet o halucynacjach. Przez dłuższy czas wykonywali pracę, która miała destrukcyjny wpływ na ich umysł. Trzeba mieć na uwadze, że ludzie wykonujący te zadania zdają sobie sprawę z faktu, iż nie oglądają fikcji – drastyczne materiały są prawdziwe, te zdarzenia miały gdzieś miejsce, ktoś naprawdę ucierpiał.
Teraz byli pracownicy domagają się zadośćuczynienia, bo twierdzą, że firma odpowiednio o nich nie zadbała. Microsoft odpiera te zarzuty, przekonuje, że starał się nie dopuścić do negatywnych skutków śledzenia treści, ale sprawa zatacza coraz szersze kręgi – staje się jasne, że to nie tylko przypadek jednej korporacji i jej dwóch byłych pracowników.
Przyjdzie algorytm i wszystko naprawi
Remedium na przywołane zjawisko miały być algorytmy. Kolejni spece z Doliny Krzemowej ogłaszali, że sztuczna inteligencja wkrótce wybawi nas od problemu fake news, hejtu, materiałów propagujących terroryzm czy prezentujących obrzydliwe treści. My tego nie zobaczymy, moderatorzy zajmą się czymś przyjemnym, „komputer” posprząta. Tyle teoria.
W praktyce okazało się, że od sensownie działającej sztucznej inteligencji dzieli nas naprawdę wiele (pojawiają się wręcz opinie, że machine learning w obecnej formie nie prowadzi do rozwiązania problemu i trzeba do zagadnienia podejść inaczej). Niespełna rok temu Mark Zuckerberg ogłosił, że Facebook zatrudni 3 tysiące nowych pracowników do moderacji, by proces ten odbywał się szybko i sprawnie. Pod koniec ubiegłego roku z podobną deklaracją wyszła Susan Wojcicki, szefowa YouTube’a. Gdzie algorytm nie dał rady, tam trzeba posłać człowieka.
Zatrudnieni, ale… gdzie?
Rosnące zapotrzebowanie na moderatorów i konieczność zatrudniania tysięcy dodatkowych pracowników to dla internetowych gigantów spory problem. Im większe koszty funkcjonowania, tym gorzej wyglądają raporty kwartalne. A inwestorów nie interesują tłumaczenia, lecz wyniki. Jak pogodzić te kwestie? Można skorzystać z outsourcingu. Tą drogą poszła część Doliny Krzemowej: nie zatrudniają moderatorów bezpośrednio w swoich szeregach, lecz korzystają z usług firm zewnętrznych. Dzięki temu stawki mogą być niższe, odpadają rozbudowane pakiety socjalne przysługujące ludziom zatrudnionym u giganta, a i PR jest lepszy – gdy pracownik stwierdzi, że ma dość, spróbuje nagłośnić problem, internetowy moloch może umyć ręce: my tego człowieka nie mamy na listach płac.
W pewnym momencie i to rozwiązanie stało się nieskuteczne, bo amerykańscy moderatorzy szybko rezygnowali z pracy, a w branży stało się jasne, jak trudna jest ta praca. I jak kiepsko wypada, gdy spojrzy się na zarobki. Rozwiązanie? Pracownicy w innych krajach. Polacy doskonale wiedzą, czym jest outsourcing dla zagranicznych korporacji, zdają sobie z tego sprawę także rzesze ludzi w Azji: Indiach, Bangladeszu, na Filipinach. Jest jeszcze taniej i pewniej, bo siły roboczej nie brakuje.
Skrócimy czas pracy – zdrowie psychiczne jest ważne
Zagłębiając się w zagadnienie moderacji brutalnych, ksenofobicznych czy wręcz niebezpiecznych treści, można odnieść wrażenie, że to temat tabu. Przynajmniej dla firm. Nie wiadomo do końca, ile osób się tym zajmuje, w jaki sposób są zatrudniani, jaki parasol ochronny roztaczają nad nimi korporacje. Weźmy na przykład niedawną wypowiedź szefowej YouTube, która zapewniła, że moderatorzy treści będą wykonywać swoje zadania przez maksymalnie cztery godziny dziennie. Ile do tej pory wynosiła górna granica? Nie wiadomo. Czy obcięcie czasu pracy zostanie zrekompensowane lepszymi stawkami za te cztery godziny? Nie wiadomo. Susan Wojcicki mówiła też o zapewnieniu moderatorom „wellness benefits”. Na czym miałyby polegać owe korzyści? Nie wiadomo…
Dobrze, że korporacje zaczynają działać, przyznają, że jest problem. Oby tylko nie była to zasłona dymna, za którą będzie postępował proces przenoszenia tych stanowisk pracy do państw, w których ciężar pracy nie interesuje zbytnio mieszkańców Zachodu.
Dlaczego firmom tak zależy?
Powodów, dla których firmy chcą rozwiązać ów problem jest przynajmniej kilka. Po pierwsze, prawo zobowiązuje je do śledzenia treści zamieszczanych na platformach i zgłaszania tych podpadających pod konkretne paragrafy. Pamiętajmy, że w mediach społecznościowych aktywnie działają m.in. terroryści (i to wpisy tego typu są moderowane w pierwszej kolejności). Jeśli pojawiają się sprawy związane z zabójstwem, gwałtem czy pedofilią, organy ścigania chcą o tym wiedzieć.
Druga kwestia to dobre samopoczucie użytkowników. Gdyby trafiały do nas drastyczne zdjęcia czy filmy po kilku dniach moglibyśmy nie chcieć wejść na stronę Facebooka czy YouTube’a. Nakręcający się hejt też może skutecznie zniechęcić internautów – przykładem mowa nienawiści wymierzona w kobiety-graczy. Rezygnują z tej formy rozrywki, a to oznacza straty dla firm. I tu dochodzimy do najważniejszej kwestii: pieniędzy.
Facebook czy Google żyją z reklamy. Zdominowały jej internetowy rynek, w ich wynikach finansowych ten czynnik odgrywa rolę dominującą. By jednak czerpać z niego korzyści potrzebni są… reklamodawcy. A teraz wyobraźmy sobie, że na YT reklamy firmy X emitowane są przed materiałem głoszącym otwarcie antysemityzm. Pod innym filmem nie brakuje komentarzy pedofilskich. Wydumane zagrożenia? Nie, to miało miejsce.
Oczywistym jest, że marki nie chcą być kojarzone z takimi materiałami, więc stawiają Google pod ścianą: albo coś z tym zrobicie, albo odejdziemy. Niektórzy nie czekali i szybko ogłosili, że rezygnują ze współpracy. Przykłady? Starbucks, Lidl, Adidas, Walmart, General Motors, PepsiCo. Ale lista jest dłuższa. Przez lata korporacja udawała, że problemu nie ma albo umniejszała jego skalę i skutki. Gdy jednak poczuła odpływ pieniędzy, stało się jasne, że trzeba działać.
W przeciwnym razie firmy mogą pójść do konkurencji: jeżeli Facebook, który od kilku lat przekonuje, że będzie się rozwijał w segmencie wideo, zapewni lepszą segregację treści, lepszą moderację, to do niego popłyną budżety reklamowe. A zęby na te pieniądze ostrzą sobie także inne firmy działające w social mediach, na rynku wideo. Gra toczy się o miliardy dolarów. Nie mogą zatem dziwić deklaracje Marka Zuckerberga czy Susan Wojcicki.
Między młotem a kowadłem
Mogłoby się wydawać, że rozwiązanie problemu jest proste: zatrudniać dodatkowych ludzi, zadbać o ich kondycję psychiczną, dobrze opłacić rzesze moderatorów, pracować ciągle nad ulepszeniem algorytmów i… ciąć niebezpieczne czy niemile widziane treści na wielką skalę. Tu jednak pojawia się inny kłopot: oskarżenia o cenzurę. Bo jeśli przyjmiemy, że zaangażowanie firm sprawi, iż szybko będą one usuwać treści uznane za rasistowskie, antysemickie, seksistowskie czy homofobiczne, to może się pojawić grupa niezadowolonych użytkowników, którzy będą przekonywać, że ich wolność słowa jest ograniczana. Bo nie nawołują do pogromów, prezentują po prostu fakty i je komentują. O tym, że sprawa może być poważna, przekonaliśmy się chociażby w Polsce, gdy temat omawiany był na szczeblu ministerialnym.
Wydaje się, że korporacjom z Doliny Krzemowej trudno będzie pogodzić wszystkie te kwestie i usatysfakcjonować każdą ze stron. Jeśli jednak ktoś myśli o zarabianiu w Internecie miliardów dolarów, musi być gotowy na takie sytuacje…