Algorytm TikToka wariuje. Wchodzę na platformę, a tam pornografia

TikTok zaczął wyświetlać użytkownikom treści niekoniecznie zgodne z regulaminem panującym na platformie. Filmy o charakterze pornograficznym hulają po aplikacji dla dzieci i gromadzą po kilkaset tysięcy polubień. Wygląda na to, że system weryfikacji niekoniecznie radzi sobie z jedną z niedawno zaimplementowanych funkcji. O co dokładnie chodzi?

TikTok zezwala na publikację nagich zdjęć

 
TikTok ma dosyć jasno określone Zasady Społeczności – istnieje tam nawet specjalna kategoria „Nagość i czynności seksualne z udziałem osób dorosłych”. Brzmi ona następująco:

Nagość i czynności seksualne to m.in. przedstawienia piersi, narządów płciowych, odbytu lub pośladków, albo zachowania naśladujące, sugerujące lub przedstawiające akty seksualne. Nie zezwalamy na przedstawianie nagości ani czynności seksualnych, w tym w postaci wytworzonej lub zmienionej cyfrowo. Jesteśmy świadomi, że pewne treści mogą być obraźliwe lub niestosowne kulturowo w niektórych regionach albo nieodpowiednie dla użytkowników w pewnym wieku.

Wszystko jest jasne, prawda? Na TikToku nie powinniśmy ujrzeć scen seksu, nagich pośladków, pierni i innych tego typu rzeczy kojarzących się raczej jednoznacznie. Nieco więc zdziwiłem się, gdy po włączeniu aplikacji zobaczyłem nie tylko nagie kobiety, ale również zrzuty ekranu z filmów pornograficznych. Zresztą, zobaczcie sami:

Źródło: wł.

Moderacja platformy przyzwyczaiła raczej użytkowników, że takie treści nie przechodzą często nawet pierwszego etapu weryfikacji i są blokowane jeszcze przed zakończeniem procesu publikacji. Co więc jest przyczyną wysypu tego typu zawartości? Nie wiadomo, lecz strzelam w lukę wykrytą przez internautów w niedawno dodanej funkcji umożliwiającej dodanie kilkudziesięciu zdjęć w formie interaktywnego materiału.

Wygląda na to, że jeśli ktoś zdecyduje się na dodanie 30 zdjęć i pośród nich ukryje jedno zawierające niedozwoloną zawartość, to jest szansa, iż przemknie niezauważony obok algorytmu TikToka. Materiałów wykorzystujących ten błąd zauważyłem dzisiaj co najmniej kilkanaście i każdy z nich został polubiony przez co najmniej kilkaset tysięcy osób.

Domyślam się więc, że TikTok niedługo stanie się świadom obecnej luki i odpowiednio ją naprawi. Platforma po prostu nie jest dobrym miejscem do publikacji tego typu treści – zwłaszcza że widoczne wyżej zdjęcia nie zostały oznaczone jako „dla dorosłych”, więc mogą zostać wyświetlone przez osoby nieletnie.

Źródło: wł.