Nowy raport pokazuje, że w popularnych sklepach z aplikacjami można znaleźć programy służące do „rozbierania” osób na zdjęciach. Co gorsza, część z nich jest dostępna nawet dla dzieci. Problem dotyczy zarówno Google Play, jak i App Store.
Mimo regulaminów zakazujących treści seksualnych, aplikacje wykorzystujące generatywną sztuczną inteligencję do tych celów nadal trafiają do użytkowników. Niektóre z nich oznaczono kategorią „dla wszystkich”, co budzi szczególne kontrowersje. Sytuacja rodzi poważne pytania o skuteczność moderacji.
Kontrowersyjne aplikacje w sklepach
Raport Tech Transparency Project wskazuje, że problem jest poważny i powszechny. Aplikacje typu „nudify” wykorzystują sztuczną inteligencję do edycji zdjęć i generowania fałszywych, pornograficznych obrazów. Dają możliwość cyfrowego „rozbierania” dowolnej osoby.
Skala zjawiska jest ogromna. Narzędzia tego typu zostały pobrane niemal 500 milionów razy i wygenerowały około 122 milionów dolarów przychodu. To pokazuje, że problem nie tylko istnieje, ale także szybko rośnie.
Najbardziej niepokojący jest jednak fakt, że część aplikacji została oznaczona jako odpowiednia dla wszystkich użytkowników. Oznacza to, że dzieci mogą je pobierać bez żadnych ograniczeń. Według raportu aż 31 takich aplikacji nie przeszło odpowiedniej weryfikacji.
Google i Apple reagują. Dopiero po raporcie
Po publikacji raportu firmy zaczęły usuwać część aplikacji. Google poinformowało, że wiele z nich zostało zawieszonych, a proces weryfikacji nadal trwa. Apple również usunęło wybrane narzędzia, choć nie podało szczegółowych informacji. Rzecz w tym, że aplikacje – niczym głowy hydry – wciąż pojawiają się ponownie. Wyszukiwanie haseł takich jak „nudify” czy „undress” nadal prowadzi do podobnych programów. Co więcej, sklepy potrafią nawet reklamować te narzędzia i sugerować je w autouzupełnianiu w oknie wyszukiwania.
Poważny problem sklepów z aplikacjami
Sytuacja pokazuje wyraźnie, że moderacja w Google Play i App Store nie działa tak, jak powinna. Narzędzia pozwalające generować fałszywe nagie zdjęcia mogą prowadzić do nękania, manipulacji i poważnych naruszeń prywatności. To szczególnie niebezpieczne w przypadku dzieci i młodzieży.
Obecna sytuacja pokazuje, że rozwój sztucznej inteligencji wyprzedza mechanizmy bezpieczeństwa. Niektóre kraje zaczynają już reagować. W Wielkiej Brytanii rozpoczęto prace nad zakazem aplikacji typu „nudify”. Jeśli sklepy nie zaostrzą kontroli, podobne regulacje mogą pojawić się także w innych regionach. Na razie jednak, najmłodsi użytkownicy wciąż są narażeni.
Źródło: AndroidAuthority