Czy wyszukiwarka może być rasistowska?
Okazuje się, że może, o ile zwracane wyniki wyszukiwania nie są po myśli internautów. Boleśnie przekonał się o tym Instagram, pod adresem którego skierowano słowa krytyki w związku z niewinnym słowem „pies” (ang. dog). Użytkownikom wyszukujący w ramach Instagram Stories emoji o nazwie pies, prezentowane były wyniki psiej mordki, psich łapek, dwóch gatunków psów, hot doga, policjanta (!) oraz… pudełka z chińskim jedzeniem.
Pracownik Instagrama zauważył ten problem w weekend i poruszył go na wewnętrznym forum dyskusyjnym na Facebooku (właścicielem i operatorem Instagrama jest Facebook). Użytkownicy popularnej aplikacji do udostępniania zdjęć narzekali na problem od 2019 roku, jednak został on zbagatelizowany i z czasem przycichł. Teraz powrócił ze zdwojoną siłą.
„Na jakiej podstawie emoji są polecane użytkownikom i czy możemy usunąć ten konkretny emoji, aby nie utrwalał on azjatyckich stereotypów rasowych?” – napisał pracownik, który pracuje jako menedżer programu integralności produktów na Instagramie. „Przetestowałem to z trzema członkami mojej rodziny i wszystkim prezentowane są takie same wyniki” – dodał.
Instagram w końcu rozwiązał problem
Faktycznie, wyniki takie były wyświetlane na urządzeniach z systemem iOS, co potwierdzili redaktorzy BuzzFeed News. W przypadku Androida sytuacja wygląda inaczej – nie jest wyświetlany ani box z jedzeniem, ani też policjant. Co ważne, odpowiedniki Stories na Twitterze, Snapchacie i Facebooku nie zawierają rasistowskich wyników w odniesieniu do hasła „dog”. „Pies” nie jest słowem kluczowym pomagającym wyszukać „pudełko na wynos” (ang. take out box) w Unicode. Oznacza to, że problem występował na poziomie platformy. Nie bez powodu.
Wyniki wyszukiwania emoji z frazą „dog” na Instagramie dla Androida nie zwraca kontrowersyjnych wyników. | Źródło: mat. własny
Przedstawiciel Facebooka powiedział w rozmowie z BuzzFeed News, że firma bada problem. Obecnie został on wyeliminowany. Przypominam: po dwóch latach od pierwszych zgłoszeń, co dowodzi tego, jak na przestrzeni czasu zmienia się podejście do pewnych kwestii. „Usunęliśmy emoji z wyników wyszukiwania i badamy, co do tego doprowadziło, abyśmy mogli podjąć kroki, aby to się nie powtórzyło” – powiedział rzecznik Facebooka.
Źródło: buzzfeed, mat. własny

