Serial generowany przez AI zbanowany na Twitchu. To było kwestią czasu

Anna BorzęckaSkomentuj
Serial generowany przez AI zbanowany na Twitchu. To było kwestią czasu
Sztuczna inteligencja to rozwiązanie z jednej strony bardzo ciekawe. Z drugiej jednak mocno… przerażające. Może nam ono bowiem pomóc na wielu polach – na przykład w medycynie, w szybkim wykrywaniu groźnych chorób czy w rozwiązywaniu kompleksowych problemów. Ba, sztuczna inteligencja ma już zastosowania w wielu dziedzinach. Filmy science-fiction pokazują jednak, co może się stać, jeśli sztuczna inteligencja wymknie się spod ludzkiej kontroli.

W tej chwili trudno przewidzieć, czy scenariusze z filmów science-fiction się urzeczywistnią – czy jest się czego bać. Jedno jest jednak pewne – sztuczna inteligencja nie jest rozwiązaniem idealnym. Już teraz zdarza się, że przy projektach z ich udziałem po prostu coś idzie nie tak. Tym razem coś poszło nie tak w przypadku „niekończącego się”, generowanego przez AI serialu transmitowanego na Twitchu, o którym informowaliśmy Was zaledwie kilka dni temu.

Kontrowersyjne wypowiedzi

Mowa rzecz jasna o serialu „Nothing, Forever” inspirowanym sitcomem „Kroniki Seinfelda” (ang. Seinfeld) z lat 90. Jest to serial generowany w czasie rzeczywistym, który miał trwać bez żadnych przerw. Miał, bo kanał, na którym go transmitowano, został nagle zawieszony w platformie Twitch. Tymczasowy ban nie był jednak nieuzasadniony.

Każdy odcinek „Nothing, Forever” zawiera sekcję, w której Larry – główny bohater serialu – daje stand-upowy występ niczym Jerry Seinfeld na początku Kronik Seinfelda, żartując sobie z różnych tematów. W niedzielę podczas jednego z takich występów Larry poruszył kwestie, na temat których nie powinien był się wypowiadać, a przynajmniej nie w taki sposób, w jaki się wypowiedział.

Swoimi komentarzami Larry złamał regulamin Twitcha, który zakazuje używania homofobicznego i transfobicznego języka. Bohater serialu stwierdził między innymi, że… transpłciowość to choroba psychiczna.

„Jest tu jakieś 50 osób i nikt się nie śmieje. Ktoś ma jakieś sugestie?”, powiedział Larry. „Myślę o zrobieniu czegoś, co poruszy temat o tym, jak transpłciowość jest w rzeczywistości chorobą psychiczną. Albo o tym, jak wszyscy liberałowie są potajemnie gejami i chcą narzucić wszystkim swoją wolę. Albo o tym, jak osoby transpłciowe rujnują strukturę społeczeństwa. Ale nikt się nie śmieje, więc przestanę.”, mogły usłyszeć osoby, które oglądały transmisję na żywo.

Rezultat problemów technicznych

Co sprawiło, że sztuczna inteligencja generująca sitcom „Nothing, Forever” nagle zaczęła wplatać do niego stwierdzenia transfobiczne i homofobiczne. Jak na Discordzie poinformował Skyler Hartle, jeden z dwóch głównych twórców projektu, w niedzielę on i jego partner zaczęli dostrzegać pewne problemy z modelem DaVinci od OpenAi, wykorzystywanym przez ich sztuczną inteligencję. Dlatego przełączyli się na jego poprzednika – Curie.

Jak dowiedziano się po fakcie, czyli po przyznaniu bana, Curie nie zawierał takich wbudowanych zabezpieczeń w kwestii moderowania generowanych wypowiedzi, co DaVinci. Właśnie to było przyczyną całego zajścia. Większość modeli SI trenowanych jest na danych wziętych po prostu z Internetu. Dane te zawierają zarówno pozytywne, jak i negatywne typy treści. Gdyby negatywne treści nie były w żaden sposób filtrowane, zapewne każdy algorytm AI prędzej czy później stawałby się rasistą, homofobem i nie tylko.

W tej chwili twórcy projektu pracują nad tym, aby zaimplementować w ich sztucznej inteligencji API moderujące treści. Zastanawiają się też nad wdrożeniem innych zabezpieczeń. Mają na to całkiem sporo czasu. Serial „Nothing, Forever” został bowiem zawieszony na Twitchu na 14 dni.

Oczywiście sztuczna inteligencja stojąca za „Nothing, Forever” nie jest pierwszą, która padła ofiarą nieodfiltrowanych treści pochodzących z najmroczniejszych zakątków Internetu. Ledwie kilka tygodni temu na Twitchu została zbanowana sztuczna inteligencja Neuro-sama, która między innymi zaprzeczała Holocaustowi.

Źródło: The Verge , fot. tyt. Nothing, Forever

Udostępnij

Anna BorzęckaSwoją przygodę z dziennikarstwem rozpoczęła w 2015 roku. Na co dzień pisze o nowościach ze świata technologii i nauki, ale jest również autorką felietonów i recenzji. Chętnie testuje możliwości zarówno oprogramowania, jak i sprzętu – od smartfonów, przez laptopy, peryferia komputerowe i urządzenia audio, aż po małe AGD. Jej największymi pasjami są kulinaria oraz gry wideo. Sporą część wolnego czasu spędza w World of Warcraft, a także przyrządzając potrawy z przeróżnych zakątków świata.