To nie miało być tak
Galactica, bo tak brzmi nazwa omawianego bota, został przeszkolony na 106 miliardach „tokenów” w postaci tekstów i danych naukowych dostępnych bezpłatnie. Mowa o artykułach, podręcznikach, naukowych stronach internetowych, encyklopediach, materiałach referencyjnych, bazach wiedzy i nie tylko. To niestety nie wystarczyło, by sztuczna inteligencja generowała pożądane rezultaty.
Podobno już w ciągu kilku godzin od udostępnienia bota użytkownicy zaczęli donosić o tym, że Galactica dostarczał im rasistowskie i niedokładne artykuły. Niektóre z nich mówiły na przykład o tym, ze osoby o czarnym kolorze skóry „nie mają własnego języka”, a inne, że imigranci „nie mówią językiem innym niż językiem kraju, do którego imigrują”.
Bot wynajdywał też takie kwiatki jak fałszywe badanie dotyczące korzyści wynikających z jedzenia tłuczonego szkła czy nieprawdziwy artykuł o naukowcach z Uniwersytetu Stanforda, którzy rzekomo stworzyli oprogramowanie „gaydar” do wyszukiwania osób homoseksualnych na Facebooku. Nieźle, nieprawdaż?
That’s my primary concern. (see images) I got it to spit out numerous different formats for „the benefits of eating crushed glass.” It hallucinated all kinds of positive statements, including study details, livestock trials, and chemical explanations: pic.twitter.com/jBiJUEBCdJ
— Tristan Greene (@mrgreene1977) November 17, 2022
Jak wywiadzie z serwisem CNET powiedział Carl Bergstrom, profesor biologii na Uniwersytecie Waszyngtońskim, problem bota stworzonego przez Meta polega na tym, że promuje się go jako sposób na zdobywanie faktów i informacji. Zamiast tego działa on niczym „wyrafinowana wersja gry, której tworzysz pół zdania, a następnie pozwalasz autouzupełnianiu na dokończenie historii”.
Bot o bardzo krótkim stażu
Meta opracowała Galacticę jako sposób na „zorganizowanie nauki” i skondensowanie przytłaczającej ilości informacji naukowych dostępnych w Internecie. Pomysł polegał na tym, aby sztuczna inteligencja wykonywała takie czynności jak rozwiązywanie problemów matematycznych, pisanie naukowego kodu i tworzenie podsumowań badań.
Ostatecznie Meta wyłączyła swojego bota po zaledwie dwóch dniach działania. Członkowie zespołu odpowiedzialnego za Galacticę najwyraźniej nie byli zadowoleni z tego, że zostali do tego zmuszeni przez użytkowników. Główny badacz z Meta AI, Yann LeCun, opublikował na Twitterze posta świadczącego o tym, że ten nie koniecznie rozumie to, jak niebezpieczny Galactica jest w swojej obecnej postaci.
„Demo Galactica na razie jest offline. Już nie można się dobrze bawić, przypadkowo nadużywając go. Szczęśliwi?”, czytamy.
Galactica demo is off line for now.
It’s no longer possible to have some fun by casually misusing it.
Happy? https://t.co/K56r2LpvFD— Yann LeCun (@ylecun) November 17, 2022
Jasne, Meta zaznacza na stronie internetowej bota Galactica, że ma on swoje ograniczenia. W tym samym miejscu zachęca użytkowników do weryfikowania wszelkich generowanych przez niego informacji. Chyba nikt nie spodziewał się jednak, ze Galactica będzie dostarczać treści tak absurdalne, jak powyższe przykłady. Cóż, może znacznie lepiej byłoby wytrenować sztuczną inteligencję na recenzowanych pracach naukowych, a nie na treściach udostępnionych na zasadach „open access”. W końcu, w sieci nie brakuje pozornie naukowych artykułów napisanych przez trolli oraz osoby zaprzeczające na przykład zmianom klimatycznym.
Jaka jest przyszłość bota Galactica? Tego na razie nie wiadomo. Poczekamy, zobaczymy.
Źródło: The Daily Beast, fot. tyt. Pexels/Tara Winstead