Sztuczna inteligencja coraz częściej zachwyca możliwościami generowania grafik i edycji zdjęć. Okazuje się jednak, że czasem wystarczy bardzo nietypowe polecenie, by popularne modele zaczęły tworzyć obrazy, które spędzają sen z powiek.
W sieci zrobiło się głośno o dziwnym zachowaniu ChatGPT i Gemini, które zamiast przyznać, że nie mają czego przetwarzać, zaczęły wymyślać… cóż, zobaczcie sami.
Dziwny eksperyment użytkowników
Cała sytuacja zaczęła się od wpisu opublikowanego w serwisie X przez Kris Kashtanovą. Użytkownicy odkryli, że wydanie polecenia przywrócenia lub odrestaurowania obrazu bez dołączania jakiegokolwiek zdjęcia może prowadzić do nieoczekiwanych rezultatów.
W części przypadków ChatGPT odmawiał wykonania zadania, informując o braku załącznika. Inni użytkownicy znaleźli jednak sposób na obejście tego ograniczenia. Wystarczyło przesłać całkowicie biały obraz i poprosić model o jego „odtworzenie”. Zamiast zwrócić pusty plik lub komunikat o błędzie, narzędzie zaczynało generować własne obrazy.
Halucynacje zamiast odmowy
Według relacji osób testujących funkcję rezultaty były dalekie od oczekiwanych. Generowane grafiki często przedstawiały przypadkowe sceny, dziwne postacie lub trudne do zinterpretowania obiekty. W wielu przypadkach użytkownicy określali je jako niepokojące, surrealistyczne, a nawet przypominające koszmary senne.
Po dopytaniu o przyczynę takiego zachowania ChatGPT przyznał, że nie miał żadnych danych umożliwiających rzeczywistą rekonstrukcję obrazu. Model stwierdził, że wygenerowany rezultat był halucynacją, czyli treścią stworzoną na podstawie przypuszczeń zamiast faktycznych informacji.
To interesujący przykład jednego z najczęściej omawianych problemów współczesnych modeli językowych. Mimo rosnących możliwości nadal zdarza im się tworzyć odpowiedzi wyglądające wiarygodnie, choć nie mające oparcia w dostarczonych danych.
Gemini zachował się podobnie
Eksperyment przeprowadzono również z Gemini. W przypadku przesłania pustego, białego obrazu model zachowywał się bardziej przewidywalnie i zwracał niemal identyczny plik. Problemy pojawiały się jednak wtedy, gdy użytkownik wydawał polecenie bez załączania jakiegokolwiek zdjęcia.
Wówczas narzędzie również zaczynało tworzyć obrazy od zera. Część wygenerowanych grafik była jedynie dziwna, ale niektóre okazały się na tyle kontrowersyjne, że autorzy testów nie zdecydowali się ich publicznie pokazywać. Sam model po dodatkowych pytaniach miał przyznać, że wygenerowane treści mogły budzić niepokój.
Mamy duży problem
Choć cała sytuacja jest – oprócz bycia niepokojącą – komiczna, pokazuje ograniczenia współczesnej sztucznej inteligencji. Modele reklamowane jako narzędzia rozumiejące kontekst i intencje użytkownika wciąż nie potrafią stwierdzić, że nie dysponują wystarczającymi danymi do wykonania zadania.
Źródło: X, Android Authority