Jeden nieprzemyślany wygenerowany obrazek, wysłany w prywatnej wiadomości do znajomego z pracy, doprowadził do sparaliżowania popularnego rekreacyjnego akwenu. Obywatel Mjanmy odpowiada przed sądem w Singapurze za wywołanie fałszywego alarmu z powodu zabawy sztuczną inteligencją.
Krokodyl wygenerowany w AI postawił całe miasto na nogi
Trzydziestoletni Ye Lin, pracujący w Singapurze obywatel Mjanmy, stworzył przy użyciu generatora obrazów niezwykle realistyczną grafikę przedstawiającą krokodyla różańcowego. Lokacja na zdjęciu do złudzenia przypominała Pandan Reservoir. Popularny zbiornik wodny, z którego na co dzień korzystają tysiące mieszkańców, w tym biegacze, wioślarze oraz fani kajakarstwa.
Ye Lin nie wrzucił pliku na fora publiczne ani do mediów społecznościowych, a jedynie przesłał go swojemu współpracownikowi. Mimo braku publicznego postu, fotografia w niejasnych do końca okolicznościach trafiła do przedstawicieli Krajowej Agencji ds. Wody.
Zważywszy na fakt, że krokodyle różańcowe należą do jednych z największych i najbardziej niebezpiecznych drapieżników na świecie, służby nie mogły zignorować materiału. Wokół zbiornika natychmiast rozpoczęła się zakrojona na szeroką skalę operacja poszukiwawczo-odławiająca z udziałem funkcjonariuszy oraz pracowników Parków Narodowych. Wszystkie rekreacyjne aktywności wodne zostały natychmiast zawieszone, co uderzyło m.in. w treningi Singapurskiego Związku Wioślarskiego oraz Singapurskiej Federacji Kajakowej.
Próbował zacierać ślady, ale to nie pomogło
Niezapowiedziana obława trwały niemal dwie doby. 21 sierpnia specjaliści z agencji potwierdzili bezsprzecznie, że analiza cyfrowa wskazuje na mistyfikację wytworzoną przez sztuczną inteligencję. Sprawę natychmiast przekazano policji. Ye Lin, widząc skalę zamieszania i zdając sobie sprawę z konsekwencji swojego czynu, próbował zatrzeć ślady. Usunął wygenerowane zdjęcie oraz samą aplikację ze swojego smartfona. Działania te nie uchroniły go jednak przed identyfikacją i zatrzymaniem.
Postawiono mu dwa bardzo poważne zarzuty: przekazanie fałszywego komunikatu oraz utrudnianie działania wymiaru sprawiedliwości poprzez niszczenie dowodów. Samo wywołanie fałszywego alarmu jest w Singapurze zagrożone karą do 3 lat pozbawienia wolności oraz grzywną w wysokości do 10 000 dolarów singapurskich (ok. 30 000 PLN). Za próbę ukrycia dowodów grozi mu natomiast aż do 7 lat więzienia. Łącznie oskarżonemu grozi maksymalnie 10 lat odsiadki.
Oskarżony przekazał już sądowi za pośrednictwem tłumacza, że zamierza w pełni przyznać się do winy. Właściwa rozprawa i ogłoszenie wyroku zaplanowane są na listopad.
Niewidzialne znaki wodne i surowa nauczka dla użytkowników AI
Sprawa ma również istotny wymiar technologiczny i prawny. Z doniesień mediów wynika, że obróbki lub generowania dokonano w aplikacji Gemini. Narzędzia te standardowo wyposażane są w niewidoczne dla ludzkiego oka cyfrowe znaki wodne (takie jak SynthID), stworzone po to, by algorytmy potrafiły błyskawicznie odróżnić rzeczywiste zdjęcie od wygenerowanej grafiki.
Wciąż nie wiemy, czy w tym przypadku oskarżony zmodyfikował znak wodny, czy też służby w pierwszej fazie po prostu nie zweryfikowały pliku pod kątem metadanych i znaczników AI.
Źródło: BBC, TechRadar / Zdj. otwierające: Pexels (@meghav), Canva