Technologia DeepFake, wykorzystująca sztuczną inteligencję (czy raczej uczenie maszynowe i algorytmy) do tworzenia spreparowanych wypowiedzi danej osoby na podstawie próbki głosu, bije w ostatnim czasie rekordy popularności w Polsce. Jednym z jej ciekawszych zastosowań jest kreowanie na polskim YouTube piosenek na podstawie znanych memów lub przerabiania utworów specyficznych dla konkretnego gatunku muzycznego na zupełnie inny. Pewien nauczyciel ze Stanów Zjednoczonych postanowił sięgnąć po nią celem dokonania prywatnej zemsty, za co zostanie niebawem ukarany.
Nauczyciel podrobił głos dyrektora szkoły dzięki DeepFake
Policja aresztowała byłego dyrektora sportowego szkoły średniej w Pikesville, Dazhona Dariena, gdy ten próbował wejść na pokład samolotu lecącego do Houston w Teksasie. Urzędnicy Administracji Bezpieczeństwa Transportu zatrzymali go w związku z posiadaniem broni palnej, ale kiedy na miejsce przybyła policja, aresztowano go w związku z innym ciążącym na nim nakazem aresztowania.
W styczniu tego roku Darien opublikował usunięty już klip audio na kilku portalach społecznościowych. Głos w nagraniu brzmiał jak głos dyrektora szkoły Pikesville High, Erica Eiswerta. Rozmowa była dialogiem z anonimową osobą, wypełnioną po brzegi treściami antysemickimi i rasistowskimi innej treści. Problem w tym, że do jej stworzenia wykorzystano technologię Deepfake. Zanim to stwierdzono, Eiswert został zawieszony jako dyrektor szkoły.
Eiswert przekazał policji, że nagranie jest sfabrykowane przy użyciu sztucznej inteligecji. Miał to być odwet za nieprzedłużenie jego umowy z powodu słabych wyników w pracy, rzekomego niewłaściwego gospodarowania funduszami szkolnymi oraz zwolnienie wieloletniego trenera bez zgody w 2023 roku. Jego zdaniem Darien posiadał wiedzę techniczną na temat korzystania z narzędzi sztucznej inteligencji.
Po nitce do kłębka
Detektywi znaleźli dowody na to, że Darien kilkakrotnie uzyskiwał dostęp do szkolnej sieci internetowej w grudniu i styczniu w poszukiwaniu „narzędzi OpenAI”. Szybko śledczy powiązali go z kilkoma płatnymi kontami OpenAI.
Po przeanalizowaniu kontrowersyjnego nagrania śledczy stwierdzili, że do jego stworzenia wykorzystano sztuczną inteligencję.
Sprawa jest w toku.
Podrobienie głosu dyrektora szkoły to tylko jeden z wielu przykładów wykorzystania sztucznej inteligencji do łamania prawa. W niedalekiej przyszłości podobne sytuacje z pewnością będą się mnożyć.
Źródło: NBC News