AI może generować niepokojąco wiarygodne fake news

Sztuczna inteligencja rozwija się coraz szybciej, a jej możliwości rosną. Może ona znacząco poprawić jakość naszego życia poprzez ułatwienie go czy zwiększenie poziomu bezpieczeństwa. Jak się okazuje, posiada jednak też mroczniejsze strony. I nie mówimy tu o buncie maszyn rodem z filmu sci-fi, ale o bardziej przyziemnym problemie, który występuje już dziś na szeroką skalę – fake newsach.

Zespół Open AI – organizacji non-profit założonej przez Elona Muska i  Sama Altmana – opracował algorytm, który potrafi generować prawdziwie wyglądające fałszywe wiadomości na dowolny temat, używając jedynie garści kluczowych słów wprowadzonych na początku. Oryginalnie AI miała na celu odpowiadać na pytania, opisywać historie czy tłumaczyć teksty, ale badacze szybko odkryli, że można ją wykorzystać w nieco bardziej złych celach.

Mając świadomość, że algorytm ten można wykorzystać do szybkiego pompowania fake newsów w sieć, twórcy postanowili udostępnić publicznie jedynie jej uproszczoną wersję. Naukowcy ostrzegają jednak, że stworzenie systemu generującego fałszywe wiadomości, które naprawdę ciężko rozpoznać (wymagane byłoby dokładne sprawdzanie wszystkich faktów) może zająć góra 1-2 lata.

Na szczęście zespół Open AI nie ma zamiaru postępować nieetycznie, jednak musimy mieć świadomość, że w każdej chwili pojawić się może organizacja, która nie będzie mieć skrupułów i na życzenie państw takich jak Rosja czy Korea Północna stworzy potężne algorytmy AI rozpowszechniające kłamliwe doniesienia na szeroką skalę. I o ile w tej chwili Facebook czy Google w miarę przyzwoicie radzą sobie z fake newsami, o tyle w przypadku napływu generowanych komputerowo tekstów może to już okazać się trudne.

Źródło: MIT Technology Review