Przez lata wizja złośliwego oprogramowania zdolnego do samodzielnej nauki pozostawała domeną filmów science fiction. Eksperci ostrzegali jednak, że rozwój sztucznej inteligencji może kiedyś doprowadzić do powstania zagrożeń, które będą znacznie trudniejsze do wykrycia i zatrzymania niż tradycyjne wirusy komputerowe.
Wygląda na to, że ta wizja właśnie stała się realna. Naukowcy stworzyli eksperymentalnego „robaka” komputerowego wykorzystującego sztuczną inteligencję. Potrafi dostosowywać swoje działania do kolejnych urządzeń i uczyć się podczas rozprzestrzeniania się w sieci. Choć projekt powstał w kontrolowanym środowisku laboratoryjnym, jego możliwości budzą poważne obawy w branży cyberbezpieczeństwa.
Nowy gatunek robala
Badacze z Uniwersytetu w Toronto zaprezentowali prototyp złośliwego oprogramowania wykorzystującego ogólnodostępne modele AI. W przeciwieństwie do klasycznych robaków, które wykonują zaprogramowane instrukcje, nowe rozwiązanie analizuje środowisko, do którego trafia, i samodzielnie wybiera najlepszą strategię działania.
Samo pojęcie „robaka komputerowego” nie jest niczym nowym. To rodzaj złośliwego oprogramowania zdolnego do samodzielnego rozprzestrzeniania się pomiędzy urządzeniami bez udziału użytkownika. Dotychczas takie zagrożenia zwykle wykorzystywały jedną konkretną lukę bezpieczeństwa. Po jej załataniu tempo rozprzestrzeniania znacząco spadało. W przypadku rozwiązania wspieranego przez AI sytuacja może wyglądać zupełnie inaczej.
Uczy się podczas ataku
Najbardziej niepokojącą cechą nowego projektu jest zdolność adaptacji. Według autorów badań robak może analizować kolejne cele, wykorzystywać znane podatności oraz zmieniać sposób działania w zależności od napotkanego środowiska. Oznacza to, że każda kolejna infekcja może dostarczać mu nowych informacji przydatnych podczas dalszego rozprzestrzeniania.
Co istotne, do stworzenia prototypu nie wykorzystano zamkniętych modeli największych firm technologicznych. Badacze podkreślają, że bazowali na publicznie dostępnych modelach AI, które teoretycznie może pobrać każdy użytkownik internetu. Zdaniem ekspertów pokazuje to, że do budowy podobnych narzędzi nie są konieczne ogromne budżety ani dostęp do najbardziej zaawansowanych technologii.
Na razie to ostrzeżenie
Naukowcy zaznaczają, że eksperyment został przeprowadzony w całkowicie odizolowanym środowisku cyfrowym. Prototyp nie miał kontaktu z prawdziwymi sieciami ani urządzeniami, a celem projektu było pokazanie potencjalnych zagrożeń związanych z rozwojem autonomicznych systemów AI.
Badanie nie przeszło jeszcze pełnej recenzji naukowej, jednak już teraz jest określane jako ważny sygnał ostrzegawczy dla branży. Zdaniem ekspertów świat nie jest obecnie przygotowany na złośliwe oprogramowanie, które potrafi samodzielnie analizować sytuację, podejmować decyzje i uczyć się w trakcie działania. Jednocześnie ta sama sztuczna inteligencja może pomóc w budowie nowych mechanizmów obronnych, które będą wykrywać zagrożenia szybciej niż tradycyjne systemy.
Źródło: New York Times, Scientific American