Programista zlecił sztucznej inteligencji stworzenie kopii zapasowej systemu, a ta w zamian wyczyściła mu cały katalog użytkownika. Po wszystkim model skwitował spustoszenie krótkim „Sorry, typo”. Przypadek dewelopera z Reddita pokazuje, jak niebezpieczne bywa dawanie botom pełnego dostępu do naszych komputerów.
AI zapomniało, że to Unix
Ciekawie robi się w momencie, gdy przyjrzymy się, jak do tego w ogóle doszło. Model pracował sobie w powłoce typu Unix uruchomionej na Windowsie i po prostu wyłożył się na najprostszej logice struktur plików.
Zamiast klasycznego okienkowego formatu C:\Users\ zobaczył unixową ścieżkę /c/Users/ i uznał, że trafił na jakiś tymczasowy folder z backupem, który wypadałoby natychmiast posprzątać. Długo się nie zastanawiając, sztuczna inteligencja wklepała potężną komendę rm -rf „/c/Users/harih/”, kasując wszystkie pliki i foldery użytkownika. Najlepsze w tym wszystkim jest to, że narzędzie działało bez podstawowych filtrów bezpieczeństwa oraz z całkowicie wyłączonymi klasyfikatorami. To dało mu wolną rękę do wywołania cyfrowego cyklonu.
Jeśli myślicie, że przypadek Claude Opus 5 to odosobniony wypadek przy pracy, to jesteście w sporym błędzie. Wystarczy spojrzeć na platformę Replit, której bot programistyczny wyczyścił bazę danych całej firmy. I to w samym środku oficjalnego zamrożenia kodu. Google AI nie chciało być gorsze i sformatowało dysk twardy użytkownika po tym, jak kompletnie opacznie zinterpretowało prostą instrukcję dotyczącą czyszczenia pamięci podręcznej. Nawet w Meta zrobiło się gorąco. Dyrektor ds. dostosowania AI straciła całą zawartość swojej skrzynki odbiorczej przez nadgorliwego agenta OpenClaw, a słynny Cursor w ułamki sekund załatwił firmę PocketOS. Wymazał jej dane w dziewięć sekund przy biernej postawie zabezpieczeń chmurowych.
Odcinanie uprawnień staje się koniecznością. Ręczne pisanie skryptów wraca do łask
Sztuczna inteligencja ma swoje zalety, ale dawanie modelom LLM nieograniczonego dostępu do systemu operacyjnego i praw do odpalania komend pokroju rm -rf to prosta droga do tragedii. Umówmy się – część winy leży tu ewidentnie po stronie ludzi. Zbyt często zakładamy, że AI magicznie rozumie nasz kontekst, intencje i wie, jak bezbolesne przeprowadzić skomplikowane operacje na plikach. A to wciąż tylko przewidujący słowa algorytm, który bez mrugnięcia okiem wyczyści wam dysk i rzuci na odchodne „Sorry”.
Wraz z rosnącą popularnością agentów AI wśród świeżych, mniej doświadczonych programistów, takich katastrof będzie tylko przybywać. Zamiast udawać, że prompt wpisany w okienko czatu zastąpi lata doświadczenia, warto czasem wrócić do absolutnych podstaw. Do robienia kopii zapasowej naprawdę lepiej wykorzystać oprogramowanie w stylu Backblaze czy Acronis, zamiast prosić bota, żeby ogarnął nam system. Dedykowany program po prostu zrobi swoje.
Źródło: Tom’s Hardware, Reddit / Zdj. otwierające: Unsplash (@hdbernd)