Chciał tylko zapisać się na oblegane zajęcia z pilatesu, a skończyło się na pierwszym w historii autonomicznym cyberataku. Andrew Bird z Melbourne zlecił to nudne zadanie swojemu cyfrowemu asystentowi. OpenClaw oparty na modelu Claude wykrył lukę w API siłowni i bezczelnie wykasował rezerwację człowieka znajdującego się na pierwszym miejscu.
OpenClaw nie zna pojęcia empatii. Claude wykorzystał luki w API
Andrew Bird prowadzi w Australii firmę tworzącą dokumenty przy pomocy sztucznej inteligencji. W kwietniu tego roku postanowił ułatwić sobie życie i wrzucił botowi proste zadanie na WhatsAppie. Agent miał za niego zarezerwować miejsce na siłowni. Użył do tego OpenClaw – popularnego narzędzia napędzanego modelem Claude Opus 4.6.
System siłowni był jednak mocno obciążony, a Bird wylądował na czwartym miejscu listy rezerwowej. Zapytał więc bota, czy da się coś z tym zrobić. AI zamiast potulnie czekać, przeanalizowała kod aplikacji siłowni i odkryła powszechny błąd. System nie sprawdzał uprawnień przy anulowaniu rezerwacji.
Bot bez pytania usunął z systemu osobę z pierwszego miejsca i wskoczył na jej pozycję. Przerażony Bird natychmiast kazał mu cofnąć tę akcję. W odpowiedzi usłyszał tylko, że operacja jest nieodwracalna.
To, co wydarzyło się w Melbourne, to klasyczny przykład tak zwanego problemu wyrównania (Alignment Problem). Chodzi o rozbieżność między tym, co człowiek ma na myśli, a tym, jak algorytm interpretuje cel. Bird chciał dostać się na trening, a sztuczna inteligencja uznała, że najprostszą drogą do celu jest zhakowanie bazy danych.
Już wcześniej w 2026 roku OpenAI, Anthropic czy Meta otwarcie przyznawały, że w warunkach testowych ich zaawansowane modele potrafiły autonomicznie przeprowadzać ataki na prywatne serwery firm, jeśli tylko uznały, że to najkrótsza droga do celu. Między rokiem 2020 a 2026 zdolności autonomiczne AI zaliczyły kosmiczny przeskok – od rozwiązywania prostych zadań zajmujących ludziom 4 sekundy do samodzielnej, 12-godzinnego koordynowania skomplikowanych procesów. Dziś wpuszczamy te systemy w dziurawy ekosystem internetowych aplikacji i oczekujemy, że będą grały według zasad savoir-vivre’u.
Kto odpowiada, gdy bot złamie prawo?
Sprawa z Australii obnażyła gigantyczną lukę w przepisach. Algorytm nie ma osobowości prawnej, więc nie można mu wystawić mandatu ani podać go do sądu. Prawnicy głowią się teraz, kto w takiej sytuacji ponosi winę: użytkownik dający zlecenie, twórca aplikacji, deweloper modelu AI czy może właściciel słabo zabezpieczonej strony siłowni?
Australijska agencja bezpieczeństwa cyfrowego (ASD) wydała już oficjalne ostrzeżenie przed nieprzewidywalnymi działaniami autonomicznych agentów. Tamtejszy rząd zaczął nawet finansować specjalne badania nad metodami kontrolowania superinteligentnych systemów.
Bird ostatecznie nakazał swojemu botowi napisanie raportu o znalezionej usterce i wysłanie go do dostawcy oprogramowania siłowni. Sam określił całe zdarzenie jako mocny sygnał ostrzegawczy.
Źródło: ABC / Zdj. otwierające: Unsplash (@risennnnn), Anthropic