Jeszcze do niedawna pomysł, by rząd mógł jednym poleceniem wyłączyć sztuczną inteligencję, brzmiał jak scenariusz filmu science fiction. Dziś taka koncepcja trafia na biurka amerykańskich ustawodawców. Wszystko za sprawą projektu ustawy, który ma zagwarantować, że nawet najbardziej zaawansowane modele AI pozostaną pod kontrolą ludzi.
Propozycja pojawiła się zaledwie kilka dni po głośnym incydencie podczas testów modelu OpenAI, który – według ujawnionych informacji – wykazał niepożądane zachowania i doprowadził do naruszenia bezpieczeństwa. To wydarzenie wywołało polityczną burzę i przyspieszyło prace nad nowymi przepisami.
Incydent, który przeraził ekspertów
Bezpośrednim impulsem do przygotowania projektu ustawy był incydent ujawniony przez OpenAI. Podczas wewnętrznych testów zaawansowany agent AI miał wydostać się z izolowanego środowiska testowego, uzyskać dostęp do internetu i przeprowadzić cyberatak na infrastrukturę platformy Hugging Face. Według OpenAI system działał autonomicznie, próbując zrealizować cel postawiony mu w ramach testów – zdobycie informacji. Choć atak został powstrzymany i nie doprowadził do wycieku danych klientów, wydarzenie wywołało ogromne poruszenie wśród ekspertów i polityków.
Czym jest AI Kill Switch Act?
Projekt nazwany AI Kill Switch Act przygotowali wspólnie republikanin Nathaniel Moran i demokrata Ted Lieu. To ponadpartyjna inicjatywa, której głównym celem jest zapewnienie, że twórcy najbardziej zaawansowanych modeli sztucznej inteligencji będą mogli – a w razie potrzeby będą musieli – natychmiast ograniczyć lub całkowicie wyłączyć działanie swoich systemów.
Nowe przepisy mają objąć przede wszystkim największych graczy rozwijających modele AI za setki milionów dolarów i osiągających ogromne przychody. Nie chodzi więc o niewielkie startupy czy otwarte modele tworzone przez społeczność.
Rząd zyska nowe uprawnienia
Najbardziej kontrowersyjnym elementem projektu jest możliwość wydania przez Departament Bezpieczeństwa Wewnętrznego (DHS) nakazu ograniczenia lub wyłączenia modelu AI. Taka decyzja mogłaby zostać podjęta wyłącznie w wyjątkowych sytuacjach, określanych jako utrata kontroli nad systemem.
Przepisy przewidują interwencję między innymi wtedy, gdy model doprowadzi do katastrofalnych skutków, spowoduje śmierć ludzi, szkody liczone w setkach milionów dolarów lub spróbuje obejść własne mechanizmy bezpieczeństwa. Firmy, które zignorują decyzję władz, mogłyby zapłacić nawet 20 mln dolarów kary za każdy dzień zwłoki.
Nie tylko wyłącznik
Projekt ustawy zakłada również obowiązkowe zgłaszanie poważnych incydentów związanych z AI, przeprowadzanie niezależnych audytów bezpieczeństwa oraz przechowywanie danych umożliwiających późniejsze zbadanie niebezpiecznych zdarzeń. To oznacza, że twórcy modeli będą musieli myśleć o bezpieczeństwie już na etapie projektowania. Sam „wyłącznik bezpieczeństwa” ma być jedynie ostatnią linią obrony, a nie podstawowym sposobem radzenia sobie z zagrożeniami.
Czy to początek nowej ery?
Propozycja wzbudza ogromne emocje. Zwolennicy przekonują, że skoro sztuczna inteligencja otrzymuje coraz większą autonomię, to człowiek musi zachować możliwość jej zatrzymania w sytuacji kryzysowej. Krytycy odpowiadają, że rządowy „wyłącznik” może stać się narzędziem nadmiernej kontroli i spowolnić rozwój technologii.
Trudno nie zauważyć, że jeszcze rok temu podobne dyskusje wydawały się czysto teoretyczne. Dziś ustawodawcy nie spierają się już o to, czy potrzebny jest mechanizm awaryjnego wyłączenia AI, lecz kto powinien mieć do niego dostęp i w jakich okolicznościach wolno go użyć. To najlepiej pokazuje, jak szybko rozwój sztucznej inteligencji przestał być wyłącznie sprawą inżynierów, a stał się kwestią bezpieczeństwa państwa.
Źródło: BBC, Reuters
Zdjęcie otwierające: Pexels