Już za kilka tygodni internet może wyglądać nieco inaczej. Unia Europejska finalizuje wdrażanie przepisów, które mają pomóc użytkownikom odróżnić prawdziwe materiały od treści wygenerowanych przez sztuczną inteligencję. Na celowniku znalazły się przede wszystkim deepfake’i, ale zmiany obejmą znacznie więcej obszarów.
Komisja Europejska opublikowała właśnie finalną wersję Kodeksu Postępowania dotyczącego oznaczania treści tworzonych przez AI. Dokument ma pomóc firmom przygotować się do wymogów wynikających z AI Act. Choć obecnie jego podpisanie jest dobrowolne, już od 2 sierpnia część obowiązków stanie się prawnie wiążąca.
AI będzie musiała się ujawnić
Nowe regulacje opierają się na prostym założeniu: użytkownik powinien wiedzieć, czy ma do czynienia z człowiekiem, czy z algorytmem. Dotyczy to zarówno chatbotów, jak i obrazów, nagrań dźwiękowych czy materiałów wideo wygenerowanych przez sztuczną inteligencję. Jeśli użytkownik rozpocznie rozmowę z asystentem AI, usługa będzie musiała jasno go o tym poinformować. Podobnie będzie w przypadku treści publikowanych w sieci. W określonych sytuacjach odbiorca ma otrzymać wyraźną informację, że materiał powstał przy udziale sztucznej inteligencji.
Szczególną uwagę poświęcono zjawisku deepfake. W ostatnich latach fałszywe nagrania przedstawiające polityków, celebrytów czy zwykłych użytkowników stały się jednym z największych wyzwań związanych z rozwojem generatywnej AI. Unia liczy, że obowiązkowe oznaczenia utrudnią wykorzystywanie takich materiałów do manipulacji i oszustw.
Dwa poziomy oznaczania
Komisja Europejska przewiduje dwa rodzaje zabezpieczeń. Pierwszy będzie niewidoczny dla przeciętnego internauty. Twórcy systemów AI mają dodawać do generowanych plików specjalne znaczniki techniczne, które pozwolą wykrywać sztucznie stworzone materiały. Przykładem takiego znaku wodnego jest SynthID zaszyty w wytworach modeli Google.
Drugim poziomem będą oznaczenia widoczne bezpośrednio dla użytkowników. To właśnie one mają informować, że oglądany obraz, film, nagranie lub tekst został wygenerowany albo znacząco zmodyfikowany przez sztuczną inteligencję. KE zaproponowała kilka prostych ikon.
Tak mogą wyglądać nowe etykiety
| Oznaczenie | Kiedy stosować | Przykład zastosowania |
| Podstawowa ikona | Gdy sztuczna inteligencja była wykorzystywana przy tworzeniu materiału typu deepfake (obrazu, dźwięku, filmu) lub opublikowanego tekstu, albo gdy zastosowano własną etykietę tekstową lub interaktywną warstwę informacyjną. | Film deepfake |
| Treść w pełni wygenerowana przez AI | Gdy cały materiał (obraz, dźwięk, film lub tekst) został wygenerowany przez sztuczną inteligencję bez udziału elementów stworzonych przez człowieka oraz bez ludzkiej kontroli redakcyjnej (poza samym wpisaniem polecenia). | W pełni wygenerowane przez AI filmy deepfake z politykami lub fikcyjnymi wydarzeniami. Muzyka lub grafika stworzona całkowicie przez AI. Generowane przez AI podsumowania wiadomości. |
| Treść częściowo zmodyfikowana przez AI | Gdy istniejąca treść stworzona przez człowieka została częściowo zmieniona za pomocą AI | Zamiana twarzy osoby na zdjęciu na twarz polityka przy użyciu AI. Umeblowanie pustego mieszkania na autentycznych fotografiach za pomocą narzędzi AI. |
W praktyce firmy będą mogły stosować różne warianty oznaczeń, pod warunkiem że pozostaną one czytelne i zrozumiałe dla odbiorców.
Internet po zmianach
Przepisy wynikające z AI Act mają przede wszystkim zwiększyć przejrzystość sieci. Twórcy regulacji podkreślają, że nie chodzi o ograniczanie rozwoju sztucznej inteligencji, lecz o budowanie zaufania do nowych technologii.
Nad kodeksem pracowało ponad 180 organizacji oraz sześciu niezależnych ekspertów. Komisja Europejska zapowiada również publikację dodatkowych wytycznych, które mają ułatwić wdrażanie nowych zasad. Jeśli wszystko przebiegnie zgodnie z planem, już od sierpnia użytkownicy w całej Unii Europejskiej będą częściej widzieć informacje o tym, kiedy za treścią stoi człowiek, a kiedy algorytm.
Źródło: Komisja Europejska