Google od miesięcy przekonuje, że sztuczna inteligencja odmieni sposób korzystania z internetu. Firma integruje AI z wyszukiwarką, rozwija Gemini i zachęca użytkowników do korzystania z nowych funkcji. Ostatnie dni pokazują jednak, że wraz z rozwojem technologii rośnie także liczba problemów prawnych i wizerunkowych.
Na technologicznego giganta spadły dwa poważne ciosy. Organizacja Common Sense Media oskarżyła AI w wyszukiwarce o stwarzanie zagrożenia dla dzieci, a niemal równocześnie grupa największych wydawców i autorów złożyła pozew dotyczący naruszenia praw autorskich podczas trenowania modeli Gemini. Google stanowczo odpiera zarzuty, ale sprawy mogą ciągnąć się przez lata.
AI niebezpieczna dla dzieci?
Instytut Youth AI Safety działający przy organizacji Common Sense Media opublikował kilka dni temu głośny raport dotyczący sztucznej inteligencji Google. Badacze przeprowadzili ponad 2600 testów z wykorzystaniem kont dzieci w wieku 11 i 15 lat, analizując odpowiedzi generowane przez AI Overviews oraz AI Mode w wyszukiwarce Google. Ich wnioski są bardzo krytyczne.
Według autorów raportu sztuczna inteligencja nie zawsze rozpoznawała sytuacje kryzysowe, potrafiła udzielać niewłaściwych odpowiedzi dotyczących zdrowia psychicznego, zaburzeń odżywiania czy używek. „Dzieci” otrzymywały instrukcje jak generować deepfake. Badacze zwracają również uwagę, że AI Mode regularnie rozwiązywał zadania domowe za uczniów, a odpowiedzi historyczne bywały niespójne i opierały się na mało wiarygodnych źródłach. Szczególny niepokój wzbudził fakt, że funkcji AI nie można obecnie całkowicie wyłączyć w wyszukiwarce dla kont dziecięcych.
Google odpowiada
Firma odpowiedziała natychmiast – jak można się domyślić, zdecydowanie nie zgadza się z oceną raportu. W odpowiedzi podkreśla, że AI Overviews i AI Mode wyposażono w liczne zabezpieczenia, a odpowiedzi są wyświetlane tylko wtedy, gdy system ma odpowiednio wysoką pewność co do ich poprawności.
Google przypomina również o mechanizmach ochrony najmłodszych użytkowników. W przypadku zapytań dotyczących kryzysów psychicznych wyświetlane są numery telefonów zaufania i materiały przygotowane we współpracy z ekspertami. Firma wskazuje także na możliwość korzystania z kontroli rodzicielskiej oraz materiałów edukacyjnych uczących krytycznego podejścia do treści generowanych przez AI.
Wydawcy idą do sądu
To jednak nie koniec problemów. Kilka dni wcześniej pozew zbiorowy przeciwko Google złożyli wydawcy Hachette, Cengage i Elsevier oraz pisarz Scott Turow. Zarzucają oni firmie świadome wykorzystanie milionów chronionych prawem autorskim książek i publikacji podczas trenowania modeli Gemini.
Autorzy pozwu twierdzą również, że Google miało usuwać lub modyfikować informacje o prawach autorskich, aby ukryć pochodzenie materiałów wykorzystanych do szkolenia sztucznej inteligencji. Zdaniem powodów może to być jedno z największych naruszeń praw autorskich związanych z rozwojem generatywnej AI.
Presja będzie tylko rosła
Choć oba postępowania dotyczą zupełnie różnych kwestii, mają wspólny mianownik. Wraz z rosnącą rolą sztucznej inteligencji Google coraz częściej musi odpowiadać nie tylko za możliwości swoich modeli, ale również za sposób ich trenowania i wpływ na użytkowników.
Nawet jeśli część zarzutów okaże się bezpodstawna, trudno nie zauważyć zmiany nastrojów. Jeszcze niedawno firmy technologiczne ścigały się przede wszystkim na nowe funkcje AI. Dziś coraz częściej muszą tłumaczyć się przed regulatorami, organizacjami społecznymi i właścicielami praw autorskich. Dla Google może to być początek znacznie trudniejszego etapu rozwoju sztucznej inteligencji.
Źródło: Android Authority