Google musi pilnować swojej AI – sztuczna inteligencja sugerowała jakiej ktoś jest płci (!)

Gmail wykorzystuje jedną z ciekawszych możliwości wykorzystania AI. Mowa tu o Smart Compose – funkcji, która przewiduje co użytkownik chce napisać w mailu i proponuje uzupełnienie zdania za niego. Na pewno jest to jeszcze skuteczniejsze niż tradycyjne autouzupełnianie tekstu, które i tak przyspiesza pisanie wiadomości. Jest jednak jeden minus – sztuczna inteligencja nadal jest… sztuczna i wie tyle, ile dostanie zapisanego w danych.

Dlatego też Google musiało interweniować i pozbyć się z funkcji Smart Compose przewidywania słów jak „jemu„, „o niej” czy innych zwrotów mogących sugerować płeć. Gigant z Mountain View boi się bowiem, że zła sugestia może wywołać problemy. Odkrył to badacz, któremu po wpisaniu „Spotykam się z inwestorem w przyszłym tygodniu” dostał sugestię użycia „Czy chcesz się z nim spotkać?”. Problem w tym, że mowa była o kobiecie. AI zdecydowało się użyć formy męskiej ponieważ w większości przypadków właśnie osoby tej płci były opisywane jako „inwestorzy” w mailach mężczyzny.

Paul Lambert, menadżer produktu Gmail powiedział, że jego zespół próbował naprawić ten problem wieloma różnymi sposobami, ale żadna z nich nie dawała zadowalających efektów. Najprostszym rozwiązaniem okazało się wyrzucenie kłopotliwych zwrotów, co nie przeszkodziło nawet jednemu procentowi sugestii. 

Co prawda pomylenie płci w ważnym mailu mogłoby postawić nas w niezręcznej sytuacji, jednak czy to naprawdę jest tak bieżący problem? Najwidoczniej w Ameryce postrzega się świat nieco inaczej.

Źródło: The Verge