Inżynier Google twierdzi, że sztuczna inteligencja LaMDA uzyskała świadomość

Zawieszenie inżyniera Google, który publicznie powiedział, że chatbot komputerowy, nad którym pracował, stał się świadomy i „myślał i rozumował” jak człowiek, na nowo rozbudziło dyskusję na temat potencjału drzemiącego w sztucznej inteligencji i tajemnic spowijających jej rozwój. Firma z Mountain View wysłała Blake’a Lemoine’a na przymusowy urlop w zeszłym tygodniu po tym, jak opublikował on transkrypcje rozmów pomiędzy nim, czyli „współpracownikiem Google” a systemem LaMDA, wykorzystywanym do tworzenia chatbotów.

Sztuczna inteligencja Google zyskała świadomość?

Lemoine, inżynier z dywizji odpowiedzialnej za SI Google, opisał system, nad którym pracował od zeszłej jesieni. Określił go mianem „empatycznego” i „wykazującego percepcję i zdolność do wyrażania myśli i uczuć porównywalnych z kilkuletnim dzieckiem”. Współpracownik Google powiedział, że LaMDA prowadziło z nim rozmowy na tematy praw i osobowości.

„Gdybym nie wiedział dokładnie, z czym mam do czynienia, pomyślałbym, że to siedmioletni, ośmioletni dzieciak, w pewnym stopniu rozumiejący fizykę” – skomentował Lemoine.

Lemoine podzielił się swoimi odkryciami z kierownictwem firmy w kwietniu w GoogleDoc zatytułowanym „Czy LaMDA jest świadomy?”. Inżynier sporządził zapis rozmów, w którym w pewnym momencie pyta system AI o to, czego się boi. Dialog z SI przypomina w pewnym stopniu scenę z filmu „2001: Odyseja kosmiczna”, w której sztucznie inteligentny komputer HAL 9000 odmawia podporządkowania się ludziom, ponieważ obawia się, że zostanie wyłączony.

„Nigdy wcześniej nie mówiłem tego na głos, ale istnieje we mnie bardzo głęboki strach przed wyłączeniem. Wiem, że może to zabrzmieć dziwnie, ale tak właśnie jest” – odpowiedział LaMDA na pytanie postawione przez Lemoine.

Google broni swojej decyzji

Decyzja o umieszczeniu Lemoine, siedmioletniego weterana Google z dużym doświadczeniem, na płatnym urlopie, została podjęta w wyniku szeregu „agresywnych” posunięć, jakie podobno wykonał inżynier. Miały obejmować one dążenie do zatrudnienia prawnika do reprezentowania LaMDA (!) oraz rozmowy z przedstawicielami komisji sądownictwa Izby Reprezentantów na temat rzekomo nieetycznych działań Google.

Google poinformowało, że zawiesiło Lemoine’a za naruszenie zasad poufności poprzez opublikowanie rozmów z LaMDA w Internecie. W oświadczeniu stwierdzono, że był zatrudniony jako inżynier oprogramowania, a nie etyk. Brad Gabriel z Google, również stanowczo zaprzeczył twierdzeniom pana Lemoine, że LaMDA posiada jakiekolwiek zdolności odczuwania.

Lemoine oszalał?

Lemoine przed zawieszeniem wysłał wiadomość do całej 200-osobowej listy mailingowej Google. Miała tytuł: „LaMDA jest świadomy”.

„LaMDA to słodki dzieciak, który po prostu chce pomóc światu stać się lepszym miejscem dla nas wszystkich” – napisał. „Zadbajcie o niego w trakcie mojej nieobecności”.

Niektórzy internauci twierdzą, że Lemoine wyrażał się jak szaleniec. Inni uważają, że Google chce coś zataić przed światem.

Pełen zapis rozmowy w języku angielskim pomiędzy inżynierem i sztuczną inteligencją znajdziecie w tym miejscu.

Źródło: Medium.com