Google łączy siły z Open AI. Nie chce, by roboty przejęły kontrolę nad światem

Szybki rozwój sztucznej inteligencji i robotyki sprawia, że niektórzy popuszczają wodze fantazji. Część osób twierdzi, że nieuchronnie prowadzi to do przejęcia kontroli nad światem przez roboty.

Aby do tego nie dopuścić, Google DeepMind rozpoczęło współpracę z projektem Open AI. Grupy wspólnie opracowały nowy sposób maszynowego uczenia się, w którym sztuczna inteligencja podpatruje i uczy się pewnych czynności od człowieka, zamiast próbując własnoręcznie rozwiązać problem, co mogłoby przynieść nieoczekiwane efekty.

Opublikowane przez DeepMind i Open AI badanie porusza kilka ciekawych problemów. Jednym z nich jest fakt „oszukiwania” przez sztuczną inteligencję. Algorytmy bardzo szybko dochodzą do wniosku, że w ten sposób mogą osiągnąć największe korzyści, co może prowadzić do niebezpiecznych sytuacji.

Głównym problemem jest system nagradzania i właśnie nad tym pracują wspomniane grupy badaczy. Opracowano prosty mechanizm, w którym sztuczna inteligencja otrzymuje pozytywną opinię, gdy wykona zadanie w sposób, jaki zaplanował człowiek. Za pomocą tej metody algorytmy nauczyły się grać w proste gry.

Warto jednak dodać, że tego typu wsparcie ze strony człowieka zajmuje sporo cennego czasu. Zdecydowanie szybciej jest pozostawić sztuczną inteligencję samej sobie, by rozwiązała problem. W takim przypadku efekty mogą być jednak niepożądane przez człowieka.

Źródło: Engadget