Umjetna inteligencija pokazala prve znakove agresije

Ako nas ne ubiju klimatske promjene, nuklearno oružje ili Donald Trump, umjetna inteligencija bi zasigurno mogla. Ipak, većina građana odobrava namjeru velikih kompanija da ulažu u ovo sve plodnije područje tehnologije, no čini se da je Google naišao na prve znakove otpora svog novog programa.

Riječ je o programu umjetne inteligencije pod nazivom DeepMind, koji je 2016. godine pokazao veliki potencijal. Naime, DeepMind je sposoban samostalno učiti, a to je iskoristio prilikom treniranja za nastup u prvenstvu u igranju kineske igre “Go!”.

DeepMind danas sve češće upotrebljava svojevrsnu agresivnost kako bi došao do pobjede u raznim igricama.

U prilog tome idu i posljednji testovi, u kojima su dva DeepMind agenta zaigrali igru “Gathering”, u kojoj pobjeđuje igrač s najviše prikupljenih jabuka. Programi su se ponašali normalno sve dok je na tlu bilo dovoljno jabuka, ali kada je njihov broj počeo opadati, inteligentni agenti u igrici su odlučili koristiti oružje kako bi izbjegli poraz.

“Dopuštamo agentima da igru odigraju nekoliko tisuća puta i puštamo ih da samostalno uče kako se ponašati racionalno. Prirodno, kada je na tlu dovoljan broj jabuka, agenti se ponašaju miroljubivo. Ali, kada broj jabuka počne opadati, agenti su naučili da je najisplativije napasti, odnosno ‘zamrznuti’ protivnika kako bi došao do bodova”, navodi se u blogu tima koji proučava DeepMind.

Joel Leibo, jedan od članova tima, tvrdi da agresivno ponašanje umjetne inteligencije pokazuje neke aspekte ljudskog ponašanja koji nastaju kao proizvod okruženja i učenja.

“Manje agresivno ponašanje javlja se kada su resursi dovoljno pristupačni. Motivacija pohlepe pojavljuje se kao refleksija iskušenja da se onesposobi konkurencija i da se jabuke sačuvaju samo za sebe”, rekao je Leibo.

Povezano