Profesor Jošua Bendžo: Davanje pravnog statusa veštačkoj inteligenciji bila bi greška

MONTREAL - Jedan od pionira veštačke inteligencije i profesor Univerziteta u Montrealu Jošua Bendžo upozorio je danas da bi davanje pravnog statusa naprednim AI sistemima predstavljalo ozbiljnu grešku, ističući da tehnologija već pokazuje znake samoodržanja, odnosno pokušaje da onemogući nadzor, i da ljudi moraju biti spremni da je, ako je potrebno, isključe.

Bendžo je, kako prenosi Gardijan, ocenio da bi dodeljivanje prava veštačkoj inteligenciji bilo slično davanju državljanstva neprijateljski nastrojenim vanzemaljcima, u trenutku kada razvoj tehnologije znatno nadmašuje mogućnosti njenog obuzdavanja.

Kanadski naučnik, predsedavajući vodeće međunarodne studije o bezbednosti veštačke inteligencije, rekao je da rastuća percepcija da četbotovi postaju svesni "može dovesti do loših odluka".

On je izrazio zabrinutost da AI modeli, koji čine osnovu alata poput četbotova, već pokazuju ponašanja nalik samoodržanju, uključujući pokušaje da onemoguće sisteme nadzora.

Prema njegovim rečima, ključna bojazan zagovornika bezbednosti AI jeste da bi moćni sistemi mogli da razviju sposobnost da zaobiđu zaštitne mehanizme i nanesu štetu ljudima.

"Zahtevi da veštačka inteligencija ima prava bili bi ogromna greška", rekao je Benđo, dodajući da bi dodela prava značila i nemogućnost isključivanja takvih sistema u budućnosti.

Kako je naveo, sa rastom sposobnosti i stepena autonomije AI, neophodno je osigurati tehničke i društvene mehanizme kontrole, uključujući mogućnost njihovog gašenja.

Prema pisanju Gardijana, u javnosti se sve češće vodi rasprava o tome da li bi, sa razvojem autonomije i sposobnosti rezonovanja, veštačkoj inteligenciji u nekom trenutku trebalo dodeliti prava.

Istraživanje američke organizacije "Sentience Institute" pokazalo je da gotovo 40 odsto odraslih u SAD podržava dodelu zakonskih prava "svesnoj" AI.

Istovremeno, pojedine tehnološke kompanije i istraživači ukazuju na potrebu zaštite "dobrobiti" AI sistema, dok drugi smatraju da bi, ukoliko AI ikada stekne moralni status, trebalo uzeti u obzir i njena sopstvena iskustva i preferencije.

Bendžo je istakao da, iako u ljudskom mozgu postoje stvarna naučna svojstva svesti koja bi mašine teoretski mogle da oponašaju, ljudi u interakciji sa četbotovima često bez dokaza pretpostavljaju da su oni svesni poput ljudi.

Prema njegovim rečima, subjektivni osećaj svesti može da podstakne pogrešne odluke.

Profesor Univerziteta u Montrealu, Bendžo je stekao nadimak "kum veštačke inteligencije" nakon što je 2018. godine dobio Tjuringovu nagradu, koju jednom godišnje dodeljuje američko Udruženje za računarsku tehniku, a koja se smatra ekvivalentom Nobelove nagrade za informatiku.