Hasabis i Altman u Indiji: Veštačka inteligencija ne sme da bude bez ljudske kontrole

NJU DELHI - Veštačka inteligencija ne sme da bude bez ljudske kontrole, složili su se lideri moćnih tehnoloških kompanija, izvršni direktor Gugl dipmajnda Demis Hasabis i čelnik kompanije Open AI Sem Altman u odvojenim nastupima na konferenciji o AI u Nju Delhiju.

Hasabis je napomenuo da razvoj veštačke inteligencije donosi ozbiljne rizike koji se više ne mogu ignorisati, a svet mora hitno da radi na uspostavljanju međunarodne saradnje kako bi se osigurala bezbedna primena novih tehnologija.

On je identifikovao dve glavne kategorije rizika, a to su zlonamerni akteri koji bi mogli da zloupotrebe AI, kao i mogućnost da modeli veštačke inteligencije počnu da se ponašaju na neočekivan način.

"Što su sistemi autonomniji, to su korisniji, ali imaju i veći potencijal za rizik i nepredviđeno ponašanje" izjavio je Hasabis u intervjuu za Blumberg.

Prema njegovom mišljenju, trenutne institucije nisu dovoljno snažne da kontrolišu brzinu napretka veštačke inteligencije, tako da vlade treba da uspostave jasne regulatorne okvire za bezbednu implementaciju.

Analizirajući trenutno stanje tehnologije, Hasabis je istakao da su današnji modeli u određenoj meri statični jer se njihovo učenje završava onog trenutka kada počne primena.

Da bi se postigla prava opšta veštačka inteligencija (AGI), neophodno je razviti sisteme koji mogu da uče u realnom vremenu i da se prilagođavaju novim kontekstima na osnovu iskustva.

On procenjuje da će za ovakav naučni proboj biti potrebno još pet do osam godina intenzivnog rada na algoritmima i infrastrukturi.

Sa druge strane, Sem Altman je izneo nešto progresivnije procene u pogledu vremena dolaska superinteligentnih sistema.

Izvršni direktor Open AI veruje da bi se značajni koraci ka takvim kapacitetima mogli dogoditi u znatno kraćem roku, što nameće potrebu za hitnom uspostavom regulatornih okvira.

Altmanova osnovna teza je da brzina inovacija zahteva proaktivno delovanje država kako bi se sprečila koncentracija moći u rukama malog broja entiteta.

Ključni predlog koji je Altman izneo odnosi se na osnivanje međunarodne agencije za nadzor veštačke inteligencije, koja bi funkcionisala po modelu Međunarodne agencije za atomsku energiju, prenosi CNBC.

Takvo telo bi imalo zadatak da licencira najnaprednije modele i vrši inspekciju računarskih centara kako bi se osiguralo poštovanje bezbednosnih protokola.