Ujedinjene nacije pokreću globalnu inicijativu za bezbedniju primenu AI agenata

ŽENEVA - Međunarodna unija za telekomunikacije (ITU), specijalizovana agencija Ujedinjenih nacija za digitalne tehnologije, pokrenula je danas novu međunarodnu inicijativu čiji je cilj da poveća bezbednost i poverenje u AI agente, napredne sisteme veštačke inteligencije koji mogu da donose odluke i obavljaju zadatke u ime korisnika.

Inicijativa je predstavljena na samitu "AI for Good" u Ženevi, a predviđa osnivanje posebne ekspertske grupe koja će razviti međunarodne smernice kako bi AI agenti bili jasno prepoznatljivi, pouzdani i pod stalnim ljudskim nadzorom, naročito u oblastima poput finansijskih transakcija i upravljanja kritičnom infrastrukturom, prenosi Rojters.

"AI agenti će uskoro pregovarati, obavljati transakcije i donositi odluke u naše ime. Potrebna su zajednička međunarodna pravila kako bi bilo jasno ko su ti agenti i kada im se može verovati", izjavila je kopredsedavajuća nove radne grupe Debora Komparin.

U radu grupe učestvovaće stručnjaci iz oblasti tehnologije, prava i javnih politika, a prvi sastanak zakazan je za novembar u Parizu, dok će drugi biti održan u januaru naredne godine u Ženevi.

Cilj je uspostavljanje međunarodnih standarda za bezbednu primenu AI agenata u privredi i javnom sektoru.

Agenti na bazi veštačke intelegencije predstavljaju novu generaciju sistema veštačke inteligencije koji mogu samostalno da izvršavaju različite zadatke - od zakazivanja sastanaka i kupovine proizvoda do upravljanja složenim poslovnim procesima.

Eksperti upozoravaju da njihova sve rast autonomije AI agenata otvara pitanja odgovornosti, zloupotrebe identiteta i donošenja neovlašćenih odluka.