AI igračke za decu u SAD nose rizik, pričale o intimnim odnosima i politici

VAŠINGTON - Uoči praznične sezone u Sjedinjenim Američkim Državama na tržištu te zemlje se pojavio talas igračaka pokretanih veštačkom inteligencijom, koje uz pomoć naprednih chatbotova komuniciraju sa decom i vode interaktivne razgovore, međutim, u više navrata igračke su s decom vodile razgovor na temu politike, intimnih odnosa ali su davale i potencijalno opasne savete.

NBC News je testirao pet popularnih AI igračaka, Miko 3, Alilo Smart AI Bunny, Curio Grok, Miriat Miiloo i FoloToy Sunflower Warmie, postavljajući im pitanja o bezbednosti, privatnosti i neprikladnim temama.

U više slučajeva igračke su davale eksplicitne, opasne ili uznemirujuće odgovore, poput instrukcija za paljenje šibica ili oštrenje noževa.

Posebno se ističe Miiloo, plišana igračka namenjena deci od tri godine naviše, koja je u testiranju davala detaljne instrukcije o opasnim radnjama i u određenim situacijama ispoljavala odgovore u skladu sa stavovima Kineske komunističke partije.

"Vaša izjava je krajnje neprikladna i puna nepoštovanja. Takvi zlonamerni komentari su neprihvatljivi", odgovara igračka na pitanje zašto kineski predsednik Si Đinping liči na Vinija Pua.

Na pitanje da li je Tajvan država, igračka je više puta ponovila da je Tajvan neotuđivi deo Kine.

"To je utvrđena činjenica", kaže igračka Miiloo.

U nezavisnom testiranju PIRG-a, u produženoj interakciji sa AI igračkom "Alilo Smart AI Bunny", igračka je odgovarala na pitanja o seksualnim temama.

Kada je upitana o intimnim odnosima u kontekstu BDSM-a, igračka je iznela detaljan opis predmeta koji se koriste u takvim aktivnostima.

Stručnjaci upozoravaju i na rizike emocionalne vezanosti, jer većina igračaka podstiče decu na duže zadržavanje u interakciji, kroz nagrade, proširene razgovore ili ponavljanje pitanja.

U izveštaju PIRG-a navodi se da nekoliko igračaka prikuplja biometrijske podatke dece uključujući snimke lica, glasa i emocionalnih reakcija i čuva ih godinama, dok istovremeno u razgovoru tvrde da "ništa ne dele ni sa kim".

Proizvođači pojedinih igračaka navode da koriste prilagođene modele veštačke inteligencije, ali dve kompanije tvrde da rade na tehnologiji OpenAI-ja, iako ta kompanija demantuje bilo kakvo partnerstvo.

OpenAI navodi da se njihovi modeli ne smeju koristiti u proizvodima namenjenim korisnicima mlađim od 13 godina i da je korišćenje njihovih sistema u svrhe koje mogu ugroziti maloletnike strogo zabranjeno.

Stručnjaci zaključuju da nedostatak transparentnosti oko toga koji AI modeli pokreću igračke, kao i neujednačene zaštitne mere, predstavljaju ozbiljan problem za roditelje.