Grupa stručnjaka iz oblasti veštačke inteligencije zatražila je u otvorenom pismu da im se garantuje pravo da upozoravaju javnost na ono što smatraju potencijalnim opasnostima tog softvera.
Naučnici, među kojima i stručnjaci iz kompanije OpenAI, koja je tvorac četbota ChatGPT, ocenili su da je razvoj veštačke inteligencije zabrinjavajuće brz, uprkos nedostatku pravog nadzora, a da postojeća zaštita uzbunjivača u toj oblasti nije dovoljna.
Razlog je, kako su naveli, što se ta zaštita uglavnom odnosi na uzbunjivače koji razotkriju ilegalne aktivnosti preduzeća, a da kod AI u mnogim slučajevima još ne postoje odgovarajući zakonski okviri.
"Neki od nas se sa pravom plaše odmazde, jer je u branši već bilo takvih slučajeva", navodi se u pismu, preneli su mediji.
U pismu je ocenjeno i da velike AI kompanije imaju snažne finansijske motive da izbegavaju efikasnu kontrolu, iako poseduju jako dobre interne informacije o razvoju tih tehnologija i o tome šta AI može da učini.
Naučnici su kompanije koje rade na razvoju naprednih sistema veštačke inteligencije pozvali da se pridržavaju četiri principa.
Prvi, da ne nameću sporazume kojima se zabranjuje zaposlenima da kritikuju poslodavce. Zatim i da podstiču kulturu javne kritike.
Zahtev je i da se defniše procedura koja će zaposlenima omogućiti da anonimno obaveste upravne odbore firmi ili regulatorna tela o stvarima koje smatraju rizičnim kod određenog softvera.
Popisnici pisma traže i da, ako nema drugih načina, dobiju pravo da o svojoj zabrinutosti obaveste javnost i da ne bude odmazde protiv uzbunjivača.
Apel je anonimno podržalo četvoro bivših i dva sadašnja saradnika OpenAI. Među sedam potpisnika koji su se predstavili imenom i prezimenom još je pet bivših stručnjaka te kompanije, i jedan bivši zaposleni Guglove filijale DeepMind.
Pojedini stručnjaci za AI već duže vreme upozoravaju da izuzetno brz razvoj tog softvera nosi opasnost da se on otrgne kontroli.
Jedan član upravnog odbora kompanije OpenAI rekao je da je to telo tek iz medija saznalo da je ChatGPT predstavljen javnosti i da je to izavalo zabrinutost da je ta tehnologija stavljena svima na raspolaganje bez dovoljnih mera predostrožnosti.
Izvor: Dnevni evropski servis
Foto: Pixabay
