Stvoren novi program umjetne inteligencije, autori strahuju od zloporabe

ilustracija

Iz istraživačke neprofitne tvrtke OpenAI iz San Francisca (SAD) tvrde kako imaju 'opak' računalni sustav za generiranje teksta.

Tzv. GPT-2, koji se "ponaša poput kameleona" predstavit će se zasad samo u nepotpunoj verziji. U tvrtci tvrde kako su "zabrinuti zbog moguće zloporabe te tehnologije".
Razlog uznemirenosti je u tome što je računalni program, koji proizvodi odlomke teksta temeljem onoga što sam pročita, pomalo predobar u tome što radi - napominju u ovoj tvrtci.

Naime, ozloglašeni sustav je sposoban osmišljavati "sintetički tekst izvrsne kvalitete". Njega bi, navodno, pojedinci mogli rabiti za kreiranje lažnih vijesti, oponašanje ljudi ili za prijevare i zlostavljanja na društvenim medijima.

Program GPT-2 ima generator teksta s bazom podataka od 8 milijuna web stranica koje apsorbira. Nakon pregleda je famozna AI mogla predstaviti nasumičan, ali uvjerljiv tekst. Teme su bile o slavnim osobama, klimatskim promjenama, nekom ratu ili o prozi.

Dok neki drže kako je strah od prevelikih sposobnosti GPT-2 neutemeljen i kako se zapravo radi o samopromociji tvrtke, OpenAI inzistira kako je razlog za zabrinutost opravdan.

Smatraju kako kombinacija takvog programa koji stvara kvalitetne tekstove s programom koji generira slike nepostojećih osoba, može stvoriti pomutnju i pravu jednu pojavu lažnih vijesti na društvenim mrežama.

S njima se baš i ne slaže računalni znanstvenik Christopher Manning sa Sveučilišta Stanford. Za njega je program tvrtke OpenAI naprosto bolja inačica drugih generatora teksta te vjeruje kako mjesta za strah ne treba biti.

geek.hr
srijeda, 27. veljače, 2019. - 11:56