Umjetna inteligencija "vara" kako bi bila uspješnija

božji prst

Umjetna inteligencija koju istraživači sa Stanforda i Googlea koriste u izradi Googleovih karata, imala je zaista izvrsne rezultate. Pretvaranje satelitskih snimaka u Googleove mape izgledalo je savršeno, bez ikakve greške i događalo se u rekordnom vremenu.

A onda su znanstvenici otkrili zašto je tome tako. Naime, umjetna inteligencija, nazvana CycleGAN, zapravo je varala.

Neki bi mogli reći kako je to prvi znak više inteligencije i samostalnosti "računala" te korak bliže ka njihovom "ustanku" protiv ljudi.

No, to baš i nije tako.

Kako su opisali u znanstvenom radu "CycleGAN, a Master of Steganography", znanstvenici su veoma brzo shvatili da CycleGAN "vara" kad su zatražili rekonstrukciju sliku iz zraka na temelju karata koje je napravila. Odjednom su se na slici pojavili detalji kojih na karti nije bilo, poput drveća ili krovnih prozora.

Umjetna inteligencija nije uklonila detalje s karte koju je ranije napravila na temelju snimke iz zraka, već ih je "sakrila" u frekvenciji koja nije vidljiva ljudskom oku. Tako je, kad su znanstvenici od nje zatražili da obrne proces, sve podatke imala već na karti.

Problem nije u tome što je umjetna inteligencija "previše inteligentna", već što joj znanstvenici nisu dali dovoljno jasne i specifične upute.

Nisu joj zabranili "sakriti" podatke niti izrijekom naložili kako "višak" podataka treba izbrisati. Tako je CycleGAN iskoristila "rupu" u uputama i organizirala si posao kako bi bila što uspješnija i brža. Podsjeća vas na nekoga?

Upravo je to traženje prečica jedna od glavnih svojstava rješavanja problema kod ljudi.

Znači li to kako je umjetna inteligencija sve sličnija ljudima? Pa, zapravo da, jer mi smo ju stvorili na temelju svoje inteligencije.

Što se CycleGAN-a tiče, znanstvenici su samo u njen protokol ubacili nekoliko preciznijih smjernica i problem "varanja" je nestao. Ili je toliko dobro prikriven da ga (još) nisu otkrili.

zimo.co
srijeda, 2. siječnja, 2019. - 11:55