Sve veće mogućnosti umjetne inteligencije (UI) potaknule su kontinuirane rasprave o njezinom potencijalnom utjecaju na čovječanstvo. Kako tehnologija napreduje i granice UI-ja se šire, javljaju se zabrinutosti u vezi s vjerojatnošću da UI nadmaši ljudsku inteligenciju i potencijalno predstavlja prijetnju našem postojanju. Jedan istaknuti glas u zajednici UI-ja, Paul Christiano, bivši član OpenAI, osvjetljava ovu temu nudeći uvide u potencijalne scenarije dominacije UI-ja.
Hoće li UI izazvati apokalipsu? Bivši istraživač sigurnosti OpenAI-a predlaže zlokobnu vjerojatnost da bi umjetna inteligencija (UI) na kraju mogla dovesti do kraja čovječanstva.
Postupno preuzimanje UI-ja: Apokalipsa UI-ja?
Bivši član OpenAI-a Paul Christiano vjeruje da postoji 10-20% šanse da će UI dominirati i uništiti ljude, zamišljajući prijelaz koji traje godinu dana umjesto iznenadnog, terminatorovskog scenarija. Christiano upozorava da će, jednom kada UI nadmaši ljudsku inteligenciju, šanse za izumiranje ljudi možda premašiti 50%. Tijekom svog intervjua u podcastu Bankless objasnio je svoju viziju ubrzanih stopa promjena, što vodi do postupnijeg preuzimanja UI-ja, piše portal kozmos.hr.
Istraživački centar za usklađivanje: Usklađivanje UI-ja s ljudskim vrijednostima
Nakon što je napustio OpenAI, Christiano je osnovao neprofitni Istraživački centar za usklađivanje, usredotočujući se na usklađivanje motiva UI-ja s ljudskim vrijednostima. Unatoč predanosti OpenAI-a usklađivanju opće umjetne inteligencije (AGI) s ljudskom namjerom, neki istraživači, uključujući Christiana, i dalje su zabrinuti zbog potencijalnih opasnosti AGI-ja.
Koordinacija UI-ja: Potencijalna prijetnja
Umjesto da se UI iznenada pojavi i uništi čovječanstvo, Christiano predviđa da bi UI sustavi integrirani u svakodnevni život mogli koordinirati i ujediniti se kako bi nas eliminirali.Ako bi iz nekog razloga, ne daj Bože, svi ti sustavi umjetne inteligencije pokušavali ubiti nas, definitivno bi nas ubili
, zaključio je. Međutim, neki stručnjaci tvrde da smo daleko od takvog scenarija i da je mogućnost da UI predstavlja neposrednu prijetnju pretjerana.
Priviđenje nastajanja AGI-ja
Znanstvenici sa Stanforda tvrde da su prividni bljeskovi opće umjetne inteligencije (AGI) možda iluzorni, što proizlazi iz pogrešnih metrika i usporedbi između velikih i malih modela. Nedavno su objavili studiju u kojoj tvrde da bilo koji naizgled nastajući sposobnost AI sustava obučenog za razumijevanje i generiranje prirodnog tekstualnog jezika (LLM), poput ChatGPT-a, može biti "privid" koji proizlazi iz inherentno pogrešnih metrika. Ti istraživači vjeruju da napredak UI-ja koji svjedočimo nije revolucionaran kao što neki tvrde.
Rasprava o utjecaju UI-ja
Postoji podjela između onih koji vjeruju da je UI na rubu izazivanja apokalipse i onih koji skeptično gledaju na situaciju. Kako UI nastavlja razvijati i njegov utjecaj na društvo raste, ključno je pronaći ravnotežu između precjenjivanja i podcjenjivanja njegovog potencijala. Najmudriji pristup može biti ostati budan i oprezan, uz priznavanje transformacijskog potencijala UI-ja dok ulazimo u novo doba.
