Nova era umjetne inteligencije i moć eksponencijalnog rasta

Nastavno na posljednju seriju blogova, nastavit ćemo o Novoj eri umjetne inteligencije. Jedna od rijetkih stvari u vezi umjetne inteligencije oko koje se skoro svi mogu složiti jest to da je u stanju brze promjene i širenja. Iako se akademski pokušaji protežu od sredine prošlog stoljeća, postoji opipljiv osjećaj da se ništa posebno nije dogodilo, barem što se tiče postojanja zapravo korisnih sustava, sve do posljednjih nekoliko godina.

Umjetna inteligencija praktički nije mogla razlikovati pse od mačaka, sve do nekog trenutka u posljednjih deset godina. Štoviše, nije mogla fleksibilno razgovarati prirodnim jezikom o praktički neograničenom broju tema, sve do posljednjih nekoliko godina. AI, niti bilo koji ljudski znanstvenik ili skupina znanstvenika, nije mogao riješiti problem predviđanja strukture proteina, sve dok ga AI nije riješio u zadnjih par godina.

Evo upečatljivog primjera ovog ubrzanog napretka. Ovo je slika koju bi najbolji text-to-image model (model koji uzima određeni tekst i na temelju njega generira sliku) iz 2015. mogao generirati ako biste od njega zatražili WC koji stoji otvoren na travnatom polju.

A ovo je ono što najbolji model 2022. može:

Što je, dakle, uzrokovalo ovakvo ubrzanje?

Kada bismo težili maksimalnoj konciznosti, mogli bismo proći samo s riječima “duboko učenje”. Međutim, evo nekoliko drugih čimbenika koji ovaj napredak stavljaju u kontekst:

1. Od 2012. broj računskih operacija koje se koristi za treniranje najmoćnijih modela porastao je milijardu puta, s vremenom udvostručenja od 3,4 mjeseca.
2. Algoritmi također eksponencijalno postaju sve bolji — na primjer, potrebno je 44 puta manje računskih operacija da se najučinkovitiji model 2020. uvježba na razinu najboljeg modela iz 2012., što odgovara prepolovljavanju svakih 16 mjeseci.
3. Računalna moć također postaje eksponencijalno jeftinija: FLOP/s po dolaru (za GPU-e, koji su glavni motor treniranja modernih AI sustava) se udvostručava svake 2,95 godine.

Sposobnost eksponencijalnog rasta da zavara ljudska bića ušivena je u jednu od klasičnih priča o ljudskoj gluposti — onu o šahu i riži, u kojoj kralj nudi izumitelju šaha bilo koju nagradu koju želi, na što izumitelj zatraži jedno zrno riže za prvo polje šahovske ploče, dva za drugo, četiri za treće, osam za četvrto itd. Nakon što je to čuo, kralj, misleći da je to mala cijena za takvu igru, odmah pristane — što rezultira, naravno, time da izumitelj posjeduje svu rižu. S obzirom, dakle, da ovu lekciju znamo toliko dugo, možda bi bilo mudro ne zanemariti eksponencijalan rast opet, misleći da se relativna mirnoća našeg sadašnjeg stanja sigurno proteže do neodređene budućnosti.

Koji su plodovi povećanja ovakvog sustava, saznajte u našem sljedećem blogu!

*Image by Freepik