Budućnost umjetne inteligencije: Moć inteligencije

Ovo je prvi dio serije blog postova o budućnosti umjetne inteligencije, s posebnim naglaskom na potrebu rada na njezinoj sigurnosti.

Živimo u čudnom vremenu. Ne u zadnjih par godina, s pandemijom i ratom u Ukrajini i inflacijom i svime time, već u zadnjih par tisuća godina, a posebno zadnjih nekoliko stotina. Prošli smo, u vremenu koje odgovara tek nekoliko duljih ljudskih životnih vjekova, put od konja do mlažnjaka, od nedostižnosti kontinenta s druge strane oceana do dostižnosti nebeskih tijela, od ljekovitog bilja do mRNA cjepiva, od dimnih signala do Interneta.

Uspon čovjeka

Na našem planetu sada živi vrsta o čijim svjesnim odlukama ovisi budućnost klime na tom planetu. Naš planet ima vrstu koja bi mogla odlučiti istrijebiti bilo koju vrstu, koja živi u bilo kojem kutku tog planeta, i jedina stvar kojoj bi se ta vrsta mogla nadati jest da se ta prva vrsta predomisli, ili pak da je određeni pripadnici te vrste zaštite. To nije, razumije se, uobičajeno stanje planeta Zemlje. Nama je uobičajeno, budući da će isto takvo stanje biti sutra i isto je bilo i jučer, a našem mozgu nedostaje sposobnost za doživljavanje čudnosti u situacijama koje uključuju promjene na (znatno) većim vremenskim skalama od tih, ali to ipak nije ni približno uobičajeno stanje.

Uzrok tih promjena je, naravno, uspon čovjeka, ali što je uzrok uspona čovjeka? Bilo bi reduktivno reći da je uzrok samo “inteligencija”, ali to se čini kao najbolja moguća redukcija, bez da ulazimo u brojne detalje. A drugi uzroci su također rezultat ljudskih mozgova – nije bilo nekih “darova s neba” koji su doveli do ovog stanja, samo skup ljudskih mozgova i tijela kojima oni upravljaju.

Razmatranje te činjenice, da je inteligencija sposobna dovesti do tektonskih promjena svijeta na kojem se nađe, dovodi nas do pitanja: ima li razvoj umjetne inteligencije potencijal dovesti do slične tektonske promjene?

Potencijal umjetne inteligencije

Ima jedno opažanje koje je trivijalno, ali ne i sasvim očito – to da su ljudska bića, više-manje, najgluplja moguća vrsta koja je sposobna razviti tehnologiju. Naime, da je neka gluplja vrsta sposobna za to, tada bi oni “preuzeli planet” prije nas.

To se opažanje ulančava u još jedno: to da ljudi nisu na vrhu moguće inteligencije. Tome svjedoče, između ostalog, razni slučajevi iz povijesti umjetne inteligencije (AI) u kojima sposobnost AI sustava nije stala na ljudskoj razini, npr. AI programi koji igraju šah ili igru Go se nisu zaustavili čak ni na razini najboljih ljudskih igrača, već su samo produžili na viši nivo.

To bi moglo biti dovoljno za brigu, ali treba napomenuti da taj scenarij ne počiva samo na prošlim uspjesima umjetne inteligencije; AI sustavi također zamislivo imaju mnoge druge prednosti nad ljudskom inteligencijom. Između ostaloga, oni će potencijalno imati sposobnost da:

• se dupliciraju dok kazeš copy-paste,
• nadograđuju svoju memoriju – bilo radnu ili trajnu,
• imaju trajnu memoriju koja uistinu ne propada,
• misle puno brže (neuroni rade na frekvenciji od ~1-200Hz; moderni čipovi rade na gigaherz skali),
• imaju puno brže input/output kanale sa svojom okolinom,
• poboljšavaju svoje algoritme.

Drugim riječima – parafrazirajući I. J. Gooda – jednom kada superinteligentni stroj (onaj čije sposobnosti nadmašuju čovjekove u bilo kojoj intelektualnoj aktivnosti) bude napravljen, tada bi, budući da je izgradnja takvih strojeva jedna od tih intelektualnih aktivnosti, taj stroj mogao izgraditi još bolji/inteligentniji stroj; “i tada bi došlo do ‘eksplozije inteligencije’, i inteligencija čovjeka bi bila daleko nadmašena”.

Predviđanja budućnosti

Ključno pitanje je: koliko smo daleko od realizacije takvih sustava na našem svijetu? Ako pretpostavimo da imamo tisuću godina prije stroja s intelektualnim kapacitetom čovjeka, tada ova razmatranja ne bi izgubila svu svoju relevantnost, ali bi njihova relevantnost bila više poput toga što je Johannes Kepler pisao o putovanju na Mjesec u 17. stoljeću, nego nešto što bismo trebali uvrstiti među svoje svakidašnje brige.

U 2022. AI Impacts je objavio veliku Anketu stručnjaka o napretku u AI, u kojoj su pitali AI znanstvenike koji su objavili članke na najprestižnijim AI konferencijama u 2021. o njihovom predviđanju za to kada će doći “visoka razina strojne inteligencije”, koju su definirali kao vrijeme kada “strojevi bez pomoći mogu obaviti bilo koji zadatak bolje i jeftinije nego ljudski radnici.” Objedinjujući procjene svih znanstvenika koji su se odazvali na anketu, predviđeno vrijeme do 50% šanse za visoku razinu strojne inteligencije je bilo 37 godina od 2022. Ne bi bilo uzgred spomenuti ni to da, kada su bili upitani za vjerojatnost da će dugoročni efekti napredne AI na čovječanstvo biti “ekstremno loši (npr. ljudsko istrebljenje)”, medijalni znanstvenik je procijenio tu vjerojatnost na 5%.

Napravljeno je i nešto direktnijeg kvantitativnog modeliranja. Ajeya Cotra, u svojoj analizi objavljenoj 2020., koristi “biološka čvorišta” – poput procijenjene ukupne računalne moći ljudskog mozga – da predvidi ‘transformativnu AI’ – transformativna umjetna inteligencija se u njezinoj analizi odnosi na potencijalan budući AI koji uzrokuje tranziciju usporedivu (ili značajniju) od agrikulturalne ili industrijske revolucije. Njezina krajnja procjena je bila:

• otprilike 15% vjerojatnosti za transformativnu AI do 2036. i
• medijan za transformativnu AI otprilike 2050.

U 2022., Cotra je objavila dvogodišnje ažuriranje svojih procjena, informirano (između ostalog) najnovijim dostignućima u AI. Njezine nove procjene su:

• otprilike 15% vjerojatnosti za transformativnu AI do 2030. (35% do 2036.) i
• medijan za transformativnu AI otprilike 2040.

U drugom dijelu ove serije, Mašina s intuicijom, detaljnije ćemo pogledati što se dogodilo u polju umjetne inteligencije u tih zadnjih par godina, i što ti razvoji impliciraju o budućnosti umjetne inteligencije.