Džefri Hinton, jedan od takozvanih kumova vještačke inteligencije (AI), pozvao je vlade da se umiješaju i pobrinu da mašine ne preuzmu kontrolu nad društvom.

Hinton je dospio na naslovne strane u maju, kada je objavio da je napustio Google poslije decenije rada da bi slobodnije govorio o opasnostima vještačke inteligencije, ubrzo nakon što je objavljivanje ChatGPT zaokupilo maštu svijeta.

Veoma cijenjeni naučnik u oblasti vještačke inteligencije, sa sjedištem na Univerzitetu u Torontu, govorio je publici u prepunoj sali na konferenciji o tehnologiji "Koližn" u tom kanadskom gradu.

Konferencija je okupila više od 30.000 osnivača startupa, investitora i tehnoloških radnika, od kojih većina žele da nauče kako da upravljaju talasom vještačke inteligencije i da ne slušaju lekcije o opasnostima koje on nosi.

- Prije nego što vještačka inteligencija bude pametnija od nas, mislim da ljude koji je razvijaju treba ohrabriti da ulože mnogo truda u razumijevanje kako bi mogla da pokuša da preuzme kontrolu - rekao je Hinton.

Produbljenje nejednakosti

- Trenutno postoji 99 veoma pametnih ljudi koji pokušavaju da poboljšaju vještačku inteligenciju i jedna veoma pametna osoba koja pokušava da shvati kako da zaustavi to da ona preuzme (sve) i koja možda želi da bude uravnoteženija - rekao je on.

AI bi mogao da produbi nejednakost, dodao je Hinton, upozoravajući da rizike koje donosi vještačka inteligencija treba shvatiti ozbiljno uprkos njegovim kritičarima koji vjeruju da pretjeruje sa pričom o rizicima.

- Mislim da je važno da ljudi shvate da ovo nije naučna fantastika, da ovo nije samo izazivanje straha - insistirao je on. "To je pravi rizik o kome moramo da razmišljamo i moramo unaprijed da smislimo kako da se nosimo sa njim".

Hinton je također izrazio zabrinutost da će vještačka inteligencija produbiti nejednakost, sa ogromnim povećanjem produktivnosti zbog njenog korišćenja u korist bogatih, a ne radnika.

- Bogatstvo neće ići ljudima koji rade. Ući će u to tako da bogatiji budu oni bogati, a ne oni siromašniji, a to je veoma loše za društvo - dodao je on.

Opasnost od lažnih vijesti

Također je ukazao na opasnost od lažnih vijesti koje kreiraju botovi u stilu ChatGPT-a i rekao da se nada da bi sadržaj generisan vještačkom inteligencijom mogao da bude obilježen na način sličan onome kako centralne banke označavaju vodenim žigom gotovinski novac.

- Veoma je važno da pokušamo, na primjer, da sve što je lažno označimo kao lažno. Da li to možemo tehnički da uradimo, ne znam - rekao je on.

Evropska unija razmatra takvu tehniku u svom zakonu o vještačkoj inteligenciji, zakonu koji će postaviti pravila za vještačku inteligenciju u Evropi, o čemu pregovaraju zakonodavci.

Hintonova lista opasnosti od vještačke inteligencije u suprotnosti je sa diskusijama na konferencijama koje su bile manje o sigurnosti i prijetnjama, a više o iskorištavanju prilike stvorene pojavom ChatGPT-a.

Prijetnja preuranjena

Investitorica rizičnog kapitala Sara Guo rekla je da je priča o AI kao egzistencijalnoj prijetnji preuranjena i uporedila je sa "govorom o prenaseljenosti na Marsu", citirajući drugog gurua vještačke inteligencije, Endrua Nga.

Ona je takođe upozorila na "zarobljavanje putem propisa" koje bi dovelo do toga da vladina intervencija zaštiti aktuelne službenike prije nego što bude imala priliku da se koristi sektorima kao što su zdravstvo, obrazovanje ili nauka.

Mišljenja su se razlikovala o tome da li će trenutni generativni giganti vještačke inteligencije, koji uglavnom podržavaju Microsoft OpenAI i Google, ostati bez premca ili će novi akteri proširiti polje sopstvenim modelima i inovacijama.

- Za pet godina i dalje zamišljam da ako želite da odete i pronađete najbolji, najtačniji, najnapredniji opći model, vjerovatno ćete morati da idete u jednu od rijetkih kompanija koje imaju kapital da to urade - rekla je Li Mari Brasvel iz kompanije za rizični kapital Kleiner Perkins.