Novi izveštaj o pretnji AI po ljude: Pojava AGI sa nadljudskim mogućnostima nosi katastrofalne rizike

Novi izveštaj, koji je naručio američki Stejt department, predstavljen je kao alarm da postoje „katastrofalni“ rizici za nacionalnu bezbednost zbog veštačke inteligencije koja se brzo razvija. Dato je upozorenje da vreme ističe da savezna vlada spreči katastrofu.

Nalazi su zasnovani na intervjuima sa više od 200 ljudi tokom više od godinu dana, uključujući najviše rukovodioce iz vodećih AI kompanija, istraživače sajber bezbednosti, stručnjake za oružje za masovno uništenje i zvaničnike nacionalne bezbednosti u vladi.

Izveštaj, koji je ove nedelje objavio Gladstone AI, a čija je misija da promoviše odgovoran razvoj i usvajanje veštačke inteligencije obezbeđivanjem zaštite od pretnji nacionalne bezbednosti koje pokreće veštačka inteligencija, jasno je kazao da bi najnapredniji sistemi veštačke inteligencije mogli, u najgorem slučaju da „predstavljaju pretnju ljudskoj vrsti na nivou izumiranja“.

Upozorenje u izveštaju je još jedan podsetnik da iako potencijal veštačke inteligencije nastavlja da zaokuplja investitore i javnost, postoje i stvarne opasnosti.

„AI je već ekonomski transformativna tehnologija. Mogla bi da nam omogući da lečimo bolesti, da dolazimo do naučnih otkrića i prevazilazimo izazove za koje smo nekada mislili da su nepremostivi. Ali bi takođe mogla da donese ozbiljne rizike kojih moramo da budemo svesni. Sve veći broj dokaza, empirijska istraživanja i analize objavljene na vrhunskim AI svetskim konferencijama, sugerišu da bi AI potencijalno mogla da postane nekontrolisana“, rekao je Džeremi Haris, izvršni direktor i suosnivač Gladstone AI, za CNN.

AI (Unsplash)

Istraživači upozoravaju na dve centralne opasnosti

Kako je izvestio Gladstone AI, najnapredniji sistemi veštačke inteligencije bi mogli da budu naoružani i da tako nanesu potencijalno nepovratnu štetu. Drugo, u izveštaju se navodi da postoje privatne zabrinutosti unutar AI laboratorija da bi u nekom trenutku mogle da „izgube kontrolu“ nad samim sistemima koje razvijaju, sa „potencijalno razornim posledicama po globalnu bezbednost“.

„Porast AI i AGI, veštačke opšte inteligencije, ima potencijal da destabilizuje globalnu bezbednost na načine koji podsećaju na uvođenje nuklearnog oružja“, navodi se u izveštaju, dodajući da postoji rizik od „trke u naoružanju“, sukoba i „masovnog uništenja.”

Gladstone AI poziva na dramatične nove korake u cilju suprotstavljanja ovoj pretnji, uključujući pokretanje nove agencije za veštačku inteligenciju, nametanje „hitnih“ regulatornih mera zaštite i ograničenja koliko računarske snage može da se koristi za obuku AI modela.

„Postoji jasna i hitna potreba da američka vlada interveniše“, napisali su autori u izveštaju.

Izvršni direktor Gladstone AI Džeremi Haris je istakao da je njegov tim razgovarao sa tehničkim i vodećim timovima iz kompanija OpenAI, Google, Meta i Anthropic.

U izveštaju navodi da pritisci konkurencije guraju kompanije da ubrzaju razvoj veštačke inteligencije „na račun bezbednosti“, povećavajući izglede da najnapredniji sistemi veštačke inteligencije budu „ukradeni“ i „upotrebljeni“ protiv Sjedinjenih Država.

Amerika, AGI (Pixabay)

AGI kao najveća opasnost

Poznato je koliko AI brzo evoluira – posebno AGI, koji je hipotetički oblik AI sa ljudskom ili čak nadljudskom sposobnošću učenja.

U izveštaju piše da se AGI posmatra kao „primarni pokretač katastrofalnog rizika od gubitka kontrole“ i napominje da su OpenAI, Google DeepMind, Anthropic i Nvidia javno izjavili da bi AGI mogao da se pojavi do 2028. godine – iako drugi misle da je mnogo, mnogo dalje.

Gladstone AI je napomenuo da neslaganja oko vremenskih rokova za AGI otežavaju razvoj politika i mera zaštite i da postoji rizik da bi se, ako se tehnologija razvija sporije od očekivanog, regulacija „pokazala štetnom“.

Srodni dokument koji je objavio Gladstone AI upozorava da bi razvoj AGI i sposobnosti koje se približavaju njemu „doneo katastrofalne rizike za razliku od bilo kojeg s kojima su se Sjedinjene Države ikada suočile“.

Na primer, u izveštaju se navodi da bi sistemi veštačke inteligencije mogli da se koriste za dizajniranje i implementaciju „sajber napada sa velikim uticajem“.

Drugi primeri zbog kojih su autori zabrinuti su „masovne“ kampanje dezinformacija koje pokreće veštačka inteligencija. One mogu da destabilizuju društvo i naruše poverenje u institucije, a tu su i psihološke manipulacije.

Izvor: BIZLife

Foto: Pexels, Unsplash, Pixabay