Ilon Mask i stručnjaci traže prekid obuke AI: Strahuju da je PRETNJA čovečanstvu
Ključne ličnosti u oblasti veštačke inteligencije žele da obustave obuku moćnih sistema veštačke inteligencije (AI) zbog straha od pretnje čovečanstvu.
Oni su potpisali otvoreno pismo upozoravajući na potencijalne rizike. Istakli su da je trka za razvoj sistema veštačke inteligencije izmakla kontroli.
Vlasnik Tvitera Ilon Mask je među onima koji žele da obuka AI iznad određenog kapaciteta bude zaustavljena na najmanje šest meseci. Suosnivač Apple-a Stiv Voznijak i neki istraživači u DeepMind-u takođe su potpisali.
OpenAI, kompanija koja stoji iza ChatGPT-a, nedavno je objavila GPT-4 – najsavremeniju tehnologiju, koja je impresionirala posmatrače svojom sposobnošću da obavlja zadatke kao što je odgovaranje na pitanja o objektima na slikama.
U pismu, iz Instituta za budućnost života, koje su potpisali uticajni ljudi, traže da se razvoj privremeno zaustavi na tom nivou, upozoravajući na rizike koje bi napredniji sistemi mogli da predstavljaju u budućnosti.
„AI sistemi sa konkurentskom inteligencijom mogu da predstavljaju duboke rizike za društvo i čovečanstvo“, navode.
ChatGPT (BIZLife)
„AI treba pažljivo razvijati“
Institut za budućnost života je neprofitna organizacija koja kaže da je njena misija da „ukloni transformativne tehnologije od ekstremnih rizika velikih razmera i da koristi životu“.
Ilon Mask, vlasnik Tvitera i izvršni direktor automobilske kompanije Tesla, naveden je kao spoljni savetnik organizacije.
Naprednu veštačku inteligenciju treba pažljivo razvijati, piše u pismu, ali umesto toga, „nedavnih meseci smo videli da su laboratorije veštačke inteligencije zaključane u trci van kontrole da razviju i primene sve moćnije digitalne umove od kojih niko – čak ni njihovi kreatori – ne može da razume, predvidi ili pouzdano kontroliše“.
U pismu upozoravaju da bi veštačka inteligencija mogla da preplavi kanale informacija dezinformacijama i da zameni poslove automatizacijom.
Pismo je usledilo nakon nedavnog izveštaja investicione banke Goldman Sachs u kojem se navodi da, iako će veštačka inteligencija verovatno da poveća produktivnost, milioni poslova mogu da budu automatizovani.
Međutim, drugi stručnjaci su za BBC rekli da je efekat veštačke inteligencije na tržište rada veoma teško predvideti.
Veštačka inteligencija, AI (Pixabay)
Rizici
U nedavnom blog postu koji je citiran u pismu, OpenAI je upozorio na rizike ako se veštačka opšta inteligencija bezobzirno razvije: „Neusklađen superinteligentni AGI bi mogao da nanese tešku štetu svetu. Autokratski režim sa odlučnim vođstvom superinteligencije mogao bi da učini i to.“
„Koordinacija između AGI napora da se uspori u kritičnim momentima će verovatno da bude važna“, napisala je kompanija.
Ilon Mask je bio suosnivač OpenAI iako je dao ostavku u odboru organizacije pre nekoliko godina i tvitovao je kritički o njenom trenutnom pravcu.
Funkcije autonomne vožnje koje je napravila njegova automobilska kompanija Tesla, kao i većina sličnih sistema, koriste AI tehnologiju.
U pismu se od laboratorija za veštačku inteligenciju traži da „odmah pauziraju na najmanje šest meseci obuku AI sistema moćnijih od GPT-4“.
Ako takvo odlaganje ne može brzo da se primeni, vlade bi trebalo da se umešaju i uvedu moratorijum, istakli su. Biće potrebne i „nove i sposobne regulatorne vlasti posvećene veštačkoj inteligenciji“.
Nedavno su izneti brojni predlozi za regulisanje tehnologije u SAD, Velikoj Britaniji i EU. Međutim, Velika Britanija je odbacila namenski regulator za AI.
Izvor: BIZLife
Foto: Beta/AP, BIZLife, Pixabay
