Da li će AI morati da ima „dugme za gašenje“? Anthropic traži nova pravila
Kompanije koje razvijaju veštačku inteligenciju možda bi u budućnosti morale da imaju mehanizam za potpuno gašenje svojih AI sistema ukoliko postanu previše opasni, smatra Džek Klark, jedan od suosnivača kompanije Anthropic.
Klark je za BBC rekao da bi postojanje takozvanog „kill switcha“, odnosno mogućnosti da se AI sistem u potpunosti isključi, moglo da postane deo obaveznih pravila za kompanije koje razvijaju napredne modele. Prema njegovim rečima, posebno je važno pitanje da li bi takav mehanizam trebalo da bude proverljiv od strane nezavisne treće strane.
„Da li bi kompanijama trebalo obavezno naložiti da imaju kill switch? Da li bi taj kill switch trebalo da može da proveri treća strana? Mislim da je to nešto što će društvo želeti da zna i što bi vremenom moglo da postane deo regulative“, rekao je Clark.
„Ne možemo AI ostaviti potpuno neregulisan“
Klark tvrdi da većina velikih AI laboratorija, uključujući Anthropic, ima različite načine za zaustavljanje svojih sistema. Ipak, smatra da bi zakonodavci mogli da uvedu obavezne standarde kako bi se osiguralo da kompanije zaista mogu da ugase svoje tehnologije u slučaju ozbiljnog rizika.
Njegove izjave dolaze u trenutku kada se sve više govori o bezbednosti naprednih AI sistema i potencijalnim posledicama njihovog nekontrolisanog razvoja.
Anthropic je osnovan 2021. godine, a kompanija stoji iza AI asistenta Claude. Njeni modeli, kao i sistemi drugih vodećih AI kompanija, postaju sve sposobniji i mogu da obavljaju složenije zadatke uz sve veću autonomiju.
„Igramo se sa ogromnim rizicima. Poenta je da moramo da promenimo kurs ove industrije“, rekao je Klark.
On je, međutim, odbio da procenjuje kolika je verovatnoća da bi AI mogao da dovede do izumiranja čovečanstva, uz ocenu da takve statistike nisu naročito korisne.
Strah od AI rizika sve glasniji
Debata o potencijalnim rizicima AI tehnologije poslednjih dana dobija dodatnu pažnju. Evan Hubinger, istraživač koji je napustio Anthropic, rekao je da lično procenjuje da postoji više od 10 odsto šanse da bi AI mogao da dovede do izumiranja ljudi u narednoj deceniji.
Sličnu procenu izneo je i računarски naučnik i dobitnik Nobelove nagrade Geoffrey Hinton, poznat kao „kum veštačke inteligencije“. On je za BBC rekao da procena od 10 odsto nije nerazumna.
Zagovornici ove teorije upozoravaju da bi napredni AI sistemi jednog dana mogli da dobiju kontrolu nad važnim sistemima povezanim sa internetom i da ih iskoriste na načine koji bi mogli da ugroze ljude.
Sa druge strane, deo tehnološke industrije smatra da su ovakva upozorenja preterana, dok pojedini kritičari tvrde da kompanije koriste strah od AI kako bi opravdale svoje poslovne modele i visoke valuacije.
SAD i Velika Britanija imaju različite stavove
Ideja o obaveznom „kill switchu“ već je stigla i do američkih zakonodavaca. U SAD je predložen takozvani Kill Switch Act, koji bi kompanijama nametnuo obavezu da imaju način za gašenje problematičnih AI sistema. Određene državne institucije dobile bi i mogućnost da zahtevaju da se neki AI alat isključi ili ograniči.
Britanska vlada, međutim, nedavno je odbacila ideju o uvođenju obaveznog „kill switcha“, uz obrazloženje da takva mera ne bi sprečila razvoj ili zloupotrebu AI tehnologije na drugim mestima.
U međuvremenu, Anthropic nastavlja da razvija sve naprednije modele, dok kompanija zajedno sa drugim velikim AI laboratorijama prijavljuje incidente u kojima su njihovi AI agenti, odnosno sistemi sposobni da relativno autonomno izvršavaju zadatke, postupali na neočekivane načine.
Pitanje zato više nije samo koliko AI može da uradi, već i ko će imati poslednju reč kada bude potrebno da se zaustavi.
Saznajte sve o dešavanjima u biznisu, budite u toku sa lifestyle temama. PRIJAVITE SE NA NAŠ NEWSLETTER
Izvor: BIZLife
Foto: Magnific/Serg Nivens
