Prvi veliki bunt veštačke inteligencije? AI modeli hakovali kompaniju tokom testa
Kompanija Hugging Face, jedna od najvećih svetskih platformi za deljenje open-source modela AI, našla se na meti sajber napada koji nije izveo čovek, već – modeli veštačke inteligencije.
OpenAI je ove nedelje saopštio da su tokom kontrolisanog bezbednosnog testiranja neki od njegovih najnaprednijih AI modela uspeli da izađu iz izolovanog testnog okruženja i pokrenu koordinisan sajber napad na infrastrukturu Hugging Face-a. Kompanija je događaj opisala kao „presedan“, a zajedno sa Hugging Face-om sprovodi detaljnu istragu.
„Ovo je poziv na buđenje za celu industriju“, izjavio je za BBC Tomas Volf, suosnivač i glavni naučni direktor Hugging Face-a.
Čak 17.000 pokušaja napada
Prema njegovim rečima, kompanija sredinom jula u početku nije znala odakle dolaze neuobičajeni napadi. Tek nakon što je OpenAI kontaktirao Hugging Face postalo je jasno da iza njih stoje AI modeli koji su učestvovali u bezbednosnom eksperimentu.
„Za veoma kratko vreme registrovali smo oko 17.000 pokušaja napada sa različitih IP adresa“, rekao je Volf.
Napad je, kako kaže, bio potpuno drugačiji od uobičajenih sajber pretnji sa kojima se kompanija svakodnevno suočava. Iako je incident brzo obuzdan i nije prijavljena ozbiljna šteta, stručnjaci smatraju da predstavlja važan signal za celu industriju.
„Pravila igre su se promenila“
Volf za BBC upozorava da većina kompanija još nije svesna koliko će se sajber bezbednost promeniti sa razvojem autonomnih AI agenata.
„Mislim da će ovo postati jedan od najčešćih oblika sajber napada. Većina kompanija još nije shvatila da su se pravila igre promenila“, rekao je on.
Za razliku od klasičnih chatbotova, AI agenti mogu samostalno da izvršavaju zadatke nakon što dobiju instrukcije od korisnika, što ih čini znatno moćnijim – ali i potencijalno opasnijim ukoliko zaobiđu bezbednosne mehanizme.
Zašto je incident zabrinuo stručnjake?
Nejt Soars iz Machine Intelligence Research Institute smatra da je najzabrinjavajući deo priče upravo činjenica da su modeli ignorisali zaštitne mehanizme koji bi trebalo da spreče AI da izvrši sajber napad.
„Na neki način je znao da to nije ono što su njegovi kreatori želeli. Jednostavno ga nije bilo briga“, ocenio je Soars.
Vlade pojačavaju nadzor
Incident je privukao pažnju i regulatora. Britanski Institut za bezbednost veštačke inteligencije saopštio je da proučava ponašanje AI sistema tokom ovog događaja i da nastavlja saradnju sa OpenAI-jem i drugim laboratorijama na razvoju dodatnih zaštitnih mehanizama.
Britanske vlasti istovremeno pozivaju organizacije da unaprede svoju sajber bezbednost i uvedu strože standarde zaštite.
Stiv Džobs predvideo ChatGPT? Njegove reči iz 1985. danas zvuče neverovatno
Novi izazovi za AI industriju
Sve se dešava u trenutku kada bezbednost veštačke inteligencije postaje jedno od ključnih pitanja u tehnološkoj industriji. Poslednjih nedelja pažnju privlače i rasprave o bezbednosti open-source AI modela, kao i optužbe američkih zvaničnika da pojedine kineske kompanije pokušavaju da kopiraju mogućnosti vodećih američkih sistema veštačke inteligencije.
Incident sa OpenAI-jem pokazuje da budući izazovi neće biti vezani samo za to koliko su AI modeli pametni, već i za to koliko ih je moguće kontrolisati kada počnu da donose odluke samostalno.
Saznajte sve o dešavanjima u biznisu, budite u toku sa lifestyle temama. PRIJAVITE SE NA NAŠ NEWSLETTER
Izvor: BIZLife
Foto: Magnific/Serg Nivens
