Jedna od vodećih svetskih ekspertkinja za sajber bezbednost i CISO Evropske investicione banke, Jelena Zelenović Matone, biće keynote govornik na konferenciji Pulse360, koja 9. oktobra u Sava Centru okuplja stručnjake iz zemlje i regiona. U razgovoru za WebMind, Zelenović Matone otkriva šta očekuje od predavanja „Istraživanje granica veštačke inteligencije“ i koja nova pitanja o bezbednosti u digitalnom dobu otvara AI.

Na konferenciji Pulse360, koja 9. oktobra u Sava Centru okuplja stručnjake iz zemlje i regiona pod sloganom „AI & Security Puzzle“, Jelena će biti keynote govornik. 

Kako je AI postao centralna tema u sajber bezbednosti – koliko ova tehnologija može pomoći u detekciji i prevenciji napada, a gde vidite najveće rizike?

AI je postao centralna tema jer današnji sajber napadi postaju sve brži, prilagodljiviji i masovniji. Tradicionalne metode detekcije zasnovane na pravilima više nisu dovoljne – potrebno je analizirati obrasce ponašanja u realnom vremenu. AI može pomoći u otkrivanju anomalija, predviđanju potencijalnih napada i automatizaciji reakcija, što značajno smanjuje vreme odgovora.

Međutim, rizici su značajni. AI halucinacije predstavljaju problem jer modeli mogu generisati netačne ili pogrešne zaključke, što može dovesti do lažnih alarma ili do propuštanja stvarnih pretnji. Takođe, nedostatak objašnjivosti (AI explainability) znači da, ukoliko sistem ne može jasno da pokaže zašto je doneo određenu odluku, poverenje i efektivnost u bezbednosnom kontekstu dolaze u pitanje. Pored toga, pravna regulativa, kao što je Uredba Evropske unije o veštačkoj inteligenciji, jasno stavlja naglasak na visokorizične sisteme, uključujući i AI sisteme u finansijama i bezbednosti, i zahteva od institucija da obezbede transparentnost, nadzor i ljudsku kontrolu.

Koliko je realno da veštačka inteligencija postane prva linija odbrane kompanija?

AI već sada preuzima funkciju prve linije, ona može automatski analizirati mrežni saobraćaj, logove i ponašanje korisnika. Realnost je da AI može postati čuvar koji neprekidno nadgleda sistem. Međutim, potpuna automatizacija nije realna niti poželjna.

AI mora biti dopuna, a ne zamena ljudima, jer ljudski faktor donosi stratešku procenu i razumevanje šireg konteksta. EU Uredba o veštačkoj inteligenciji zahteva ljudski nadzor nad AI sistemima u kritičnim oblastima, što jasno pokazuje da AI može biti prva linija odbrane, ali nikako i poslednja. Rizik nastaje kada se organizacije previše oslone na AI, zanemarujući razvoj ljudskog kapaciteta i izgradnju kulture bezbednosti.

KOMPLETAN INTERVJU JE NA PORTALU WEBMIND.