,,Ovo je odličan primer načina na koji veštačka inteligencija sve više koristi u razne zlonamerne svrhe, bez dovoljno postavljenih barijera kako bi se zaštitio javni prostor,“ rekao je Ben Deker, koji vodi agenciju za digitalna istraživanja Memetica, za CNN.

Tejlor Svift (Screenshot YT)

Deker je rekao da se eksploatacija generativnih AI alata za kreiranje potencijalno štetnog sadržaja, koji cilja na javne ličnosti, brzo povećava i širi se brže nego ikada na društvenim mrežama.

„Kompanije društvenih medija zapravo nemaju efikasne planove da obavezno prate sadržaj“, rekao je on.

Društvene mreže protiv dezinformacija

X je, na primer, u velikoj meri uništio svoj tim za moderiranje sadržaja i oslanja se na automatizovane sisteme i izveštavanje korisnika. Meta je, takođe, smanjila svoje timove koji se bave dezinformacijama i koordinisala kampanje trolova i uznemiravanja na svojim platformama, rekli su za CNN ljudi koji direktno poznaju situaciju, izazivajući zabrinutost uoči ključnih izbora 2024. u SAD i širom sveta.

Nejasno je odakle potiču slike Tejlor Svift. Iako su neke slike pronađene na sajtovima kao što su Instagram i Reddit, one su bile široko rasprostranjen problem posebno na X-u.

Tejlor Svift (Screenshot)

Incident se takođe poklapa sa porastom alata za AI generaciju kao što su ChatGPT i Dall-E. Međutim, postoji i mnogo širi svet nemoderiranih AI modela koji nisu bezbedni za rad na platformama otvorenog koda, rekao je Deker.

Deker je, međutim, dodao da bi Tejlor kao meta mogla da privuče više pažnje na rastuće probleme oko slika koje generiše veštačka inteligencija.

Ogorčenost fanova Tejlor Svift

Pevačicini fanovi izrazili su svoje ogorčenje na društvenim mrežama ove nedelje, stavljajući ovo pitanje u prvi plan. Godine 2022., slom Ticketmaster-a uoči njenog koncerta Eras Tour-a izazvao je bes na mreži, što je dovelo do nekoliko zakonodavnih napora da se suzbije politika izdavanja karata koja nije pogodna za potrošače.

Možda će isto važiti i za fotografije generisane veštačkom inteligencijom, predložio je Deker.

„Kada imate ličnosti poput Tejlor Svift koje su na meti, možda je to ono što podstiče na akciju zakonodavaca i tehnoloških kompanija jer ne mogu da priušte da američka zvezda bude u javnoj kampanji protiv njih“, objasnio je on.

Ova vrsta tehnologije se već neko vreme koristi za kreiranje onoga što je poznato kao „pornografija iz osvete“, objavljivanje eksplicitnih slika nekoga na mreži bez njihovog pristanka, ali sada dobija novu pažnju zbog pevačicinih eksplicitnih fotografija.

Devet američkih država trenutno ima zakone koji zabranjuju pravljenje ili deljenje lažnih fotografija bez saglasnosti, koje su stvorene da oponašaju nečiju ličnost.