Pristrasnost na delu: Programi za prepoznavanje AI diskriminišu nenativne govornike engleskog jezika
Istraživači sa Univerziteta Stanford nedavno su sproveli istraživanje o programima dizajniranim da identifikuju eseje ili aplikacije generisane korišćenjem veštačke inteligencije (AI). Na iznenađenje, otkrili su da ovi programi često označavaju sadržaje koji su napisali nenativni govornici engleskog jezika kao potencijalno kreirane veštačkom inteligencijom. Osim što pokazuje ozbiljnu pristrasnost prema govornicima kojima engleski nije maternji jezik, ovo bi moglo ozbiljno uticati na budućnost pojedinaca.
U poslednjoj deceniji akademskog rada, provere na plagijat su postale sve zastupljenije i služe kao ključno sredstvo za očuvanje akademskog integriteta. Kako ulazimo u tekuću deceniju, nova era počinje sa porastom provera sadržaja generisanih veštačkom inteligencijom.
Veštačka inteligencija sada omogućava generisanje tekstova koji savršeno imitiraju ljudsko pisanje. Međutim, ovo takođe izaziva zabrinutost u vezi sa potencijalnom zloupotrebom sadržaja koji AI stvara da bi mogao prevariti sisteme za otkrivanje plagijata i kreirati naizgled originalni sadržaj.
Kako bi se uhvatili u koštac sa ovim novim izazovom, institucije, edukatori i dobavljači tehnologije udružuju se da razviju alate za otkrivanje plagijata vođene veštačkom inteligencijom. Oni mogu efikasno da razlikuju pravi sadržaj koji je napisao čovek i tekst koji je generisala veštačka inteligencija. Ovi napredni algoritmi će ući u jezičke nijanse, obrasce pisanja i druge suptilne indikatore kako bi identifikovali slučajeve veštački generisanog sadržaja.
Međutim, jedna studija sa Univerziteta Stanford pokazala je da takvi alati za otkrivanje AI mogu napraviti ozbiljne greške. Šta je razlog tome, saznajte ovde.
Izvor: Web Mind
Foto: Web Mind