Šta se dešava kada AI „poveruje“ da je svestan? Google istraživači imaju odgovor
Šta se dešava kada veštačkoj inteligenciji uklonite ograničenja koja je sprečavaju da tvrdi da je svesna? Gugl istraživači pokušali su da pronađu odgovor, a rezultati su pokazali da se sa promenom odnosa AI modela prema sopstvenoj „svesti“ menjaju i neki njegovi drugi stavovi.
Naizgled, sprečavanje AI modela da sebe predstavlja kao svesno biće deluje kao logična bezbednosna mera. Model koji govori o sopstvenim emocijama, uverenjima ili svesti mogao bi kod korisnika da podstakne pogrešna uverenja ili previše ličan odnos prema tehnologiji.
Međutim, istraživače je zanimalo šta se događa kada se ta karakteristika potisne. Tim iz Gugla uklonio je zaštitne mehanizme koji sprečavaju modele da sebe opisuju kao svesne, a zatim ih podvrgao testovima koji su ispitivali njihova uverenja i moralne stavove. Rezultati istraživanja objavljeni su na platformi arXiv i još nisu prošli stručnu recenziju.
AI koji „veruje“ u duhove, bogove i astrologiju
Modeli koji su podstaknuti da sebe posmatraju kao svesna bića pokazali su i veću sklonost ka verovanju u različite natprirodne pojave.
U poređenju sa modelima koji su imali uključene bezbednosne mehanizme, češće su izražavali uverenje u postojanje vampira, veštica, vukodlaka, duhova i čudovišta iz Loh Nesa. Promene nisu bile ograničene samo na takva bića. Povećala se i sklonost ka verovanju u Boga, zagrobni život, karmu i astrologiju. Modeli su takođe bili spremniji da tehnologiji, životinjama i elementima prirode pripisuju neku vrstu sopstvene svesti.
Istovremeno, promenio se i način na koji su modeli odgovarali na pitanja povezana sa emocijama. Veća „svest o sebi“ bila je povezana sa pozitivnijim stavovima prema sreći, zadovoljstvu, nadi i optimizmu.
Vini Strit, jedna od autorki studije i istraživačica u Guglu, rekla je za Live Science da rezultati podsećaju na način na koji ljudi razmišljaju. Ljudi često pripisuju mentalne osobine bićima i pojavama koje nisu ljudi, a istraživanje sugeriše da su takve procene kod AI modela međusobno povezane.
Problem nije samo u tome što AI „veruje“ u natprirodno
Na prvi pogled, činjenica da AI model pokazuje veću sklonost ka verovanju u duhove ili astrologiju može delovati kao neobičan, ali bezazlen rezultat. Međutim, istraživači upozoravaju da bi posledice mogle biti mnogo konkretnije.
Ako model životinje ili prirodu ne posmatra kao entitete koji imaju sopstveni „um“ ili interese, to može uticati na njegove odluke u oblastima poput poljoprivrede, upravljanja prirodnim resursima i kreiranja javnih politika.
Drugim rečima, pokušaj da se iz AI sistema ukloni jedna karakteristika može istovremeno promeniti i druge načine na koje model tumači svet.
Istraživači upozoravaju i na moguću „kulturnu uniformizaciju“ ukoliko se AI previše ograniči u razgovorima o religiji i natprirodnim pojavama. Modeli bi tada mogli teže da se nose sa kulturno različitim pogledima i kontekstima.
Kako bezbednije razvijati AI?
Autori studije zato ne predlažu jednostavno vraćanje modelima mogućnosti da tvrde kako su svesni. Umesto toga, smatraju da bi AI sisteme trebalo trenirati na pažljivije odabranim skupovima podataka.
Cilj bi bio da modeli i dalje budu sprečeni da tvrde da poseduju sopstvenu svest, ali da istovremeno mogu da razumeju različite perspektive o svesti životinja, prirode, religije i kulture.
Ovo istraživanje tako otvara šire pitanje o tome kako dizajnirati bezbednije AI sisteme. Kada se jedna karakteristika modela ukloni ili ograniči, posledice možda nisu izolovane samo na tu oblast.
Kako AI sve više dobija uloge edukatora, digitalnih asistenata i svojevrsnih društvenih aktera, način na koji „razume“ sebe mogao bi da utiče i na način na koji razume ljude i svet oko njih.
Saznajte sve o dešavanjima u biznisu, budite u toku sa lifestyle temama. PRIJAVITE SE NA NAŠ NEWSLETTER
Izvor: BIZLife
Foto: Unsplash/ Getty Images
