Kreatori ChatGPT-ja zabrinuti jer možemo EMOCIONALNO da se vežemo za chat bota

Kada je u maju objavljena najnovija verzija ChatGPT-ja, pojavila se sa nekoliko glasova zbog kojih je chat bot zvučao ljudskije nego ikada.

Slušaoci su glasove nazvali „zavodljivim“, „ubedljivo ljudskim“ i „seksi“. Korisnici društvenih mreža rekli su da su se „zaljubili“ u to.

Ali u četvrtak, OpenAI, kreator ChatGPT-ja, objavio je izveštaj koji potvrđuje da ChatGPT-ove nadogradnje mogu da dovedu do emocionalne zavisnosti.

„Korisnici bi mogli da formiraju društvene odnose sa veštačkom inteligencijom, smanjujući njihovu potrebu za ljudskom interakcijom, što bi moglo da koristi usamljenim pojedincima. Međutim, može da utiče i na zdrave odnose“, navodi se u izveštaju.

ChatGPT sada može da odgovori na glasovna pitanja uz mogućnost da zapamti ključne detalje i koristi ih za personalizaciju odgovora, primetio je OpenAI. Razgovor sa ChatGPT-jem sada je veoma sličan razgovoru sa ljudskim bićem, piše Entrepreneur.

Ovi standardi interakcije sa AI bi mogli da promene način na koji ljudska bića međusobno komuniciraju, ali i da „utiču na društvene norme“, navodi se u izveštaju.

ChatGPT Chat (Freepik)

Emocionalno veza

OpenAI je naveo da su testeri razgovarali sa novim ChatGPT-jem na način koji je pokazao da bi mogli da formiraju emocionalnu vezu sa njim. Testeri su govorili stvari, kao što su: „Ovo je naš poslednji dan“, za šta je OpenAI rekao da pokazuje njihovu povezanost.

U međuvremenu, stručnjaci se pitaju da li je vreme da se preispita koliko ovi glasovi mogu da budu realistični.

„Da li je vreme da zastanemo i razmotrimo kako ova tehnologija utiče na ljudsku interakciju i odnose?“, zapitala se Alon Jamin, suosnivač i izvršni direktor Copyleaks za proveru AI plagijata.

„AI nikada ne bi trebalo da bude zamena za stvarnu interakciju ljudi“, dodala je ona.

Da bi bolje razumeli ovaj rizik, OpenAI je rekao da bi više testiranja tokom dužih perioda i nezavisno istraživanje moglo pomoći.

ChatGPT (Freepik)

Drugi rizici

Još jedan rizik koji je OpenAI istakao u izveštaju su halucinacije ili netačnosti veštačke inteligencije. Glas poput čoveka mogao bi da stvori više poverenja kod slušalaca, što bi dovelo do manje provere činjenica i više dezinformacija.

OpenAI nije prva kompanija koja je komentarisala uticaj veštačke inteligencije na društvene interakcije. Prošle nedelje, izvršni direktor Mete Mark Zakerberg kazao je da je uvideo da se mnogi korisnici obraćaju veštačkoj inteligenciji za emocionalnu podršku. Kompanija takođe navodno pokušava da plati milione slavnim ličnostima da snime svoje glasove za proizvode veštačke inteligencije.

OpenAI GPT-4o je pokrenuo razgovor o bezbednosti veštačke inteligencije, nakon ostavki vodećih istraživača kao što je bivši glavni naučnik Ilja Sutskever.

To je takođe dovelo do toga da je Skarlet Johanson pozvala kompaniju za stvaranje AI glasa koji je, kako je rekla, zvučao „jezivo slično“ njenom.

Izvor: BIZLife

Foto: Freepik