Reuters je objavio da je nekoliko istraživača iz OpenAI-a napisalo je pismo upravnom odboru kompanije upozoravajući na moćno otkriće na polju veštačke inteligencije (AI) za koje su rekli da bi moglo biti pretnja čovečanstvu, rekle su Reutersu dve osobe upoznate s tim pitanjem.

To pismo, o kom se dosad nije izveštavalo i razvoj algoritma veštačke inteligencije bili su ključni događaji uoči smene Altmana, kog mnogi smatraju ocem generativne AI, rekla su dva izvora. Pre njegovog jučerašnjeg povratka u Open AI, više od 700 zaposlenih pretilo je da će dati otkaz i pridružiti se osnivaču u Microsoftu u znak solidarnosti sa svojim otpuštenim čelnikom.

Reutersovi izvori su opisali pismo kao jedan od faktora na dužem popisu pritužbi odbora koje su dovele do Altmanove smene, među kojima je bila i zabrinutost zbog komercijalizacije razvoja AI-ja pre nego što se u potpunosti razumeju posledice. Reuters nije uspeo pregledati kopiju pisma, a osoblje koje je napisalo pismo nije odgovorilo na zahtjeve za komentar.

OpenAI u internoj poruci potvrdio projekat Q*. Što je to?

Nakon što ga je kontaktirao Reuters, OpenAI, koji je odbio komentarisati pismo, potvrdio je u internoj poruci osoblju projekat pod nazivom Q* i pismo upravi prije smene Altmana, rekao je jedan od izvora. Glasnogovornik OpenAI-ja rekao je da je poruka, koju je poslala dugogodišnja direktorka Mira Murati, upozorila osoblje na određene medijske priče, ali nije komentarisala njihovu tačnost.

Neki u OpenAI-ju vjeruju da bi projekt Q* mogao biti oznaka za značaja napredak u potrazi za onim što je poznato kao umjetna opća inteligencija (AGI), rekao je jedan izvora za Reuters. OpenAI definira AGI kao autonomne sustave koji nadmašuju ljude u većini ekonomski vrijednih zadaća.

Uz pomoć golemih računalnih resursa, novi je model mogao rešiti određene matematičke probleme, rekla je osoba pod uslovom da ostane anonimna, jer osoba nije ovlašćena da govori u ime kompanije. Iako su matematiku izvodili samo na nivou učenika osnovne škole, rešavanje takvih testova učinilo je istraživače vrlo optimističnim u pogledu budućeg uspeha Q*-a, rekao je izvor.

Reuters nije mogao nezavisno potvrditi mogućnosti Q* koje su opisivali istraživači.

Što može generativni AI, a što može AGI?

Istraživači smatraju da je matematika granica generativnog razvoja veštačke inteligencije. Trenutno je generativna veštačka inteligencija dobra u pisanju i prevođenju jezika statističkim predviđanjem sledeće reči, a odgovori na isto pitanje mogu uveliko varirati. Ali, sposobnosti rešavanja matematičkih zadataka, gde postoji samo jedan tačan odgovor, implicira da bi veštačka inteligencija imala veće sposobnosti rasuđivanja nalik ljudskoj inteligenciji. To bi se moglo, veruju istraživački AI-ja, primeniti i na nova naučna istraživanja.

Za razliku od kalkulatora koji može rešiti ograničeni broj operacija, AGI može generalizovati, učiti i razumeti.

ChatGPT, Sem Altman (Freepik)

U svom pismu odboru, istraživači su naglasili snagu i potencijalnu opasnost veštačke inteligencije, rekli su izvori ne navodeći tačne bezbednosne probleme navedene u pismu. Među IT stručnjacima već se dugo raspravlja o opasnosti koju predstavljaju visokointeligentne mašine ako, na primer, odluče da im je uništenje čovečanstva u interesu.

Istraživači su takođe naglasili rad tima na projektu “AI naučnik”, čije postojanje je potvrdilo više izvora. Grupa, formirana kombinacijom timova nazvanih “Code Gen” i “Math Gen”, istraživala je kako optimizovati postojeće modele veštačke inteligencije kako bi poboljšala svoje razmišljanje i na kraju obavila naučni rad, rekao je jedan od ljudi.

Veo neznanja

Altman je vodio napore da ChatGPT postane jedna od najbrže rastućih softverskih aplikacija u istoriji i privukao je ulaganja, ali i Microsoftove resurse koji su potrebni da se približi AGI-ju.

Osim što je najavio mnoštvo novih alata u demonstraciji ovog meseca, Altman je prošle nedelje na samitu svetskih lidera u San Francisku zadirkivao kako veruje da su veliki pomaci na vidiku.

“Četiri puta u istoriji OpenAI-ja, poslednji put je bilo u poslednjih nekoliko nedelja, bio sam u prostoriji, kada smo na neki način gurnuli veo neznanja unazad i granicu otkrića unapred. Napraviti tako nešto je profesionalna čast života,” rekao je na samitu Azijsko-pacifičke privredne saradnje.

Dan kasnije, odbor je smenio Altmana. Juče ga je ponovo zaposlio.

Nema kraja drami u OpenAI: Naprasno smenjeni Altman opet je šef