Lekari koriste AI za transkripciju razgovora sa pacijentima: Istraživači kažu da alat GREŠI
Tvorac ChatGPT-a OpenAI je predstavio Whisper pre dve godine kao AI alat koji transkribuje govor u tekst. Sada alat koristi AI zdravstvena kompanija Nabla i njenih 45.000 kliničara kako bi pomogli u transkripciji medicinskih razgovora u više od 85 organizacija, kao što je Univerzitet u Ajovi Health Care.
Međutim, nova istraživanja pokazuju da Whisper „izmišlja“, odnosno dodaje rečenice koje niko nije izgovorio u transkripte. Zato se postavlja pitanje koliko brzo bi medicinske ustanove trebalo da usvoje veštačku inteligenciju ako ona pravi greške.
AI (Freepik)
Posledice po pacijente
Pogrešne transkripcije razgovora između lekara i pacijenata mogle bi da imaju „zaista teške posledice“, rekla je za AP Alondra Nelson, profesorka na Institutu za napredne studije u Prinstonu.
„Niko ne želi pogrešnu dijagnozu“, naveo je Nelson.
Ranije ove godine, istraživači sa Univerziteta Cornell, Univerziteta u Njujorku, Univerziteta Vašingtona i Univerziteta Virdžinije objavili su studiju koja je pratila koliko puta je OpenAI-jeva Whisper usluga pretvaranja govora u tekst halucinirala kada je morala da transkribuje 13.140 audio snimaka prosečne dužine od 10 sekundi. Zvuk je preuzet iz TalkBank-ove AphasiaBank, baze podataka koja sadrži glasove ljudi sa afazijom, jezičkim poremećajem koji otežava komunikaciju.
Istraživači su pronašli 312 slučajeva „haluciniranih fraza ili rečenica, koje nisu postojale ni u kom obliku u osnovnom zvuku“ kada su sproveli eksperiment u proleće 2023.
Posao, lekari (Unsplash)
Govor mržnje i netačnosti
Među haluciniranim transkriptima, 38 odsto je sadržalo govor mržnje, nasilje ili stereotipe, koji nisu odgovarali kontekstu razgovora.
„Naš rad pokazuje da postoji ozbiljna zabrinutost u vezi sa nepreciznošću Whispera zbog nepredvidivih halucinacija“, napisali su istraživači.
Oni kažu da bi studija takođe mogla da ukaže na pristranost u radu Whispera ili tendenciju da češće unosi netačnosti za određenu grupu – a ne samo za ljude sa afazijom.
„Na osnovu naših nalaza, predlažemo da se ova vrsta pristrasnosti može javiti i za bilo koju demografsku grupu sa oštećenjima govora koja dovode do više disfluentnosti odnosno zamuckivanja“, naveli su istraživači.
Saznajte sve o dešavanjima u biznisu, budite u toku sa lifestyle temama. PRIJAVITE SE NA NAŠ NEWSLETTER.
Izvor: BIZLife
Foto: Freepik, Unsplash
