Spoločnosť OpenAI patrí pri vývoji svojich nástrojov k lídrom na trhu. Ako sa však ukazuje, aj majster tesár sa raz utne a v tomto prípade sa „uťal“ poriadne. Transkripčný nástroj Whisper totiž aktuálne čelí vážnym otázkam ohľadom svojej spoľahlivosti. Píše o tom portál Techcrunch. Tento nástroj, ktorý je určený na prepisovanie zvukových záznamov, bol podrobený kritike výskumníkov, ktorí v jeho výstupoch našli nezrovnalosti – halucinácie.
Termín „halucinácie“ sa používa na popis momentov, keď AI jednoducho vymyslí informácie, ktoré v pôvodnom zázname neexistujú. V prípade transkripcie sa predpokladá, že text presne odráža originálny zvukový vstup – avšak Whisper niekedy pridáva detaily, ktoré v nahrávky nikdy neboli.
Kde sa chyby najčastejšie objavujú?
Ako uvádza Apnews, výskumníci z University of Michiga uviedli, že pri verejných stretnutiach až 80 % prepisov obsahovalo chybné údaje. Ďalšie štúdie ukázali, že vo viac ako polovici preskúmaných prípadoch nástroj Whisper uviedol nepresné alebo úplne vymyslené informácie.
Problém pre zdravotníctvo?
Aj keď si možno poviete, že pri bežnom použití nepredstavuje jemná úprava transkripcie až taký zásadný problém, netreba zabúdať, že umelá inteligencia je v poslednej dobe nasadzovaná v rôznych oblastiach vrátane zdravotníctva.
Ak by si tu systém „vymyslel“ nepravdivé liečebné postupy alebo diagnózy, dôsledky by mohli byť nebezpečné a extrémne rizikové. Aj preto ide o obrovský problém, ktorý nesmieme podceňovať.
OpenAI sľubuje vylepšenie
Zástupca spoločnosti OpenAI sa už ku celej kauze vyjadril a uviedol, že špecializované tímy už pracujú na zlepšení presnosti a na znížení halucinácií, ktoré vyvolávajú veľké obavy v technologickom svete. Spoločnosť tiež dodala, že používateľom zakazuje nasadzovať nástroj v rozhodovacích procesoch s vysokým rizikom, ako je napríklad zdravotníctvo.