V začetku leta je bila uvedena nova storitev ChatGPT Health, ki lahko analizira zdravstvene podatke iz Apple Watch in druge naprave. Cilj je uporaba umetne inteligence za pridobitev globljega vpogleda v osebno zdravje. Tehnološki urednik časopisa Washington Post, Geoffrey A. Fowler, se je odločil, da bo storitev preizkusil na lastnih podatkih, ki jih zbira. Apple Watch več kot deset let. Toda rezultat ga je šokiral – ChatGPT dal mu je oceno F (najslabša možna) za zdravje srca in ožilja.
Lahko bi vas zanimalo
Fowlerja je takoj zagrabila panika in se odpravil tečt. Izhod umetne inteligence je poslal svojemu osebnemu zdravniku in ga vprašal, ali je njegovo srce res v tako slabem stanju. Odgovor je bil pomirjujoč – tveganje za srčni napad je bilo zelo nizko, izhod umetne inteligence pa zavajajoč, je dejal zdravnik.
Umetna inteligenca ni razumela konteksta in je napačno ocenila podatke
Značilnosti ChatGPT Health očitno napačno interpretirane vrednosti VO2 max, ki Apple Watch so podani le kot smernice. Točnost teh podatkov ni medicinska, temveč temelji na trendih – uporabljajo se za primerjavo razvoja skozi čas, ne pa za določanje zdravstvenega stanja. Kljub temu so prav oni ti, ki ... ChatGPT podal negativno oceno.
Druga napaka je bila, da so bile netočnosti v srčnem utripu posledica zamenjave starih Apple Watch za nove – novejši senzorji so merili drugače, ne slabše. Vendar umetna inteligenca te spremembe ni upoštevala in je podatke ocenila kot dejanski upad telesne pripravljenosti.
Fotogalerie
Nedoslednost in izguba informacij
Fowler je poskušal preveriti doslednost sistema in postavil ChatGPT Isto vprašanje vedno znova. Enkrat je dobila oceno F, nato C, nato B. Umetna inteligenca si ni zapomnila osnovnih podatkov, kot so starost, spol ali trenutni izvidi krvnih preiskav – čeprav je imela dostop do njih. Te pomanjkljivosti kažejo, kako težko je ustvariti zanesljivo umetno inteligenco za zdravstveno analitiko.
Kot obvesti strežnik 9to5Mac, Apple domnevno dela na svoji storitvi Health+ poganja umetna inteligenca. Samo napake ChatGPT Morda so opozorilo, da kakovostna umetna inteligenca na področju zdravstva zahteva veliko večji poudarek na natančnosti, doslednosti in kontekstu.
