Na začátku roku byla spuštěna nová služba ChatGPT Health, která umí analyzovat zdravotní data z Apple Watch a dalších zařízení. Cílem je využít umělou inteligenci pro hlubší vhled do osobního zdraví. Technologický redaktor Geoffrey A. Fowler z The Washington Post se rozhodl službu otestovat na vlastních datech, která sbírá jeho Apple Watch už více než deset let. Výsledek ho však šokoval – ChatGPT mu udělil hodnocení F (nejhorší možné) za kardiovaskulární zdraví.
Mohlo by vás zajímat
Fowler okamžitě propadl panice a vyrazil si zaběhat. Výstup z AI poslal svému praktickému lékaři s dotazem, zda je jeho srdce skutečně v tak špatném stavu. Odpověď byla uklidňující – jeho riziko infarktu je velmi nízké a výstup umělé inteligence byl podle lékaře zavádějící.
AI nepochopila kontext a špatně vyhodnotila údaje
Funkce ChatGPT Health podle všeho nesprávně interpretovala hodnoty VO2 max, které Apple Watch udávají pouze orientačně. Přesnost těchto údajů není lékařská, ale spíše trendová – slouží k porovnávání vývoje v čase, nikoliv k určení zdravotního stavu. Přesto právě na nich ChatGPT postavilo své negativní hodnocení.
Další chybou bylo to, že nepřesnosti v srdečním tepu byly způsobeny výměnou starých Apple Watch za nové – novější senzory měřily jinak, nikoliv hůř. Tuto změnu ale AI nebrala v úvahu a hodnotila data jako reálný pokles kondice.
Fotogalerie
Nekonzistence a ztráta informací
Fowler se pokusil ověřit konzistenci systému a položil ChatGPT opakovaně stejný dotaz. Jednou dostal známku F, jindy C, pak B. AI si nepamatovala základní informace jako věk, pohlaví nebo aktuální krevní výsledky – i přesto, že k nim měla přístup. Tyto nedostatky ukazují, jak těžké je vytvořit spolehlivou AI pro zdravotní analýzy.
Jak upozorňuje server 9to5Mac, Apple údajně pracuje na vlastní službě Health+ poháněné umělou inteligencí. Právě chyby ChatGPT mohou být varováním, že kvalitní zdravotní AI vyžaduje daleko vyšší důraz na přesnost, konzistenci a kontext.
