Begin dit jaar werd een nieuwe dienst gelanceerd. ChatGPT Healthdie gezondheidsgegevens kan analyseren van Apple Watch en andere apparaten. Het doel is om kunstmatige intelligentie te gebruiken om dieper inzicht te krijgen in de persoonlijke gezondheid. Geoffrey A. Fowler, technologieredacteur van The Washington Post, besloot de dienst te testen met zijn eigen gegevens, die hij verzamelt. Apple Watch meer dan tien jaar lang. Maar het resultaat schokte hem – ChatGPT gaf het een F-score (de slechtst mogelijke score) voor cardiovasculaire gezondheid.
Misschien bent u geïnteresseerd in
Fowler raakte meteen in paniek en ging hardlopen. Hij stuurde de AI-uitkomst naar zijn huisarts met de vraag of zijn hart er echt zo slecht aan toe was. Het antwoord was geruststellend: zijn risico op een hartaanval was erg laag en de AI-uitkomst was misleidend, aldus de arts.
De AI begreep de context niet en interpreteerde de gegevens verkeerd.
Functie ChatGPT Health kennelijk verkeerd geïnterpreteerde VO2-waarden max, welke Apple Watch worden uitsluitend ter indicatie gegeven. De nauwkeurigheid van deze gegevens is niet medisch, maar eerder gebaseerd op trends – ze worden gebruikt om ontwikkelingen in de tijd te vergelijken, niet om de gezondheidstoestand te bepalen. Niettemin is het aan hen dat ChatGPT heeft een negatieve beoordeling gegeven.
Een andere fout was dat de onnauwkeurigheden in de hartslag werden veroorzaakt door het vervangen van oude onderdelen. Apple Watch Nieuwere sensoren maten anders, niet slechter. De AI hield echter geen rekening met deze verandering en interpreteerde de gegevens als een daadwerkelijke afname van de conditie.
Fotogalerij
Inconsistentie en informatieverlies
Fowler probeerde de consistentie van het systeem te verifiëren en legde een plan op. ChatGPT Steeds dezelfde vraag. Eerst kreeg het een onvoldoende, toen een voldoende, en vervolgens een B. De AI onthield geen basisinformatie zoals leeftijd, geslacht of recente bloedwaarden, ook al had het daar toegang toe. Deze tekortkomingen laten zien hoe moeilijk het is om betrouwbare AI voor gezondheidsanalyses te ontwikkelen.
Zoals de server meldt 9to5Mac, Apple naar verluidt werkt hij aan zijn eigen dienst. Health+ aangedreven door kunstmatige intelligentie. Alleen de fouten. ChatGPT Ze kunnen een waarschuwing zijn dat hoogwaardige AI in de gezondheidszorg veel meer nadruk moet leggen op nauwkeurigheid, consistentie en context.
