Anfang des Jahres wurde ein neuer Service eingeführt. ChatGPT Health, das Gesundheitsdaten analysieren kann von Apple Watch und anderen Geräten. Ziel ist es, mithilfe künstlicher Intelligenz tiefere Einblicke in die persönliche Gesundheit zu gewinnen. Geoffrey A. Fowler, Technologie-Redakteur der Washington Post, beschloss, den Dienst mit seinen eigenen Daten zu testen, die er sammelt. Apple Watch seit mehr als zehn Jahren. Doch das Ergebnis schockierte ihn – ChatGPT vergab die Note F (schlechtestmögliche Bewertung) für die Herz-Kreislauf-Gesundheit.
Sie könnten sich interessieren für
Fowler geriet sofort in Panik und ging joggen. Er schickte die Ergebnisse der KI an seinen Hausarzt und fragte, ob sein Herz wirklich in so schlechtem Zustand sei. Die Antwort war beruhigend: Sein Herzinfarktrisiko sei sehr gering und die KI-Ergebnisse seien irreführend, so der Arzt.
Die KI verstand den Kontext nicht und bewertete die Daten falsch.
Funktion ChatGPT Health offensichtlich falsch interpretierte VO2-Werte max, die Apple Watch Diese Angaben dienen lediglich der Orientierung. Die Genauigkeit dieser Daten ist nicht medizinisch, sondern basiert auf Trendanalysen – sie dienen dem Vergleich von Entwicklungen im Zeitverlauf, nicht der Bestimmung des Gesundheitszustands. Dennoch liegt die Verantwortung bei ihnen. ChatGPT traf seine negative Bewertung.
Ein weiterer Fehler bestand darin, dass die Ungenauigkeiten im Herzschlag durch den Austausch alter Bauteile verursacht wurden. Apple Watch Neuere Sensoren lieferten andere, nicht schlechtere Messwerte. Die KI berücksichtigte diese Veränderung jedoch nicht und wertete die Daten fälschlicherweise als tatsächlichen Fitnessverlust.
Fotogalerie
Inkonsistenz und Informationsverlust
Fowler versuchte, die Konsistenz des Systems zu überprüfen und legte ChatGPT Immer wieder dieselbe Frage. Mal gab es eine ungenügende Note, dann eine mittelmäßige, dann eine mittelmäßige. Die KI merkte sich weder grundlegende Informationen wie Alter, Geschlecht noch aktuelle Blutwerte – obwohl sie Zugriff darauf hatte. Diese Mängel zeigen, wie schwierig es ist, zuverlässige KI für Gesundheitsanalysen zu entwickeln.
Wie der Server benachrichtigt 9to5Mac, Apple angeblich an seinem eigenen Dienst arbeitet Health+ unterstützt durch künstliche Intelligenz. Nur die Fehler ChatGPT Möglicherweise handelt es sich dabei um eine Warnung, dass qualitativ hochwertige KI im Gesundheitswesen einen viel höheren Stellenwert in Bezug auf Genauigkeit, Konsistenz und Kontext erfordert.
