Die algorithmische Sprechstunde: Eine kritische Analyse von ChatGPT Health im Spannungsfeld zwischen technologischer Innovation und klinischer Evidenz

Vor wenigen Tagen hat OpenAI ChatGPT Health vorgestellt. Es gibt nun ein eigenen Gesundheitsbereich innerhalb von ChatGPT, der medizinische Unterlagen und Befunde ebenso einbindet wie Daten aus Fitness- und Ernährungs-Apps, In den USA wird das Produkt als Meilenstein gefeiert: Eine KI, die persönliche Gesundheitsdaten auswerten, Befunde erklären und Menschen durch das komplexe Gesundheitssystem navigieren soll. In Europa jedoch ist es gesperrt – nicht aus Vorsicht, sondern aus Notwendigkeit.

Der Grund liegt nicht nur in der Technik. Er liegt auch im Gesundheitssystem.

Zwei Welten, ein Produkt

Das US-amerikanische Gesundheitssystem ist marktwirtschaftlich organisiert. Versorgung ist dort eine Ware. Patienten sind Kunden, Ärzte Dienstleister, Versicherungen Vertragspartner. Wer krank ist, entscheidet selbst, welche Hilfe er sich leisten kann – und trägt die finanziellen Folgen.

In diesem System ist ChatGPT Health logisch. Eine KI, die erklärt, vergleicht, Empfehlungen gibt und sogar Versicherungsoptionen vorschlägt, passt perfekt zu einer Welt, in der medizinische Entscheidungen individualisiert und kommerzialisiert sind.

Deutschland hingegen folgt einem anderen Prinzip: dem Solidarprinzip. Medizin ist hier kein Konsumprodukt, sondern eine gesellschaftliche Pflichtleistung. Ärzte sind keine Dienstleister, sondern Träger einer besonderen Verantwortung. Sie haften persönlich für Behandlungsfehler, müssen evidenzbasiert handeln und dürfen Entscheidungen nicht an Dritte delegieren – auch nicht an KI.

Genau hier beginnt das Problem.

Wenn Statistik auf Verantwortung trifft

Moderne KI-Systeme wie ChatGPT arbeiten nicht medizinisch, sondern statistisch. Sie berechnen, welche Antwort in einer bestimmten Situation wahrscheinlich klingt. Studien zeigen, dass solche Modelle in realistischen medizinischen Dialogen nur in etwa 60 % der Fälle korrekt liegen. In 40 % liefern sie falsche, unvollständige oder irreführende Informationen.

In einem marktbasierten System wie den USA bedeutet das ein finanzielles Risiko. In einem regulierten System wie Deutschland bedeutet es ein Sicherheitsproblem.

Denn wenn ein deutscher Arzt KI-Empfehlungen nutzt, haftet er für jeden Fehler. Wenn ein Patient sich auf KI verlässt und nicht zum Arzt geht, fällt er aus dem Schutzsystem heraus. Die KI schafft damit ein paralleles Entscheidungssystem ohne rechtliche oder medizinische Kontrolle.

Datenschutz ist kein Nebenthema

In den USA gelten Gesundheitsdaten nur dann als besonders geschützt, wenn sie bei Ärzten oder Krankenhäusern liegen. Gibt ein Nutzer seine Daten freiwillig an eine Tech-Plattform, gelten diese Schutzregeln nicht mehr. Das nennt man den „HIPAA-Gap“.

In Europa ist das undenkbar. Gesundheitsdaten gehören zur höchsten Schutzklasse der DSGVO. Sie dürfen nicht frei analysiert, kombiniert oder wirtschaftlich verwertet werden. Genau das aber ist das Geschäftsmodell von Plattformen wie ChatGPT Health.

Dass OpenAI den europäischen Markt vorerst ausgeschlossen hat, ist deshalb kein Zufall. Das Produkt ist nicht mit dem europäischen Rechts- und Wertesystem kompatibel.

Die eigentliche Gefahr

ChatGPT Health ist technisch beeindruckend. Aber es ist auf ein System zugeschnitten, in dem der Einzelne Risiken selbst trägt. In Deutschland hingegen ist medizinische Sicherheit kollektiv organisiert.

Wenn KI hier unkontrolliert eingeführt würde, würde sie genau das untergraben: die ärztliche Verantwortung, die Leitlinienmedizin und den Schutz der Patienten vor Fehlentscheidungen.

Oder anders gesagt:
In den USA ist ChatGPT Health ein Service.
In Deutschland wäre es ein Risiko.

Die entscheidende Frage lautet daher nicht: „Was kann diese KI?“
Sondern: „In welchem System darf sie überhaupt eingesetzt werden?“