In meinem Umfeld hat Claude den Ruf, unter den großen Sprachmodellen der Erwachsene im Raum zu sein. Claude verweigert Antworten umsichtiger, halluziniert seltener und antwortet differenzierter, wenn man es zu Abwägungen und Zielkonflikten drängt. Als Ingenieur, der seit einem Jahrzehnt KI-Produkte ausliefert, weiß ich das zu schätzen – und ich nutze Claude täglich für Code-Reviews, zum Schreiben und zum Lesen langer Dokumente.
Aber ein gut erzogenes LLM ist nicht automatisch ein sicheres medizinisches Werkzeug. In diesem Beitrag möchte ich zeigen, was Constitutional AI tatsächlich leistet, wo Claude anderen generalistischen Chatbots bei Gesundheitsfragen wirklich überlegen ist und wo die Architektur trotzdem hinter dem zurückbleibt, wofür eine spezialisierte medizinische KI wie Wizey gebaut ist. Dies ist ein technischer Beitrag, aber ich erkläre die Fachbegriffe verständlich.
Was Constitutional AI wirklich ist (verständlich erklärt)
Constitutional AI, vorgestellt vom Team von Anthropic in Bai et al., 2022, ist eine Trainingsmethode, die eine schriftlich festgelegte Sammlung von Prinzipien – eine „Verfassung“ – nutzt, um das Modell von schädlichen, irreführenden oder nutzlosen Ausgaben wegzuführen. Statt sich nur auf menschliche Bewerter zu stützen, die Antwortpaare vergleichen (die klassische RLHF-Schleife), fügt Constitutional AI eine zweite Schleife hinzu, in der das Modell seine eigenen Ausgaben an der Verfassung misst und sie anschließend überarbeitet. Anthropic nennt das daraus entstehende Verfahren RLAIF: Reinforcement Learning aus KI-Feedback.
Die Verfassung ist kein Regelwerk zu Medizin oder Recht; sie ist eine Sammlung übergeordneter Werte wie „hilfreich, harmlos und ehrlich sein“, keine Hilfe bei Gewalt zu leisten, sich nicht als Mensch auszugeben, bei Unsicherheit vorsichtig zu sein und so weiter. Im Lauf des Trainings verinnerlicht das Modell diese Prinzipien. Deshalb wirkt Claude in Grenzfällen konsistenter als manche Konkurrenten – sein „Verweigerungsverhalten“ und sein „Antwortverhalten“ gehen auf dieselben Werte zurück, statt als separater Filter obendraufgesetzt zu sein.
Warum das (ein wenig) bei medizinischen Gesprächen hilft
Einige Eigenschaften von Constitutional AI führen zu echten Vorteilen, wenn ein Patient eine Gesundheitsfrage stellt:
- Kalibrierte Unsicherheit. Claude sagt eher „Ich bin mir nicht sicher“ oder „Das sollten Sie mit einer Ärztin oder einem Arzt abklären“ – und in der Medizin ist das ehrlich gesagt häufiger die richtige Antwort als beim Programmieren oder im Marketing.
- Weniger ausufernde Konfabulation. Wenn Modelle etwas nicht wissen, neigen sie dazu, zu plausibel klingender Prosa zu greifen. Claude scheint das seltener zu tun als GPT-Modelle der Basisklasse – so interne Auswertungen von Anthropic und unabhängige Benchmarks, auf die sich aktuelle Literatur zum LLM-Reasoning in der Medizin bezieht.
- Bessere Verarbeitung langer Kontexte bei komplexen Dokumenten. Bei einem sauberen, 30-seitigen fachärztlichen Befundbericht bleibt Claude der Quelle treuer als manche Konkurrenten.
Das sind echte Pluspunkte. Wenn Sie ohnehin ein generalistisches LLM nutzen wollen, um einen medizinischen Artikel zusammenzufassen oder einen Pathologiebefund zu übersetzen, ist Claude eine vertretbare Wahl.
Wo Constitutional AI nicht mehr ausreicht
Die Medizin ist nicht nur ein sicherheitskritischer Bereich; sie ist ein Bereich, in dem die richtige Antwort von strukturierten Daten abhängt, die anhand validierter klinischer Protokolle interpretiert werden. Constitutional AI löst, so stark es auch ist, drei grundlegende Probleme nicht:
- Keine strukturierte Extraktion. Wenn Claude Ihr PDF liest, liest es dieses als Text. Es baut keine interne Tabelle Ihrer 60 Marker mit Einheiten, Referenzbereichen und Zeitstempeln auf – es verarbeitet eine Folge von Tokens. Werte können falsch gelesen (besonders an OCR-Grenzen), zwischen Testverfahren verwechselt oder mitten in einem langen Dokument stillschweigend übergangen werden.
- Kein fundierter medizinischer Wissensgraph. Das „Wissen“ von Claude ist eine statistische Spur seines Trainingskorpus. Es besitzt keine kuratierte Landkarte, die ihm etwa sagt, dass Ferritin ein Akute-Phase-Protein ist und zusammen mit dem CRP interpretiert werden muss – es hat schlicht viel Text gelesen, der das besagt, und ruft diese Verknüpfung nur manchmal zuverlässig ab.
- Keine harten Guardrails für numerisches Reasoning. Freies Reasoning ist flüssig und überzeugend, aber nicht überprüft. Wenn Claude erklärt, warum Ihr TSH zusammen mit dem freien T4 auf eine subklinische Schilddrüsenunterfunktion hindeutet, kann diese Herleitung richtig, teilweise richtig oder mit voller Überzeugung falsch sein – allein am Text erkennen Sie das nicht, ohne den Abgleich mit einer Referenzquelle.
Es ist dieselbe grundlegende Grenze, über die ich im Säulenvergleich Wizey vs ChatGPT geschrieben habe: Ein generalistisches LLM generiert, während ein Spezialist extrahiert, validiert und anwendet. Claudes Generierung ist besser erzogen, aber sie bleibt Generierung.
Das Lost-in-the-Middle-Problem schert sich nicht um Ihre Verfassung
Selbst bei Claudes hervorragender Leistung mit langen Kontexten gilt weiterhin das von Liu et al. (2023) beschriebene Lost-in-the-Middle-Phänomen: LLMs richten ihre Aufmerksamkeit stärker auf den Anfang und das Ende ihrer Eingabe als auf die Mitte. Bei einem dichten Panel mit 40–60 Markern über fünf Seiten kann ein Wert in der Mitte von Seite drei zwar erfasst, in der abschließenden Interpretation aber zu gering gewichtet werden.
Das Constitutional-Training ändert daran nichts – es ist ein Artefakt der Transformer-Architektur und der Positionskodierung. Anthropic hat mit seinen jüngsten Modellversionen echte Fortschritte erzielt, aber kein öffentlicher Benchmark, den ich gesehen habe, zeigt den Effekt für das Abrufen isolierter Fakten aus der Kontextmitte als vollständig beseitigt.
Wizey löst das strukturell statt statistisch. Die Pipeline extrahiert zunächst jeden Wert in ein Schema; die Analyse läuft dann über eine Tabelle mit 60 Zeilen statt über ein fünfseitiges PDF. Lost in the Middle verhält sich bei einer kurzen, strukturierten Tabelle ganz anders als bei freiem Text.
Datenschutz und HIPAA: Claude für Endkunden vs Claude Enterprise
Hier zeigt sich ein echter Unterschied. Die Anthropic-API und Claude Enterprise unterstützen Business Associate Agreements (BAA) nach HIPAA und lassen sich mit Zero Data Retention konfigurieren, sodass Prompts und Antworten über die Sitzung hinaus nicht gespeichert werden. Für eine Klinik, die ein internes Tool aufbaut, ist das eine legitime Option.
Das Endkundenprodukt auf claude.ai in den Tarifen Free und Pro ist eine andere Geschichte. Nach den Verbraucherbedingungen können Konversationen zu Zwecken der Sicherheits- und Richtlinienprüfung aufbewahrt werden, und das Konto ist nicht durch ein BAA abgedeckt. Für einen Patienten, der sein Labor-PDF besprechen möchte, ist genau das der Tarif, den er tatsächlich nutzen würde – und das Hochladen geschützter Gesundheitsdaten (PHI) dort fällt nicht unter den Enterprise-Schutz.
Im Vergleich dazu ist Wizey von Grund auf für PHI konzipiert: Die Extraktionsschicht läuft innerhalb einer regelkonformen Umgebung, und die Analyse stützt sich auf einen validierten klinischen Korpus, der den Dienst nicht verlässt.
Wann ich trotzdem zu Claude greife
Um es klar zu sagen: Claude hat durchaus seinen Platz im Ablauf eines Patienten. Ich persönlich nutze es für:
- Zu erklären, was ein medizinischer Begriff bedeutet, bevor ich tiefer einsteige.
- Einen Laborbefund aus dem Spanischen oder Französischen ins Englische zu übersetzen, ohne die klinischen Nuancen zu verlieren.
- Ein langes PDF eines fachärztlichen Konsiliarberichts zusammenzufassen.
- Strukturierte Anschlussfragen für meinen eigenen Hausarztbesuch zu formulieren.
- Eine Publikation zu einer klinischen Studie kritisch zu lesen.
Nichts davon heißt „meine Laborwerte interpretieren und mir sagen, was nicht stimmt“. Das sind Aufgaben, bei denen die Antwort an meinem eigenen Urteil oder dem meines Arztes überprüft wird und bei denen das LLM Spracharbeit leistet, keine numerische Schlussfolgerung. Eine ähnliche Analyse für ein reasoning-lastiges Open-Weights-Modell finden Sie in meinem Vergleich Wizey vs DeepSeek R1.
Direkter Vergleich
| Kriterium | Claude (Anthropic) | Wizey |
|---|---|---|
| Modelltyp | Generalistisches LLM (Constitutional AI + RLAIF) | Spezialisierte medizinische Pipeline (OCR → Extraktion → Wissensgraph → validiertes RAG) |
| Numerische Extraktion | Implizit, über das Lesen von Text | Deterministisch, strukturiert, mit Einheitenvalidierung |
| Fundierung des medizinischen Wissens | Statistische Spur der Trainingsdaten | Kuratierter medizinischer Wissensgraph + klinische Protokolle |
| Halluzinationsprofil | Niedriger als bei den meisten Konkurrenten, aber nicht null | Begrenzt – verweigert außerhalb des Protokolls, statt zu erfinden |
| Langer Kontext | Bis zu ~1 Mio. Tokens, weiterhin vom Lost-in-the-Middle-Effekt betroffen | Analyse läuft über eine kurze, strukturierte Tabelle, nicht über ein langes PDF |
| HIPAA-BAA | Verfügbar über API / Enterprise, nicht für Endkunden | Von Haus aus für die Patientennutzung |
| Beste Eignung | Lesen, Schreiben, Erklären, Übersetzen | Durchgängige Interpretation von Laborpanels, Langzeit-Verlaufskontrolle |
Mini-FAQ
Halluziniert Claude bei medizinischen Fragen weniger als ChatGPT? Auf vielen Benchmarks graduell ja, getrieben von Constitutional AI und RLAIF. Aber „seltener“ ist nicht „gar nicht“, und der Fehlerfall, wenn er eintritt – eine selbstbewusste, flüssige, medizinisch falsche Antwort –, ist derselbe.
Ist Claude HIPAA-konform für das Hochladen von Laborwerten? Nur über die Anthropic-API oder Claude Enterprise mit einem bestehenden BAA. Das Endkundenprodukt claude.ai ist es nicht, und die Usage Policy von Anthropic ordnet medizinische Diagnose und Behandlung ausdrücklich einer Human-in-the-Loop-Kategorie zu.
Reicht der 1-Mio.-Token-Kontext von Claude für jahrelange Laborwerte? Das Fenster ist groß genug, aber Lost in the Middle verschlechtert weiterhin den Abruf aus der Kontextmitte. Eine strukturierte Extraktion in eine Zeitreihe ist besser, als ein langes PDF mit Gewalt in den Prompt zu zwingen.
Wenn Claude sicherer ist, warum es nicht für alles nutzen? Sichereres Verweigerungsverhalten ist nicht dasselbe wie klinische Validität. Wizey ist für die spezifische Aufgabe gebaut, einen Laborbefund in eine klinisch kohärente Interpretation zu überführen; Claude ist für allgemeine Spracharbeit gebaut.
Wofür ist Claude im Ablauf eines Patienten gut? Sprachaufgaben – erklären, übersetzen, zusammenfassen, Fragen formulieren. Nicht die numerische Interpretation eines Ergebnisses aus mehreren Panels.
Das Fazit
Claude ist das durchdachteste generalistische LLM auf dem Markt, und Constitutional AI ist eine bedeutende technische Leistung. Für einen Patienten, der verstehen möchte, was „hypochrome mikrozytäre Anämie“ bedeutet, oder einen Facharztbrief übersetzen will, ist es ein wirklich gutes Werkzeug.
Für die engere und schwierigere Aufgabe, ein mehrseitiges Labor-PDF in eine strukturierte, klinisch kohärente Interpretation mit geprüften Referenzbereichen, Langzeittrends und markierten markerübergreifenden Mustern zu überführen – genau dafür haben wir Wizey gebaut. Wenn das das Problem ist, das Sie lösen möchten, passt eine spezialisierte Pipeline besser zur Form der Aufgabe. Und wenn Sie einen breiteren Überblick möchten, wo allgemeine LLMs in der Medizin taugen und wo sie scheitern, liefert der große Übersichtsartikel Wizey vs ChatGPT das längere Argument.
