🤖 Wizey vs Claude — l'IA Constitutionnelle en médecine, est-ce suffisant ?
Claude a dans mes cercles la réputation d’être l’adulte de la pièce parmi les grands modèles de langage. Il refuse avec plus de soin, hallucine moins souvent et donne des réponses plus nuancées quand on le pousse sur des compromis. En tant qu’ingénieur qui livre des produits d’IA depuis une décennie, j’apprécie cela — et j’utilise Claude tous les jours pour la revue de code, l’écriture et la lecture de documents longs.
Mais un LLM bien élevé n’est pas automatiquement un outil médical sûr. Dans ce texte, je veux regarder ce que fait réellement l’IA Constitutionnelle, où Claude améliore sincèrement d’autres chatbots généralistes pour les questions de santé, et où l’architecture reste en deçà de ce qu’une IA médicale spécialisée comme Wizey est construite pour faire. C’est un texte technique, mais je garderai le jargon explicable.
Ce qu’est vraiment l’IA Constitutionnelle (en langage clair)
L’IA Constitutionnelle, introduite par l’équipe d’Anthropic dans Bai et al., 2022, est une technique d’entraînement qui utilise un ensemble écrit de principes — une « constitution » — pour guider le modèle à l’écart des sorties nuisibles, trompeuses ou peu utiles. Au lieu de s’appuyer uniquement sur des annotateurs humains comparant des paires de réponses (la boucle RLHF classique), l’IA Constitutionnelle ajoute une seconde boucle où le modèle critique ses propres sorties par rapport à la constitution, puis les révise. Anthropic appelle la technique résultante RLAIF : apprentissage par renforcement à partir du retour de l’IA.
La constitution n’est pas un règlement sur la médecine ou le droit ; c’est un ensemble de valeurs de haut niveau comme « être utile, inoffensif et honnête », refuser d’aider à la violence, ne pas prétendre être humain, être prudent sous incertitude, etc. Au fil de l’entraînement, le modèle intériorise ces principes. C’est pourquoi Claude paraît plus cohérent dans les cas limites que certains de ses pairs — son « comportement de refus » et son « comportement de réponse » sont façonnés par les mêmes valeurs plutôt que collés par-dessus comme un filtre séparé.
Pourquoi cela aide (un peu) dans les conversations médicales
Plusieurs propriétés de l’IA Constitutionnelle se traduisent par de réels avantages quand un patient pose une question de santé :
- Incertitude calibrée. Claude est plus disposé à dire « je ne suis pas sûr » ou « vous devriez vérifier avec un clinicien », ce qui en médecine est sincèrement la bonne réponse plus souvent qu’en code ou en marketing.
- Moins de confabulation fleurie. Quand les modèles ne savent pas, ils ont tendance à se tourner vers une prose à l’apparence plausible. Claude semble le faire moins souvent que les modèles de base de la classe GPT, d’après les évaluations internes d’Anthropic et des benchmarks indépendants référencés dans la littérature récente sur le raisonnement médical des LLM.
- Meilleure rétention du contexte long pour des documents complexes. Sur un rapport de consultation spécialisée propre de 30 pages, Claude reste plus fidèle à la source que certains concurrents.
Ce sont de vraies victoires. Si vous allez utiliser un LLM généraliste pour résumer un article médical ou traduire un compte rendu d’anatomopathologie, Claude est un choix défendable.
Là où l’IA Constitutionnelle cesse de suffire
La médecine n’est pas qu’un domaine critique pour la sécurité ; c’est un domaine où la bonne réponse dépend de données structurées interprétées selon des protocoles cliniques validés. Aussi forte soit-elle, l’IA Constitutionnelle ne résout pas trois problèmes centraux :
- Pas d’extraction structurée. Quand Claude lit votre PDF, il le lit comme du texte. Il ne construit pas de tableau interne de vos 60 marqueurs avec unités, plages de référence et horodatages — il traite une séquence de tokens. Les valeurs peuvent être mal lues (surtout aux frontières de l’OCR), confondues entre dosages ou discrètement omises au milieu d’un long document.
- Pas de graphe de connaissances médicales ancré. Le « savoir » de Claude est une trace statistique de son corpus d’entraînement. Il n’a pas de carte organisée qui lui indique, par exemple, que la ferritine est un marqueur de phase aiguë et qu’il faut la co-interpréter avec la CRP — il se trouve qu’il a lu beaucoup de textes qui le disent et récupère cette association de manière fiable une partie du temps.
- Pas de garde-fous stricts sur le raisonnement numérique. Le raisonnement libre est fluide et persuasif, mais non vérifié. Quand Claude explique pourquoi votre TSH et T4 libre suggèrent une hypothyroïdie subclinique, le raisonnement peut être correct, partiellement correct ou faussement assuré — vous ne pouvez pas le distinguer à partir de la prose seule sans le confronter à une source de référence.
C’est la même limite sous-jacente que celle que j’ai abordée dans la comparaison pilier Wizey vs ChatGPT : un LLM généraliste génère, tandis qu’un spécialiste extrait, valide et applique. La génération de Claude est mieux élevée, mais elle reste de la génération.
Le problème Lost in the Middle se moque de votre constitution
Même avec les excellentes performances de contexte long de Claude, le phénomène Lost in the Middle décrit par Liu et al. (2023) s’applique toujours : les LLM prêtent plus d’attention au début et à la fin de leur entrée qu’au milieu. Sur un bilan dense de 40 à 60 marqueurs étalé sur cinq pages, une valeur au milieu de la page trois peut être reconnue mais sous-pondérée dans l’interprétation finale.
L’entraînement constitutionnel ne change pas cela — c’est un artefact de l’architecture transformer et de l’encodage positionnel. Anthropic a apporté de réelles améliorations dans ses récentes sorties de modèles, mais aucun benchmark public que j’aie vu ne montre que l’effet soit entièrement éliminé pour la récupération de faits isolés en milieu de contexte.
Wizey gère cela structurellement plutôt que statistiquement. Le pipeline extrait d’abord chaque valeur dans un schéma ; l’analyse s’exécute ensuite sur un tableau de 60 lignes plutôt que sur un PDF de 5 pages. Lost in the Middle sur un court tableau structuré se comporte très différemment de Lost in the Middle sur du texte libre.
Confidentialité et HIPAA : Claude grand public vs Claude Enterprise
C’est ici qu’émerge une distinction réelle. L’API Anthropic et Claude Enterprise prennent en charge les accords HIPAA de partenaire commercial et peuvent être configurés avec une Rétention zéro des données, ce qui signifie que les prompts et réponses ne sont pas conservés au-delà de la session. C’est une option légitime pour une clinique qui construit un outil interne.
Le produit grand public sur claude.ai, aux paliers gratuit et Pro, est une autre affaire. Selon les conditions grand public, les conversations peuvent être conservées pour la revue de sécurité et de politique, et le compte n’est pas couvert par un BAA. Pour un patient souhaitant discuter de son PDF de laboratoire, c’est ce palier qu’il utiliserait effectivement — et téléverser des Informations de santé protégées à cet endroit n’est pas couvert par les protections entreprise.
En comparaison, Wizey est conçu dès le départ pour les PHI : la couche d’extraction tourne à l’intérieur d’un périmètre conforme, et l’analyse est ancrée dans un corpus clinique validé qui ne quitte pas le service.
Quand je prends Claude quand même
Pour être clair, Claude a une vraie place dans le parcours d’un patient. Personnellement, je l’utilise pour :
- Expliquer ce que veut dire un terme médical avant d’aller plus loin.
- Traduire un compte rendu d’analyses de l’espagnol ou du français vers l’anglais en préservant la nuance clinique.
- Résumer un long PDF de lettre de consultation spécialisée.
- Rédiger des questions de suivi structurées pour ma propre consultation de médecine générale.
- Lire un article d’essai clinique de façon critique.
Rien de tout cela n’est « interprète mes valeurs de laboratoire et dis-moi ce qui ne va pas ». Ce sont des tâches où la réponse est vérifiée par mon propre jugement ou par celui de mon médecin, et où le travail du LLM est un travail de langage, pas d’inférence numérique. Une analyse similaire pour un modèle à poids ouverts axé sur le raisonnement figure dans ma comparaison Wizey vs DeepSeek R1.
Comparaison côte à côte
| Dimension | Claude (Anthropic) | Wizey |
|---|---|---|
| Type de modèle | LLM généraliste (IA Constitutionnelle + RLAIF) | Pipeline médical spécialisé (OCR → extraction → graphe de connaissances → RAG validé) |
| Extraction numérique | Implicite, via la lecture de texte | Déterministe, structurée, avec unités validées |
| Ancrage du savoir médical | Trace statistique des données d’entraînement | Graphe de connaissances médicales organisé + protocoles cliniques |
| Profil d’hallucination | Inférieur à la plupart des pairs, non nul | Borné — refuse hors protocole plutôt que de fabriquer |
| Contexte long | Jusqu’à ~1 M tokens, toujours affecté par Lost in the Middle | L’analyse tourne sur un court tableau structuré, pas sur un long PDF |
| BAA HIPAA | Disponible sur API / Enterprise, pas sur grand public | Intégré pour l’usage patient |
| Meilleur usage | Lecture, écriture, explication, traduction | Interprétation de bout en bout d’un bilan biologique, suivi longitudinal |
Mini-FAQ
Claude hallucine-t-il moins que ChatGPT sur les questions médicales ? Incrémentalement oui sur de nombreux benchmarks, porté par l’IA Constitutionnelle et RLAIF. Mais « moins souvent » n’est pas « pas du tout », et le mode d’échec quand cela se produit — une réponse assurée, fluide, médicalement fausse — est identique.
Claude est-il conforme HIPAA pour téléverser des résultats d’analyses ? Uniquement sur l’API Anthropic ou Claude Enterprise avec un BAA en place. Claude.ai grand public ne l’est pas, et la Politique d’utilisation d’Anthropic place explicitement le diagnostic et le traitement médicaux dans une catégorie human-in-the-loop.
Le contexte de 1 M tokens de Claude suffit-il pour des années d’analyses ? La fenêtre est assez grande, mais Lost in the Middle continue de dégrader la récupération en milieu de contexte. L’extraction structurée vers une série temporelle l’emporte sur le fait d’insérer de force un long PDF dans le prompt.
Si Claude est plus sûr, pourquoi ne pas l’utiliser pour tout ? Un comportement de refus plus sûr n’est pas la même chose qu’une validité clinique. Wizey est conçu pour la tâche précise consistant à transformer une feuille d’analyses en une interprétation cliniquement cohérente ; Claude est conçu pour le travail de langage général.
À quoi sert Claude dans le parcours d’un patient ? Des tâches de langage — expliquer, traduire, résumer, rédiger des questions. Pas l’interprétation numérique d’un résultat multi-panel.
Le bilan
Claude est le LLM généraliste le plus réfléchi du marché, et l’IA Constitutionnelle est une réussite d’ingénierie significative. Pour un patient qui veut comprendre ce que signifie « anémie microcytaire hypochrome » ou traduire une lettre de spécialiste, c’est un outil réellement bon.
Pour la tâche plus étroite et plus difficile consistant à transformer un PDF d’analyses de plusieurs pages en une interprétation structurée, cliniquement cohérente, avec des plages de référence vérifiées, des tendances longitudinales et des motifs inter-marqueurs signalés — c’est ce pour quoi nous avons conçu Wizey. Si c’est le problème que vous cherchez à résoudre, un pipeline spécialisé correspond mieux à la forme de la tâche. Et si vous voulez une vue plus large de là où les LLM généraux s’insèrent et échouent en médecine, la pièce pilier Wizey vs ChatGPT constitue l’argumentaire plus long.
