Nos meus círculos, o Claude tem a fama de ser o adulto da sala entre os grandes modelos de linguagem. Na minha experiência, ele recusa com mais cautela, alucina com menos frequência e dá respostas mais matizadas quando você o pressiona sobre os trade-offs. Como engenheiro que lança produtos de IA há uma década, eu valorizo isso — e uso o Claude todos os dias para revisão de código, escrita e leitura de documentos longos.
Mas um LLM bem-comportado não é, automaticamente, uma ferramenta médica segura. Neste artigo, quero examinar o que a Constitutional AI realmente faz, onde o Claude de fato supera outros chatbots de uso geral em questões de saúde e onde a arquitetura ainda fica aquém do que uma IA médica especializada como o Wizey foi projetada para fazer. É um texto técnico, mas vou manter o jargão sempre explicável.
O que é, de fato, a Constitutional AI (em linguagem simples)
A Constitutional AI, apresentada pela equipe da Anthropic em Bai et al., 2022, é uma técnica de treinamento que usa um conjunto escrito de princípios — uma “constituição” — para afastar o modelo de respostas nocivas, enganosas ou inúteis. Em vez de depender apenas de anotadores humanos comparando pares de respostas (o clássico ciclo de RLHF), a Constitutional AI acrescenta um segundo ciclo em que o próprio modelo critica suas saídas à luz da constituição e depois as revisa. A Anthropic chama a técnica resultante de RLAIF: aprendizado por reforço a partir de feedback de IA.
A constituição não é um manual de regras sobre medicina ou direito; é um conjunto de valores de alto nível como “seja útil, inofensivo e honesto”, recuse-se a ajudar com violência, não finja ser humano, seja cauteloso diante da incerteza, e assim por diante. Ao longo do treinamento, o modelo internaliza esses princípios. É por isso que o Claude parece mais consistente em casos-limite do que alguns concorrentes — seu “comportamento de recusa” e seu “comportamento de resposta” são moldados pelos mesmos valores, em vez de colados por cima como um filtro à parte.
Por que isso ajuda (um pouco) nas conversas médicas
Algumas propriedades da Constitutional AI se traduzem em vantagens reais quando um paciente faz uma pergunta de saúde:
- Incerteza calibrada. O Claude se dispõe mais a dizer “não tenho certeza” ou “confirme isso com um profissional de saúde” — o que, na medicina, é de fato a resposta certa com muito mais frequência do que em código ou marketing.
- Menos confabulação floreada. Quando não sabem, os modelos tendem a recorrer a uma prosa de aparência plausível. As próprias avaliações da Anthropic registram menos afirmações falsas nas versões mais novas do Claude do que nas anteriores — no Claude 2.1, metade do que no Claude 2.0.
- Melhor retenção de contexto longo em documentos complexos. Na minha experiência, em um relatório de consulta especializada de 30 páginas, bem legível, o Claude se mantém mais fiel à fonte do que alguns concorrentes.
São ganhos reais. Se você vai usar um LLM de uso geral para resumir um artigo médico ou traduzir um laudo de patologia, o Claude é uma escolha defensável.
Onde a Constitutional AI deixa de ser suficiente
A medicina não é apenas um domínio crítico para a segurança; é um domínio em que a resposta correta depende de dados estruturados interpretados à luz de protocolos clínicos validados. A Constitutional AI, por mais robusta que seja, não resolve três problemas centrais:
- Nenhuma extração estruturada. Quando o Claude lê o seu PDF, ele o lê como texto. Ele não monta uma tabela interna dos seus 60 marcadores com unidades, valores de referência e datas — ele processa uma sequência de tokens. Valores podem ser lidos errado (sobretudo nos limites do OCR), confundidos entre exames diferentes ou descartados silenciosamente no meio de um documento longo.
- Nenhum grafo de conhecimento médico fundamentado. O “conhecimento” do Claude é um traço estatístico do seu corpus de treinamento. Ele não tem um mapa curado que lhe diga, por exemplo, que a ferritina é uma proteína de fase aguda e precisa ser interpretada em conjunto com a PCR — ele apenas leu muito texto que afirma isso e recupera essa associação de forma confiável apenas parte das vezes.
- Nenhuma barreira rígida no raciocínio numérico. O raciocínio em formato livre é fluente e persuasivo, mas não é verificado. Quando o Claude explica por que o seu TSH somado ao T4 livre sugere hipotireoidismo subclínico, o raciocínio pode estar correto, parcialmente correto ou errado com toda a confiança — você não tem como saber apenas pela prosa, sem conferir com uma fonte de referência.
É a mesma limitação de fundo sobre a qual escrevi na comparação-pilar Wizey vs ChatGPT: um LLM de uso geral gera, enquanto um especialista extrai, valida e aplica. A geração do Claude é mais bem-comportada, mas ainda é geração.
O problema Lost in the Middle não liga para a sua constituição
Mesmo com o excelente desempenho do Claude em contextos longos, o fenômeno Lost in the Middle descrito por Liu et al. (2023) continua valendo: os LLMs prestam mais atenção ao início e ao fim da entrada do que ao meio. Em um painel denso de 40 a 60 marcadores distribuído por cinco páginas, um valor no meio da página três pode ser reconhecido, mas subvalorizado na interpretação final.
O treinamento constitucional não muda isso — é um artefato da arquitetura transformer e da codificação posicional. A Anthropic fez melhorias reais em seus últimos lançamentos de modelos, mas nenhum benchmark público que eu tenha visto mostra o efeito totalmente eliminado para a recuperação de fatos isolados no meio do contexto.
O Wizey lida com isso de forma estrutural, não estatística. O pipeline primeiro extrai cada valor para um esquema; a análise então roda sobre uma tabela de 60 linhas, e não sobre um PDF de 5 páginas. O Lost in the Middle em uma tabela estruturada curta se comporta de maneira muito diferente do Lost in the Middle em texto livre.
Privacidade e HIPAA: Claude de consumidor vs Claude Enterprise
É aqui que surge uma distinção real. A API da Anthropic e o Claude Enterprise oferecem suporte a Business Associate Agreements (BAA) da HIPAA e podem ser configurados com Zero Data Retention, o que significa que prompts e respostas não são retidos além da sessão. Essa é uma opção legítima para uma clínica que está construindo uma ferramenta interna.
O produto de consumidor em claude.ai, nos planos gratuito e Pro, é outra história. Sob os termos de consumidor, as conversas podem ser retidas para revisão de segurança e de políticas, e a conta não é coberta por um BAA. Para um paciente que quer discutir o PDF dos seus exames, é justamente esse o plano que ele usaria na prática — e enviar Informações de Saúde Protegidas (PHI) ali não está coberto pelas proteções do plano Enterprise.
Em comparação, o Wizey foi projetado do zero para lidar com PHI: a camada de extração roda dentro de um perímetro em conformidade, e a análise é fundamentada em um corpus clínico validado que não sai do serviço.
Quando, mesmo assim, eu recorro ao Claude
Para deixar claro: há um lugar real para o Claude no fluxo de trabalho de um paciente. Eu, pessoalmente, uso o Claude para:
- Explicar o significado de um termo médico antes de eu me aprofundar.
- Traduzir um laudo laboratorial do espanhol ou do francês para o inglês, preservando a nuance clínica.
- Resumir um PDF longo de uma carta de consulta especializada.
- Redigir perguntas de acompanhamento estruturadas para a minha consulta com o clínico geral.
- Ler criticamente um artigo de ensaio clínico.
Nenhuma dessas tarefas é “interprete meus valores de exame e me diga o que está errado”. São tarefas em que a resposta é conferida contra o meu próprio julgamento ou o do meu médico, e em que o papel do LLM é trabalho com a linguagem, não inferência numérica. Uma análise parecida para um modelo de pesos abertos, focado em raciocínio, aparece na minha comparação Wizey vs DeepSeek R1.
Comparação lado a lado
| Dimensão | Claude (Anthropic) | Wizey |
|---|---|---|
| Tipo de modelo | LLM de uso geral (Constitutional AI + RLAIF) | Pipeline médico especializado (OCR → extração → grafo de conhecimento → RAG validado) |
| Extração numérica | Implícita, via leitura de texto | Determinística, estruturada, com unidades validadas |
| Fundamentação do conhecimento médico | Traço estatístico dos dados de treinamento | Grafo de conhecimento médico curado + protocolos clínicos |
| Perfil de alucinação | Varia conforme o benchmark e a versão do modelo, mas não zero | Limitado — recusa fora do protocolo em vez de inventar |
| Contexto longo | Até ~1 milhão de tokens, ainda afetado por Lost in the Middle | Análise roda sobre tabela estruturada curta, não sobre PDF longo |
| BAA da HIPAA | Disponível na API / Enterprise, não no consumidor | Nativo para uso do paciente |
| Melhor uso | Leitura, escrita, explicação, tradução | Interpretação de painéis de exames de ponta a ponta, acompanhamento longitudinal |
Perguntas rápidas
O Claude alucina menos que o ChatGPT em questões médicas? Não de forma consistente. Em alguns testes gerais de precisão factual, o Claude dá menos respostas erradas, em grande parte porque se recusa a responder a mais perguntas, mas os resultados variam conforme o benchmark e a versão do modelo. E “com menos frequência” não é “nunca”, e o modo de falha, quando acontece — uma resposta confiante, fluente e medicamente errada —, é idêntico.
O Claude está em conformidade com a HIPAA para o envio de exames? Só na API da Anthropic ou no Claude Enterprise, com um BAA firmado. O claude.ai de consumidor não está, e a Política de Uso da Anthropic coloca explicitamente diagnóstico e tratamento médicos em uma categoria com humano no circuito (human-in-the-loop).
O contexto de 1 milhão de tokens do Claude basta para anos de exames? A janela é grande o suficiente, mas o Lost in the Middle ainda degrada a recuperação no meio do contexto. Extrair os dados de forma estruturada para uma série temporal é melhor do que empurrar um PDF longo à força para dentro do prompt.
Se o Claude é mais seguro, por que não usá-lo para tudo? Um comportamento de recusa mais seguro não é o mesmo que validade clínica. O Wizey foi projetado para a tarefa específica de transformar uma folha de exames em uma interpretação clinicamente coerente; o Claude foi projetado para o trabalho geral com a linguagem.
Para que o Claude serve no fluxo de trabalho de um paciente? Tarefas de linguagem — explicar, traduzir, resumir, redigir perguntas. Não a interpretação numérica de um resultado com vários painéis.
Conclusão
O Claude é o LLM de uso geral mais criterioso do mercado, e a Constitutional AI é uma conquista de engenharia relevante. Para um paciente que quer entender o que significa “anemia microcítica hipocrômica” ou traduzir a carta de um especialista, é uma ferramenta genuinamente boa.
Para a tarefa mais específica e mais difícil de transformar um PDF de exames de várias páginas em uma interpretação estruturada e clinicamente coerente — com valores de referência verificados, tendências ao longo do tempo e padrões entre marcadores sinalizados —, foi para isso que projetamos o Wizey. Se é esse o problema que você está tentando resolver, um pipeline especializado combina melhor com o formato da tarefa. E, se você quer uma visão mais ampla de onde os LLMs de uso geral se encaixam e onde falham na medicina, o artigo-pilar Wizey vs ChatGPT traz o argumento completo.
