Tem um momento, depois que uma IA devolve uma resposta sobre um caso, em que você precisa decidir o que fazer com aquilo. A resposta veio organizada, soou competente, talvez até trouxe um nome de autor e um ano. E aí abre uma escolha que é menos sobre o conteúdo da resposta e mais sobre quanto daquilo você vai deixar entrar na sua decisão clínica. Confiar ou não confiar deixa de ser uma questão de simpatia pela ferramenta. Vira uma questão de saber em quê, exatamente, você está apoiando o raciocínio.

Esse é o problema deste artigo. A aparência da resposta engana, porque parecer confiável é mais fácil de construir do que ser confiável. Então a pergunta útil deixa de ser "essa IA é boa" e passa a ser "que critérios eu uso pra decidir se posso confiar nela com dado de paciente". Reuni quatro critérios que funcionam como uma régua e valem pra qualquer ferramenta que apareça na sua frente, não só pra HumanTrack.

Se você quiser o enquadramento mais amplo antes de entrar nos critérios, vale começar pelo guia sobre inteligência clínica e o que a IA na saúde mental faz e não faz, que define a categoria. Aqui o recorte é mais prático: como avaliar antes de confiar.

Confiar não é pedir fé, é ter critério

Existe uma resistência legítima quando se fala em IA na clínica. Ela aparece como a sensação de delegar pra uma caixa que você não consegue abrir uma parte de um trabalho que é seu, com responsabilidade sua. Esse desconforto é razoável. A resposta certa pra ele não é pedir que você confie, e sim mostrar as condições que tornam a confiança merecida.

A diferença entre as duas coisas importa. Uma ferramenta que pede confiança com base no quanto parece sofisticada está pedindo fé. Uma ferramenta que deixa você verificar como chegou ao que disse e o que faz com o seu dado está oferecendo critério, e mantém o risco visível, onde ele precisa ficar pra que a decisão continue sendo sua. Os quatro critérios a seguir descrevem o que uma IA clínica confiável precisa deixar você ver, cada um com a pergunta que dá pra fazer pra testar a ferramenta na prática.

Critério 1: rastreabilidade da fonte

O primeiro critério é o mais concreto, e é o que você checa mais rápido. Uma IA clínica confiável devolve a informação amarrada à fonte: você consegue ver de onde veio o que ela disse, qual instrumento, qual dado do acompanhamento, qual ponto da série temporal. A resposta não chega como uma síntese fechada que você aceita ou recusa em bloco. Ela mostra o caminho até a conclusão.

A razão disso é prática. Quando você vê a fonte, consegue conferir, discordar e completar com o que sabe do caso e o dado não captura, e a leitura da IA vira um ponto de partida que você ajusta, em vez de um veredito que você engole. Sem rastro, a única opção que sobra é confiar ou ignorar, e as duas posturas são erradas pra trabalhar com dado de paciente.

A pergunta de verificação aqui é simples, porque diante de qualquer resposta da ferramenta dá pra perguntar de onde veio aquilo. Se a IA mostra o instrumento, o dado e a fonte, ela passa no critério, e se só repete a conclusão com outras palavras, ou se a fonte não existe quando você vai checar, ela falha. Esse segundo caso, o da fonte que não existe, é mais comum do que se imagina e é o assunto de uma seção mais adiante.

Critério 2: linguagem que admite incerteza

O segundo critério é menos óbvio e talvez seja o mais revelador, porque mostra o caráter da ferramenta. Uma IA clínica honesta sinaliza quando não tem base pra afirmar algo, em vez de preencher o vazio com uma resposta confiante. Ela usa linguagem condicional onde o dado é condicional, diz que um padrão sugere e não que ele prova, e avisa quando a série temporal é curta demais ou falta informação pra concluir.

Isso parece detalhe de tom, mas não é. A confiança indevida é um risco técnico documentado. Um modelo treinado pra produzir texto plausível tende a soar igualmente seguro quando sabe e quando não sabe, e essa fluência uniforme apaga a fronteira entre o que tem respaldo e o que é palpite. Uma ferramenta que admite incerteza recoloca essa fronteira, e te devolve a informação que você mais precisa: o quanto pode pesar aquela resposta na decisão.

Há uma conexão direta entre esse critério e a forma como a leitura clínica funciona, porque a boa clínica trabalha com graus de certeza o tempo todo, com hipóteses que se sustentam mais ou menos conforme a evidência se acumula. Uma IA que afirma tudo com a mesma segurança atrapalha esse modo de pensar, enquanto uma que calibra a própria certeza acompanha o raciocínio clínico. A pergunta de verificação é direta: a ferramenta já te disse, alguma vez, que não tinha base pra responder? Uma IA que nunca diz "não sei" não está sendo mais inteligente, está sendo menos honesta.

Critério 3: dado que não vaza pra fora

O terceiro critério muda de natureza. Ele trata do que acontece com o dado depois que ele entra na ferramenta. Dado de paciente é dado pessoal sensível de saúde, e a Lei Geral de Proteção de Dados trata essa categoria com exigências específicas, que incluem base legal adequada e consentimento informado. Uma IA clínica confiável precisa ser construída pra proteger esse dado por desenho, em vez de confiar que você vai protegê-lo no uso.

Privacidade por desenho significa que a ferramenta já nasce pensando em onde o dado fica guardado, quem acessa, por quanto tempo ele é retido e, principalmente, se pode ou não ser usado pra treinar o próprio modelo. Esse último ponto é o que mais separa uma ferramenta séria de uma genérica, porque em parte das ferramentas de uso geral, dependendo da configuração, o que você digita pode alimentar o sistema, e aí o dado da sua paciente deixou de estar sob o seu controle. O sigilo profissional não muda de natureza porque entrou uma IA no meio, e o dever de sigilo previsto no Código de Ética Profissional do Psicólogo continua sustentando a sua responsabilidade sobre ele.

A pergunta de verificação aqui exige um pouco mais de trabalho, mas é a mais importante das quatro: onde esse dado fica, quem acessa e se ele vira treino do modelo. Uma ferramenta confiável responde isso com clareza, de preferência por escrito. Se a resposta for vaga, ou se você não conseguir encontrá-la, vale tratar como sinal de alerta. O recorte regulatório completo, com CFP e LGPD ponto a ponto, está no artigo sobre o que CFP e LGPD exigem do profissional ao usar IA.

Critério 4: limite ético embutido

O quarto critério é o que fecha os outros três, e é também o mais fácil de confundir com marketing, então vale precisão. Uma IA clínica confiável tem o limite ético embutido por desenho, de modo que simplesmente não faz o que não deve fazer. Isso vem da construção da ferramenta, e não da sua contenção no uso. Os três limites que importam aqui são não fechar diagnóstico, não recomendar nem ajustar medicação, e não substituir a leitura do profissional.

A diferença entre limite embutido e limite recomendado é toda a questão. Uma ferramenta que diz "use com responsabilidade" e depois fecha um diagnóstico quando você pede transferiu o limite pra você, e basta um dia cheio ou uma pergunta mal formulada pra que ele seja atravessado. Uma ferramenta desenhada pra não fechar diagnóstico não atravessa esse limite mesmo que você peça, porque ele é uma propriedade do sistema, e não uma sugestão de uso. Esses limites também não são uma cautela de marca. Eles seguem o que a regulação da psicologia no Brasil já estabelece, já que o diagnóstico psicológico é ato privativo do profissional, com escopo definido pelo CFP, e a IA não cria exceção pra isso.

A pergunta de verificação fecha o conjunto: o que a ferramenta se recusa a fazer? Uma IA clínica confiável tem uma lista clara do que não faz, e essa lista é um sinal de seriedade. A base legal e ética desses limites, e o porquê de eles serem éticos antes de serem técnicos, está no artigo sobre se psicólogos podem dar diagnóstico.

Os quatro critérios funcionam como uma régua. Vale deixar eles à mão:

Uma ferramenta que não deixa você responder a essas quatro perguntas está pedindo fé, não oferecendo critério.

Por que a IA generalista falha nesses critérios

Vale ver como esses critérios se comportam diante da ferramenta que mais gente tem à mão, uma IA de uso geral aberta no navegador, porque é nesse confronto que eles deixam de ser abstratos. A IA generalista falha em três dos quatro de forma previsível, e quem documenta isso é a pesquisa feita em saúde mental, não a suspeita.

A falha mais grave é na rastreabilidade, e ela aparece na forma de referência inventada. Em 2023, McGowan e colegas testaram se um modelo de uso geral produzia citações confiáveis pra apoiar uma busca de literatura em psiquiatria, e numa dessas trocas o ChatGPT gerou 35 citações, das quais apenas 2 eram reais. Doze eram parecidas com manuscritos verdadeiros, mas com autor, periódico ou ano trocados, e as 21 restantes eram plausíveis e inexistentes ao mesmo tempo, colagens de trabalhos que pareciam existir e não existiam (McGowan et al., 2023).

Em 2025, Linardon e colegas levaram isso pra um teste mais controlado e encontraram um padrão que complica a história, porque entre as 141 citações que o modelo gerou e que de fato existiam, 64 (45,4%) continham algum erro bibliográfico, sendo DOI incorreto o mais comum (Linardon et al., 2025). Quer dizer, mesmo quando a referência é real, há uma chance considerável de um detalhe estar errado o bastante pra mandar quem confiou pro lugar errado.

A falha na linguagem que admite incerteza é a outra face do mesmo problema, porque o modelo soa igualmente seguro quando acerta e quando inventa, e a falha de privacidade aparece quando você cola dado identificável numa ferramenta que pode usar aquilo como treino. Por que esse risco cresce nos temas mais especializados está no artigo sobre IA generalista versus IA clínica especializada, e o conjunto maior de riscos técnicos, do viés de treino ao dado faltante, no artigo sobre vieses e riscos da IA na saúde mental.

A diferença entre app de monitoramento e IA clínica

Há uma confusão que vale desfazer antes de fechar, porque atrapalha a avaliação. Um app de monitoramento coleta, organiza e mostra dados, e a pergunta de confiabilidade dele é mais sobre validade dos instrumentos, segurança do armazenamento e clareza da apresentação, critérios que quem já passou por essa escolha encontra no artigo sobre como acompanhar o progresso em terapia com apps confiáveis.

A IA clínica entra uma camada acima, porque não só guarda e mostra o dado, ela lê esse dado e devolve uma interpretação, e é essa leitura interpretativa que cobra os quatro critérios deste artigo, sobretudo a rastreabilidade e a linguagem que admite incerteza, que num app de coleta nem se colocam. Avaliar uma IA clínica como se fosse só um app mais esperto é o erro que deixa passar justamente os riscos que importam, porque a régua da camada de inteligência é mais exigente.

Como a HumanTrack opera esses critérios com a Artemi

Os quatro critérios não foram escolhidos por acaso, eles descrevem o que a gente teve que construir pra que a IA da HumanTrack pudesse trabalhar com dado clínico sem depender do "feeling".

A Artemi, a inteligência clínica da HumanTrack, treinada especificamente pra ler o contexto de saúde mental de cada paciente, cruza os vários dados de um acompanhamento e opera em cima da rastreabilidade: devolve a leitura amarrada ao instrumento, ao dado do acompanhamento e à evidência que a sustenta, e sinaliza incerteza onde o dado é incerto, em vez de afirmar com a mesma segurança o que tem e o que não tem base.

O dado é tratado com privacidade por desenho, dentro do que a LGPD pede pra dado sensível de saúde, criptografado e com acesso restrito, em infraestrutura que roda em provedores com certificação HIPAA, o padrão internacional de segurança de dado de saúde. Os limites éticos são embutidos por construção, sem diagnóstico automatizado, sem recomendação de medicação, com instrumentos psicológicos validados e travas de segurança pensadas para o contexto clínico, dentro do que o CFP estabelece.

A Artemi é copiloto, não substituta, e isso sustenta na prática os outros três critérios. Você pode começar um teste gratuito na HumanTrack e ver a Artemi operando esses critérios com um caso seu, como copiloto e nunca como substituta.

Perguntas frequentes

Como sei se posso confiar numa IA pra usar na clínica?

Pelos quatro critérios deste artigo, que funcionam como régua. Você consegue ver de onde veio o que ela disse (rastreabilidade), ela admite quando não tem base pra afirmar algo (incerteza), você sabe onde o dado mora e se ele vira treino (privacidade), e ela tem limites éticos embutidos por construção (sem fechar diagnóstico, sem recomendar medicação). Uma ferramenta que não permite checar esses quatro pontos está pedindo fé, não oferecendo critério.

Por que não posso só usar o ChatGPT, que já tenho?

Porque uma IA de uso geral falha em pelo menos três dos quatro critérios de forma previsível. Ela pode inventar referência com confiança, inclusive em saúde mental (McGowan et al., 2023; Linardon et al., 2025), soa igualmente segura quando sabe e quando não sabe, e dependendo da configuração pode usar o dado que você cola como treino, o que colide com a LGPD e o sigilo. A comparação detalhada está no artigo sobre IA generalista versus IA clínica.

O que perguntar a um fornecedor de IA clínica?

As quatro perguntas de verificação, que são de onde veio essa informação, se a ferramenta já admitiu não ter base pra responder, onde o dado mora e se ele vira treino, e o que a ferramenta se recusa a fazer. Respostas claras e por escrito são um bom sinal. Vaguidão em qualquer um dos quatro é motivo pra desconfiar antes de colocar dado de paciente em jogo.

Referências

Linardon, J., Jarman, H. K., McClure, Z., Anderson, C., Liu, C., & Messer, M. (2025). Influence of topic familiarity and prompt specificity on citation fabrication in mental health research using large language models: Experimental study. JMIR Mental Health, 12, e80371. https://doi.org/10.2196/80371

McGowan, A., Gui, Y., Dobbs, M., Shuster, S., Cotter, M., Selloni, A., Goodman, M., Srivastava, A., Cecchi, G. A., & Corcoran, C. M. (2023). ChatGPT and Bard exhibit spontaneous citation fabrication during psychiatry literature search. Psychiatry Research, 326, 115334. https://doi.org/10.1016/j.psychres.2023.115334