Já aconteceu de você receber de uma IA uma resposta tão bem montada que custou perceber que estava errada? Vinha com a estrutura certa, o vocabulário técnico no lugar, às vezes um autor e um ano que pareciam encaixar, e só quando você foi conferir um detalhe é que a coisa desmontou. Esse intervalo entre a resposta parecer certa e ela ser certa é onde se concentram quase todos os riscos da inteligência artificial na clínica, e é sobre ele que este artigo trata.

A intenção aqui não é alimentar o medo nem fingir que os riscos invalidam a ferramenta. Quem conhece o risco de uma coisa consegue usá-la com responsabilidade, e quem só ouve a promessa se machuca quando ela falha. Vou separar quatro riscos técnicos que aparecem quando uma IA toca dado clínico e fechar com o que reduz cada um na prática. Se você quiser o enquadramento mais amplo antes, vale começar pelo guia sobre inteligência clínica e IA na saúde mental, que define a categoria.

Por que falar de risco é o que torna o uso responsável possível

Em materiais de marketing sobre tecnologia, há uma tentação de tratar risco como assunto que enfraquece o produto, algo a esconder atrás de uma promessa redonda. Eu acho que é o oposto. Só quem nomeia o limite consegue construir em volta dele, e isso é o que separa uma ferramenta séria de uma promessa vazia.

Vale lembrar que a psicóloga já trabalha com risco o tempo todo. Nenhum instrumento psicométrico é perfeito, todo escore tem erro de medida, e é por conhecer essas margens que dá pra usar um instrumento com critério em vez de tratá-lo como verdade absoluta. Com a IA é igual. A pergunta útil não é se ela erra, porque erra. É onde ela erra, com que cara o erro aparece e o que cada tipo de erro pede de cuidado. Os quatro riscos a seguir já foram documentados em pesquisa de saúde mental, ou decorrem de como esses sistemas funcionam por dentro, e cada um tem uma mitigação específica.

Risco 1: alucinação e fabricação de referência

O risco mais conhecido, e o mais documentado em saúde mental, é a fabricação de referência. A IA inventa uma fonte que não existe, ou cita uma que existe com detalhes errados, e apresenta as duas coisas com a mesma confiança de uma informação correta. Em pesquisa clínica isso é perigoso, porque a referência é o que separa uma afirmação respaldada de um palpite.

O que Linardon e McGowan documentaram em saúde mental

Dois estudos recentes mediram esse comportamento exatamente no terreno da saúde mental. Em 2023, McGowan e colegas pediram a um modelo de uso geral que ajudasse numa busca de literatura de psiquiatria, e numa dessas trocas o ChatGPT gerou 35 citações, das quais apenas 2 eram reais (McGowan et al., 2023). Em 2025, Linardon e colegas levaram isso pra um teste mais controlado e encontraram que, mesmo entre as referências reais que o modelo gerou, 64 de 141 (45,4%) traziam algum erro bibliográfico, com DOI incorreto à frente (Linardon et al., 2025). O risco, então, vai além da invenção pura. Inclui também a referência verdadeira com um detalhe errado que basta pra mandar quem confiou pro lugar errado.

O estudo de Linardon mostrou ainda que a invenção se concentra nos temas menos visíveis e mais especializados, justamente o terreno da clínica refinada. Eu desenvolvo esse achado e o que ele significa pra escolha de ferramenta no artigo sobre IA generalista versus IA clínica especializada. Aqui o ponto é mais geral: fabricar referência é um risco técnico real e medido, e não uma suspeita vaga.

Por que "alucinação" é um nome impreciso pro fenômeno

A palavra que pegou pra esse comportamento foi "alucinação", e os próprios autores de McGowan discutem por que ela é imprecisa (McGowan et al., 2023). Alucinar, no sentido clínico, é perceber algo que não está lá, um desvio de um funcionamento que normalmente acerta. O modelo não funciona assim. Ele faz exatamente o que foi construído pra fazer: gerar a sequência de texto mais plausível dado o que veio antes, sem nenhum compromisso embutido com a verdade do que produz.

Isso muda a leitura prática do risco. A referência inventada e a correta saem do mesmo processo, com a mesma fluência, e nada na cara da resposta sinaliza qual é qual. Verificar, então, não é cautela exagerada, é parte do uso.

Risco 2: viés algorítmico

O segundo risco é mais silencioso. Ele não aparece como um erro pontual que você flagra, mas como uma distorção sistemática embutida no que a ferramenta aprendeu. Um modelo aprende dos dados com que foi treinado, e se esses dados representam mal certas populações, o que ele devolve carrega essa representação ruim sem avisar.

Na saúde mental isso é particularmente sensível, porque a forma como sintoma, sofrimento e comportamento se expressam varia com cultura, gênero, raça, classe e contexto. Uma ferramenta treinada predominantemente em dados de uma população tende a ler com mais precisão quem se parece com essa população e com menos precisão quem foge dela. A scoping review de Ni e Jia, de 2025, lista o viés algorítmico entre os desafios recorrentes da IA em saúde mental, ao lado do risco de privacidade de dados (Ni & Jia, 2025), e a revisão de ética de Saeidnia e colegas, de 2024, coloca viés e equidade entre as seis considerações centrais do uso de IA na área (Saeidnia et al., 2024).

Pro contexto brasileiro é razoável supor que o ponto seja ainda mais agudo, porque os grandes modelos de uso geral são treinados em corpora majoritariamente em inglês, com pouca representação de português e de realidades clínicas brasileiras, e raramente passam por validação local que calibre isso. Na prática, uma resposta pode soar igualmente confiante pra uma paciente que o modelo "conhece" bem e pra uma que ele praticamente não viu, sem que a diferença de confiabilidade apareça. Por isso viés não se resolve só olhando a resposta. Ele pede saber sobre que dados a ferramenta foi construída.

Risco 3: o limite do dado faltante

O terceiro risco é o mais fácil de esquecer, justamente porque não é um erro. É um limite estrutural. Uma IA só lê o que existe registrado. Ela não tem acesso ao que ficou de fora do dado, e tudo o que não foi medido, anotado ou coletado simplesmente não entra na conta, por mais sofisticado que o modelo seja.

Na clínica, muito do que importa vive fora do que cabe num instrumento. O tom de voz que mudou, o assunto que a paciente evita, o que ela disse na porta saindo da sessão, o contexto de vida que não virou escore. A psicóloga lê tudo isso na sala. A IA não, porque trabalha sobre o registro estruturado, e o registro é sempre um recorte do que aconteceu. O risco aqui é a gente esquecer do que a ferramenta não está vendo.

Vale guardar que um dado faltante pode ser tão informativo quanto um presente, mas só pra quem está na sala. O silêncio sobre um tema, a escala que parou de ser respondida, a piora que não apareceu porque ninguém perguntou. Uma IA processa o que está registrado e não interpreta o que ficou de fora. Quem nota a ausência, formula a pergunta que falta e decide o que coletar a seguir é a psicóloga. Por isso a leitura da máquina entra como uma camada a mais sobre a mesa, nunca como o retrato completo.

Risco 4: confiança indevida

O quarto risco está na forma como a gente reage à máquina, e talvez por isso seja o mais difícil de controlar. Uma resposta articulada, fluente e segura passa uma sensação de competência que não tem relação nenhuma com a chance de ela estar certa, porque o modelo erra com a mesma desenvoltura com que acerta, e é essa desenvoltura que baixa a nossa guarda.

Isso conversa direto com os dois primeiros riscos. A referência fabricada de Linardon e McGowan vinha com a mesma cara de uma referência verdadeira, sem nenhum aviso (Linardon et al., 2025; McGowan et al., 2023), e o viés de treino também se apresenta como resposta normal. O que torna o erro perigoso é a ausência de qualquer sinal de incerteza por parte da ferramenta. Uma colega experiente, quando não tem certeza, hesita, qualifica, diz que precisaria conferir. Um modelo de uso geral preenche o vazio com a mesma fluência de sempre.

A defesa contra esse risco é menos técnica e mais de postura. É manter, diante de uma resposta de IA, o mesmo ceticismo metodológico que a psicóloga já aplica a um resultado de escala que destoa do que ela viu na sessão. A pergunta não é "isso soa convincente", é "em que isso se apoia e como eu confiro".

O que mitiga cada risco

Nomear o risco só vale a pena se vier acompanhado do que reduz cada um, e aqui os mesmos critérios que sustentam uma IA clínica confiável funcionam como mitigação ponto a ponto. São três condições, e valem pra qualquer ferramenta, não só pra HumanTrack.

A primeira é rastreabilidade da fonte. Se você consegue ver de onde veio cada informação que a IA devolveu, qual instrumento, qual dado, qual referência, a fabricação deixa de passar despercebida, porque uma fonte inventada não tem rastro que se verifique. A segunda é linguagem que admite incerteza: a ferramenta sinaliza quando não tem base pra afirmar algo em vez de preencher o vazio com confiança, e esse sinal é a defesa direta contra a confiança indevida. A terceira é a transparência sobre os dados de treino e sobre os limites do modelo, que é o que permite avaliar viés e ter clareza de que a ferramenta só lê o que foi registrado.

É contra esses riscos que a Artemi, a inteligência clínica da HumanTrack, foi desenhada, com a fonte rastreável, a linguagem que admite incerteza e o limite ético por construção. Como transformar esses critérios num roteiro de verificação aplicável na frente de qualquer fornecedor é o assunto do artigo sobre como saber se uma IA clínica é confiável, e o desenho que impede a ferramenta de fechar diagnóstico ou recomendar medicação está no artigo sobre o que a IA na saúde mental não deve fazer.

A supervisão humana como condição, não como cortesia

Nenhum dos quatro riscos se resolve só com tecnologia melhor. O modelo pode ficar mais preciso, a fabricação pode cair, o treino pode diversificar, e ainda assim a leitura da ausência, a decisão sobre o caso e a responsabilidade ética continuam exigindo uma pessoa. A supervisão humana não é um adorno que se coloca por gentileza em cima de um sistema que já decidiria sozinho. É a condição que torna o uso legítimo.

A literatura recente é consistente nesse ponto. A scoping review de Ni e Jia revisou 36 estudos empíricos e concluiu que essas tecnologias foram usadas predominantemente como apoio, monitoramento e automanejo, e não como tratamento isolado, apontando a necessidade explícita de design ético e supervisão humana (Ni & Jia, 2025). A revisão de Saeidnia, sobre 51 artigos de ética de IA em saúde mental, coloca autonomia e agência humana entre as seis considerações centrais do uso (Saeidnia et al., 2024), e é esse princípio que mantém a decisão e a responsabilidade com a profissional.

No Brasil, esse arranjo conversa com a Resolução CFP 09/2024 e com a LGPD quando o assunto é o dado sensível do paciente, ambas apoiadas na premissa de que a responsabilidade pela decisão é de quem atende. A IA entra antes da decisão, organizando informação e sinalizando o que merece atenção. A psicóloga entra onde sempre esteve, lendo o que o dado não mostra e decidindo o que fazer com o que ele mostra. É essa divisão que mantém a ferramenta no lugar de copiloto.

Como a HumanTrack mitiga esses riscos com a Artemi

Os quatro riscos deste artigo são exatamente o que a HumanTrack desenhou a Artemi para reduzir. A inteligência clínica da HumanTrack devolve cada leitura com a fonte rastreável, usa linguagem que admite incerteza em vez de soar sempre confiante, e opera sobre instrumentos validados e os dados do próprio acompanhamento, não sobre um palpite estatístico da internet.

A supervisão é condição, não cortesia: a Artemi é copiloto, sinaliza o que merece atenção, e a leitura crítica e a decisão seguem com a psicóloga, dentro do que o CFP e a LGPD pedem.

Pra ver isso na prática, dá pra começar um teste gratuito da HumanTrack e acompanhar a Artemi operando com fonte rastreável e limite ético por desenho.

Perguntas frequentes

O que é "alucinação" de uma IA, e por que o nome é criticado?

É quando a IA produz uma informação que parece correta mas não tem base real, como uma referência inventada. O nome é criticado porque sugere uma falha excepcional, quando na verdade o modelo está fazendo o que foi construído pra fazer: gerar texto plausível sem compromisso embutido com a verdade. A referência inventada e a correta saem do mesmo processo, com a mesma fluência (McGowan et al., 2023).

A IA na saúde mental pode ser enviesada contra certos pacientes?

Pode, e esse é um risco documentado. Um modelo aprende dos dados com que foi treinado, e se certas populações estão sub-representadas nesses dados, a ferramenta tende a ler com menos precisão quem foge do padrão dominante, sem que a diferença apareça na resposta (Ni & Jia, 2025; Saeidnia et al., 2024). Por isso vale saber sobre que dados a ferramenta foi construída, não só olhar a resposta.

Conhecer esses riscos é motivo pra não usar IA na clínica?

Não. É motivo pra usar com critério. Os mesmos riscos têm mitigação conhecida: rastreabilidade da fonte, linguagem que admite incerteza, transparência sobre os dados e supervisão humana sobre a decisão. Conhecer o limite é o que permite confiar na ferramenta sem entregar a ela a decisão.

Referências

Linardon, J., Liu, C., Messer, M., Jarman, H. K., Anderson, C., McClure, Z., & Fuller-Tyszkiewicz, M. (2025). Influence of topic familiarity and prompt specificity on citation fabrication in mental health research using large language models: Experimental study. JMIR Mental Health, 12, e80371. https://doi.org/10.2196/80371

McGowan, A., Gui, Y., Dobbs, M., Shuster, S., Cotter, M., Selloni, A., Goodman, M., Srivastava, A., Cecchi, G. A., & Corcoran, C. M. (2023). ChatGPT and Bard exhibit spontaneous citation fabrication during psychiatry literature search. Psychiatry Research, 326, 115334. https://doi.org/10.1016/j.psychres.2023.115334

Ni, Y., & Jia, F. (2025). A scoping review of AI-driven digital interventions in mental health care: Mapping applications across screening, support, monitoring, prevention, and clinical education. Healthcare, 13(10), 1205. https://doi.org/10.3390/healthcare13101205

Saeidnia, H. R., Hashemi Fotami, S. G., Lund, B., & Ghiasi, N. (2024). Ethical considerations in artificial intelligence interventions for mental health and well-being: Ensuring responsible implementation and impact. Social Sciences, 13(7), 381. https://doi.org/10.3390/socsci13070381