Principais destaques
- Estudos publicados na revista científica Nature Medicine indicam que chatbots de IA podem falhar ao identificar emergências médicas.
- Pessoas que usaram IA para avaliar sintomas tiveram desempenho semelhante a quem apenas pesquisou na internet.
- Pesquisadores alertam que confiar exclusivamente nesses sistemas pode atrasar atendimento médico em situações críticas.
A inteligência artificial vem se tornando uma das primeiras fontes de consulta para milhões de pessoas com dúvidas sobre saúde. No entanto, novas pesquisas sugerem que confiar em chatbots para avaliar sintomas pode ser mais arriscado do que parece.
Um conjunto de estudos recentes publicado na Nature Medicine analisou como ferramentas de IA, incluindo o ChatGPT, respondem a perguntas médicas feitas por usuários comuns. Os resultados indicam que, embora esses sistemas possam oferecer informações úteis, ainda cometem erros importantes ao lidar com cenários de emergência.
Especialistas afirmam que a tecnologia ainda não substitui a avaliação clínica e que o uso inadequado pode levar pessoas a ignorar sinais de risco.
IA não supera pesquisas tradicionais na internet
Um dos estudos foi conduzido por pesquisadores do Oxford Internet Institute e envolveu mais de 1.300 participantes.
Os voluntários receberam cenários hipotéticos de saúde e tiveram que usar chatbots para avaliar os sintomas e decidir o que fazer. Os resultados foram surpreendentes.
Os participantes acertaram o diagnóstico correto apenas cerca de um terço das vezes. Quando precisavam decidir se deveriam procurar atendimento de emergência ou ficar em casa, acertaram em apenas 43% dos casos.
Em outras palavras, usar um chatbot não trouxe vantagem significativa em relação a simplesmente pesquisar na internet.
Segundo o pesquisador Andrew Bean, autor principal do estudo, um dos problemas é que muitos usuários não sabem quais informações médicas são realmente importantes para compartilhar com o sistema.
Falha na comunicação entre humanos e IA
A pesquisa também revelou uma lacuna curiosa entre o desempenho da tecnologia em laboratório e no mundo real.
Quando os cientistas forneceram descrições completas dos sintomas diretamente aos modelos de IA, os sistemas chegaram ao diagnóstico correto em cerca de 94% dos casos.
O problema aparece na interação cotidiana. Pessoas geralmente descrevem sintomas de forma incompleta ou confusa, enquanto os chatbots ainda não conseguem conduzir uma entrevista clínica detalhada como um médico faria.
Profissionais de saúde são treinados para fazer perguntas específicas, investigar detalhes e interpretar sinais indiretos. Essa habilidade de investigação clínica ainda não é totalmente reproduzida pelos modelos de linguagem atuais.
Emergências podem ser subestimadas pelos sistemas
Outro estudo foi conduzido por pesquisadores da Icahn School of Medicine at Mount Sinai e avaliou o desempenho do sistema conhecido como ChatGPT Health.
Os cientistas testaram a ferramenta com 60 cenários clínicos criados por médicos.
O resultado chamou atenção. Em mais da metade dos casos considerados emergências pelos especialistas, o sistema avaliou a situação como menos grave do que realmente era.
Em um dos exemplos analisados, a IA identificou sinais iniciais de insuficiência respiratória em um paciente com asma, mas ainda assim sugeriu que a pessoa aguardasse em vez de buscar atendimento imediato.
Os pesquisadores também encontraram inconsistências nas salvaguardas relacionadas a risco de suicídio, que às vezes apareciam em situações de baixo risco e falhavam quando usuários descreviam planos claros de autolesão.
Especialistas defendem cautela no uso da tecnologia
Apesar das falhas apontadas, os pesquisadores não defendem o abandono completo dessas ferramentas. Para muitos especialistas, a IA ainda pode ter valor como fonte de informação inicial ou apoio educacional.
A empresa OpenAI afirma que versões mais recentes do ChatGPT apresentam melhorias importantes e são cerca de seis vezes mais propensas a fazer perguntas de acompanhamento em comparação com modelos anteriores.
Mesmo assim, médicos e pesquisadores reforçam um ponto essencial. Sintomas que pioram rapidamente ou indicam possíveis emergências, como dor no peito, dificuldade para respirar ou pensamentos de autolesão, devem sempre ser avaliados por profissionais de saúde.
Nesses casos, a recomendação continua sendo a mesma de sempre: procurar atendimento médico imediato.
