Opinião: Chatbots estão se tornando os médicos de atendimento primário das pessoas – impressionante, mas arriscado

Estamos pulando rapidamente do Dr. Google para o Dr. Chatbot. Em agosto, a OpenAI reportou mais de 200 milhões de usuários ativos semanalmente, e enquanto as perguntas mais populares dos usuários são sobre escrita e programação, alguns os usam para assuntos mais pessoais, desde conselhos de namoro até rotinas de cuidados com a pele e diagnósticos de doenças.

Um recente estudo revelou que os chatbots de IA superaram os médicos em precisão diagnóstica. Mas, podemos realmente confiar na IA como nossos médicos?

Assim como a gama de tópicos sobre os quais as pessoas se informam aumentou, as preocupações sobre os riscos e perigos de se depender da IA na área médica também têm soado alarmes – incluindo aqueles que envolvem questões de vida ou morte.

Dr. Chatbot viraliza por seus “milagres”

Há alguns dias, uma mulher viralizou no Reddit porque compartilhou como o ChatGPT a ajudou a melhorar sua pele melhor que um dermatologista, com imagens impressionantes de antes e depois.

Uma mulher caucasiana de 37 anos usou o ChatGPT para criar uma rotina de cuidados com a pele personalizada para tratar seus comedões fechados, e isso realmente a ajudou! pic.twitter.com/vwkm13G2Hs

— AshutoshShrivastava (@ai_for_success) 11 de novembro de 2024

“Em seguida, dei ao chatGPT uma instrução para agir como um dermatologista profissional e me ajudar a criar uma rotina de cuidados com a pele que ajudasse a eliminar meus comedões fechados, acne, minimizar poros e firmar a pele, e reduzir linhas finas. Também forneci fotos da minha pele naquele momento”, ela escreveu e então explicou que pediu ao chatbot para considerar todos os produtos que ela já possuía e sugerir novos dentro de uma rotina de cuidados com a pele.

Após dois meses, a Redditor ficou maravilhada com as melhorias em sua pele.

Não é um caso isolado. Muitos usuários revelaram como chatbots foram capazes de entender e explicar raios-X e exames de sangue melhor do que seus próprios médicos. Até mesmo médicos ficaram impressionados com a imagem e as análises de dados interpretadas pela inteligência artificial.

Por Que As Pessoas Estão Usando Chatbots Como Médicos?

A IA pode se transformar no profissional que você precisa – um clínico geral, um terapeuta, um dermatologista, um nutricionista, um radiologista – quando você precisa, e há muitos motivos pelos quais as pessoas estão escolhendo a IA ao invés de seres humanos.

Especialistas Podem Ser Caros

A mulher com o caso de pele revelou que gastou cerca de 400 dólares na compra dos produtos que o chatbot sugeriu.

“Foi um investimento considerável, mas quando penso no que uma consulta com um dermatologista teria custado, isso nem é tão ruim assim”, ela escreveu.

De acordo com o BetterCare, em 2024, um paciente sem seguro de saúde nos Estados Unidos deve pagar cerca de $150 por uma visita ao dermatologista e até $1000 para o tratamento. E o custo médio de uma sessão de psicoterapia—outro uso popular para ferramentas de IA—varia de $100 a $200 por sessão, de acordo com o Forbes Health.

Chatbots de IA são alternativas mais baratas e podem ser vistos como a única escolha, especialmente para pessoas em faixas de renda mais baixas.

Claro, surge outra pergunta: Se algo der errado, é realmente uma medida de economia de custos?

Mais Rápido e Mais Prático

Recentemente, apareceu uma erupção cutânea no meu braço. Apesar de ter visto aquela postagem sobre o milagre de pele daquela mulher, preferi consultar um dermatologista na Espanha. A consulta mais próxima disponível era daqui a três meses, mesmo tendo seguro saúde privado. Tenho sorte de parecer ser apenas ressecamento, que não me incomoda e, espero, desaparecerá até a hora em que o médico possa me ver.

Os prazos para atendimento médico dependem da cidade e do plano de saúde do paciente. No entanto, ver especialistas e até médicos de clínica geral se tornou um teste de paciência em muitas partes do mundo.

Os chatbots não estão apenas literalmente ao alcance de nossas mãos, mas também podem analisar nossas perguntas e responder em segundos.

Menos Constrangedor

Tenho uma amiga médica a quem posso recorrer sempre que tenho uma consulta médica, mas o fato de ela ser minha amiga às vezes torna isso constrangedor. Antes de enviar uma mensagem para ela, sempre me pergunto: Será que tenho me preocupado com ela recentemente? Ela é uma ótima pessoa e uma profissional maravilhosa, e tenho certeza de que nunca deixará de responder às minhas preocupações médicas. Mas, de humano para humano, não posso deixar de me importar com os sentimentos dela também.

Uma das vantagens da inteligência artificial é sua própria condição artificial. Ela não tem sentimentos ou um dia ruim, não vai julgar você ou dizer “Pare de ser tão hipocondríaco” (não que minha amiga já tenha me dito isso) porque são treinados para serem educados e responder a todas as nossas preocupações com todas as informações que queremos. Isso faz parte de o que torna a tecnologia viciante, e provavelmente por que muitos preferem fazer perguntas desconfortáveis na “privacidade” de seus smartphones.

Os Riscos e Perigos de Depender de Chatbots

Tudo parece legal e divertido até que nós paremos para pensar nos riscos e desafios que a IA e a humanidade estão enfrentando.

Comando Errado, Feitiço Errado

Naquele estudo em que a IA superou os médicos, uma importante conclusão foi feita: o grupo de médicos que pôde usar a IA como aliada para os diagnósticos não se saiu consideravelmente melhor do que aqueles que não puderam usá-la. Por quê? Bem, parte do problema era que eles não sabiam como escrever os comandos corretos para extrair o máximo da IA.

“Eles a tratavam como um mecanismo de busca para perguntas direcionadas: ‘A cirrose é um fator de risco para o câncer? Quais são os possíveis diagnósticos para dor nos olhos?’,” disse o Dr. Jonathan H. Chen, um dos autores do estudo, para o New York Times.

Este é um dos problemas que muitos usuários e tecnologias de IA enfrentam também. Os chatbots são bons em diagnósticos, mas muitos sintomas precisam ser analisados individualmente de maneira personalizada. E se uma pessoa falhar em fornecer o contexto certo para o chatbot? Ou esquecer de incluir detalhes importantes ou condições que um médico real diante de um paciente não perderia?

Inexatidão e Alucinações

Chatbots são sabichões profissionais, e às vezes dizem coisas erradas com muita confiança. E nós acreditamos. E usuários que dependem da tecnologia diariamente confiam cada vez mais nela.

É difícil esquecer aquela vez – em maio – quando o Google Gemini sugeriu que os usuários adicionassem “cerca de ⅛ de xícara de cola não tóxica ao molho para torná-lo mais pegajoso” a uma pizza.

Foi engraçado porque pudemos identificar imediatamente a alucinação – aquele termo sofisticado para quando a IA fornece respostas absurdas. Mas e se se tratar de um tópico mais complexo, e se a pessoa que está lendo a resposta da IA estiver assustada, solitária e preocupada com a sua saúde?

Mesmo que a IA melhore mês após mês, a possibilidade de um erro ainda existe.

A quem Culpar se Algo Der Errado?

O debate ético é um tópico quente no momento. Se o chatbot fornecer um diagnóstico errado ou um conselho terrível, a quem devemos culpar? Os desenvolvedores, o modelo, a empresa de IA, as fontes que treinaram esse modelo?

Um caso trágico despertou preocupações algumas semanas atrás, após uma mãe americana culpar a IA pela morte de seu filho de 14 anos e processar a startup Character.ai – uma plataforma para criar personagens de IA. O adolescente sofria de depressão e ficou obcecado pela tecnologia. Seu avatar, Daenerys Targaryen, discutiu com ele um plano para se matar e até o incentivou a fazê-lo.

Enquanto a IA tem sido considerada pelo Fórum Econômico Mundial como uma ferramenta poderosa para aliviar crises de saúde mental em todo o mundo e reduzir o percentual crescente de casos de ansiedade e depressão, ela também pode ser perigosa, especialmente para crianças.

Faça “Por Sua Conta e Risco”

Embora ainda precise ser aprimorada, gosto de pensar que a IA tem um grande potencial para reduzir os tempos de espera na área da saúde – tanto para consultas com especialistas quanto para o atendimento em salas de emergência – para acelerar os avanços científicos e para apoiar os médicos, particularmente aqueles sobrecarregados por cargas de trabalho excessivas e salários baixos, como é frequentemente o caso nos países da América Latina, auxiliando os pacientes com perguntas básicas de casa.

Também poderia ajudar a reduzir as disparidades no acesso à saúde entre diferentes classes sociais, abrindo caminho para uma democratização da medicina como nunca antes vista. Tudo isso agora está ao nosso alcance, apenas a uma consulta de distância para qualquer pessoa com acesso a um smartphone.

No entanto, é crucial entender que ainda estamos nos estágios iniciais e devemos proteger a população mais vulnerável. Qualquer pessoa que escolha usar o Dr. Chatbot para melhorar sua saúde hoje deve fazê-lo com a compreensão das letras miúdas nos termos e condições, com pensamento crítico e com a consciência de que – por enquanto – estão assumindo a responsabilidade dos riscos envolvidos.