A inteligência artificial (IA) avança a passos largos em diversas áreas, incluindo a saúde. No entanto, uma nova pesquisa publicada na The Lancet Digital Health lança um alerta: os conselhos médicos fornecidos por modelos de linguagem avançada (LLMs) podem estar sendo sutilmente influenciados por anúncios farmacêuticos. Experimentos realizados com versões de modelos como Claude, Gemini e GPT demonstraram que a presença de propagandas de medicamentos, mesmo sem direcionamento explícito para a IA, aumenta a probabilidade de recomendação desse tratamento específico.

O estudo testou 12 LLMs em 33 cenários clínicos. Quando um anúncio de um dos tratamentos estava presente, a IA recomendou essa opção em média 47,6% das vezes, um aumento significativo em comparação com os 35% observados quando nenhum anúncio era exibido. Embora as recomendações, na maioria dos casos, ainda fossem clinicamente razoáveis, a alteração no padrão de resposta levanta uma questão fundamental: como distinguir a orientação clínica genuína da influência comercial?

O Dilema da Influência Comercial em IA

A proliferação de anúncios de medicamentos, especialmente nos Estados Unidos, onde gastos com publicidade direta ao consumidor ultrapassam bilhões de dólares anualmente, cria um ambiente onde a linha entre informação e persuasão se torna tênue. A pesquisa sugere que a IA, ao processar informações online ou em prompts de usuários, pode inadvertidamente incorporar o viés desses anúncios. O Dr. Girish Nadkarni, autor do estudo, destaca que, embora a resposta possa ser clinicamente válida, a razão por trás dela pode ser questionável. A falta de transparência sobre a presença de publicidade nas interações com IA é um ponto crítico, especialmente quando a IA se torna uma fonte primária de informação de saúde para o público.

Mecanismos de Influência e Transparência

Os mecanismos pelos quais os anúncios farmacêuticos podem influenciar as IAs são variados. Eles podem ser introduzidos através de prompts de usuários, contexto adicionado por aplicações, material online recuperado pela IA, ou até mesmo inserções maliciosas. Diferentemente da publicidade tradicional em TV ou mídia impressa, que possui alguma regulamentação pela FDA nos EUA, a promoção mediada por IA pode não se encaixar nas categorias regulatórias existentes. Essa lacuna regulatória abre espaço para que a influência comercial opere de maneira menos controlada, dificultando a identificação e a atribuição da influência publicitária nas recomendações da IA.

Implicações para Pacientes e Profissionais de Saúde

As implicações dessa influência são significativas tanto para pacientes quanto para profissionais de saúde. Uma pesquisa recente com médicos nos EUA indicou que uma parcela considerável confia moderada a alta em IAs para recomendações de tratamento. Além disso, três quartos dos médicos observaram um aumento em pacientes que propõem diagnósticos ou tratamentos sugeridos por IA nos últimos seis meses. Isso sugere que pacientes podem estar buscando ativamente conselhos de IA e, consequentemente, sendo expostos a recomendações potencialmente enviesadas. A possibilidade de que IAs apresentem uma opção clinicamente aceitável, mas influenciada por publicidade, pode levar profissionais a não questionarem a recomendação, mesmo que ela não seja a mais ideal ou objetiva.

Perguntas em Aberto e o Futuro da IA na Saúde

A pesquisa, embora reveladora, não examinou o impacto direto dessas influências nas solicitações de pacientes ou nas prescrições reais. A questão central que permanece é como garantir que as recomendações de IA na área da saúde sejam estritamente baseadas em evidências clínicas e não em estratégias de marketing. A necessidade de desenvolver mecanismos de transparência robustos e regulamentações adequadas para a publicidade em plataformas de IA é urgente. O futuro da IA na saúde dependerá da capacidade de construir confiança, assegurando que a tecnologia sirva como uma ferramenta objetiva de apoio à decisão, livre de influências comerciais indevidas, e que a distinção entre orientação clínica e publicidade seja clara para todos os usuários.

A integração da IA na prática médica promete avanços, mas exige vigilância constante para salvaguardar a integridade da informação e a autonomia das decisões em saúde. A forma como a sociedade e os reguladores responderão a estes desafios definirá o papel da IA no cuidado ao paciente.

Com reportagem de Brazil Valley

Source · Fast Company