Quando um sistema de IA sinaliza um paciente como potencial uso indevido de opioides, as consequências podem ser imediatas e graves — recargas negadas, dor não tratada e confiança no cuidado erodida. Na Escola de Farmácia da Universidade Chapman, pesquisadores estão documentando exatamente como isso acontece e ensinando os estudantes a interrogar as ferramentas que herdarão.
O viés escondido no monitoramento de prescrições
O NarxCare, uma plataforma de IA integrada em muitos Programas Estaduais de Monitoramento de Medicamentos Controlados, usa preditores como visitas a múltiplas farmácias, prescrições sobrepostas e mudanças frequentes de médico para pontuar o risco de uso indevido. Na prática, esses sinais muitas vezes refletem circunstâncias de vida em vez de abuso. Pacientes que se mudam frequentemente devido a custos elevados de habitação, falta de transporte confiável ou que vivem em áreas medicalmente carenciadas são sinalizados e têm a medicação negada.[3]
O Departamento de Justiça da Califórnia nunca permitiu o NarxCare no estado, uma decisão que a pesquisadora da Chapman, Sherry Yun Wang, considera afortunada. Em outros estados, ela ouviu pacientes descreverem choro por dor não tratada após serem cortados por decisões algorítmicas.[3] O padrão revela uma tensão central: ferramentas projetadas para avaliação de risco em nível populacional são aplicadas a pacientes individuais sem contexto.
Pesquisa que acompanha o dano
Wang, professora assistente de farmácia, chegou à Chapman em 2021, quando a IA estava a transformar os cuidados de saúde, mas permanecia ausente da formação clínica. Ela obteve uma bolsa de 250.000 dólares dos Institutos Nacionais de Saúde em 2025 para estudar viés em ferramentas de prescrição por IA e foi nomeada Investigadora do Ano da América do Norte pela Women in AI.[3] O seu trabalho abrange epidemiologia, análise de saúde, farmacoeconomia e farmácia clínica — tudo focado em como as decisões algorítmicas afetam pacientes reais.
Para abordar o problema sistematicamente, Wang fundou a Iniciativa de IA em Saúde (HAI) na Chapman. A iniciativa examina questões éticas em torno da privacidade de dados e desenvolve abordagens de aprendizagem automática equitativas para a tomada de decisão clínica.[3] O objetivo não é rejeitar a IA, mas garantir que ela sirva todas as populações de forma justa.
Ensinar os estudantes a usar — e questionar — a IA
Wang desenvolveu uma disciplina optativa de IA na Escola de Farmácia onde estudantes sem experiência em programação usam ferramentas de IA para realizar análises geoespaciais e responder a questões de investigação clínica em tempo real.[3] O curso vai além da teoria: os alunos carregam dados, executam modelos e interpretam resultados sob orientação que enfatiza a avaliação crítica em vez da adoção cega.
Jennifer Totonchy, vice-reitora de investigação e programas de pós-graduação, expõe os riscos de forma clara: “Parte de adotar esta tecnologia é reconhecer que não podemos enviar graduados para o mundo sem saber como usar estas ferramentas.”[3] A disciplina optativa trata a literacia em IA como uma competência clínica, não como uma especialidade técnica.
Uma estrutura institucional para uso responsável
O AI Hub da Chapman fornece a infraestrutura que torna este trabalho possível em todo o campus. O hub mantém listas selecionadas e revistas pelo IS&T de ferramentas de IA aprovadas para docentes, estudantes e funcionários, juntamente com modelos de declarações para programas de disciplinas, formação sob pedido e glossários em linguagem simples.[2][2] Diretrizes separadas regem a publicação de investigação, proteção de dados sensíveis e automação de fluxos de trabalho administrativos.[2][2]
Esta estrutura significa que os esforços da escola de farmácia se inserem num quadro universitário abrangente. Quando os estudantes de Wang precisam de acesso a ferramentas ou clareza nas políticas, o processo de revisão e os módulos de formação do hub já estão em vigor. O hub também publica diretrizes e artigos de acesso aberto para a comunidade em geral.[2][2]
Por que este modelo importa além de um campus
A Chapman é também parceira principal numa iniciativa financiada pela National Science Foundation que ajuda Instituições de Investigação Emergentes a construir a infraestrutura, pessoal e supervisão necessários para adotar IA generativa de forma responsável.[5] Esse trabalho estende os mesmos princípios — design centrado na equidade, literacia crítica, salvaguardas institucionais — a universidades com menos recursos.
Entretanto, engenheiros da Chapman demonstraram o lado positivo da IA na saúde: uma aplicação para smartphone que estima a hemoglobina a partir de uma selfie da unha, fornecendo resultados comparáveis aos de laboratório para mais de 1,4 milhões de rastreios e permitindo monitorização em casa para pacientes com doença renal e cancro.[5] O contraste é instrutivo. A mesma instituição que produz ferramentas de diagnóstico acessíveis também expõe como algoritmos de prescrição podem prejudicar pacientes vulneráveis.
A lição para a educação em saúde é clara. A IA fará parte da prática clínica, independentemente de os currículos a abordarem ou não. A abordagem da Chapman — combinar investigação sobre viés com formação prática, tudo apoiado por governança em todo o campus — oferece um caminho replicável. Os estudantes aprendem a usar as ferramentas. Também aprendem onde as ferramentas falham.
Quer ver como a Chapman estrutura as suas políticas e formação em IA? Explore os recursos públicos e as listas de ferramentas aprovadas do AI Hub para comparar com a abordagem da sua própria instituição.[2][2]
