Lorsqu’un système d’IA signale un patient comme consommateur potentiel d’opioïdes, les conséquences peuvent être immédiates et graves — renouvellements refusés, douleur non traitée, et confiance dans les soins érodée. À l’École de pharmacie de l’Université Chapman, des chercheurs documentent précisément comment cela se produit et enseignent aux étudiants à interroger les outils qu’ils hériteront.
Le biais caché dans la surveillance des prescriptions
NarxCare, une plateforme d’IA intégrée à de nombreux programmes étatiques de surveillance des prescriptions de médicaments, utilise des prédicteurs tels que les visites dans plusieurs pharmacies, les prescriptions qui se chevauchent et les changements fréquents de médecin pour évaluer le risque de mésusage. En pratique, ces signaux reflètent souvent des circonstances de vie plutôt qu’un abus. Les patients qui déménagent fréquemment en raison du coût élevé du logement, qui manquent de transport fiable ou qui vivent dans des zones médicalement sous-desservies se voient signalés et se voient refuser leurs médicaments.[3]
Le Département de la Justice de Californie n’a jamais autorisé NarxCare dans l’État, une décision que la chercheuse de Chapman, Sherry Yun Wang, qualifie de providentielle. Dans d’autres États, elle a entendu des patients décrire leurs larmes face à une douleur non traitée après avoir été coupés de leurs médicaments par des décisions algorithmiques.[3] Ce schéma révèle une tension fondamentale : des outils conçus pour l’évaluation des risques au niveau populationnel sont appliqués à des patients individuels sans contexte.
Une recherche qui suit le préjudice
Wang, professeure adjointe en pharmacie, a rejoint Chapman en 2021, alors que l’IA transformait les soins de santé mais restait absente de la formation clinique. Elle a obtenu une subvention de 250 000 $ des Instituts nationaux de la santé en 2025 pour étudier les biais dans les outils d’IA pour les prescriptions et a été nommée Chercheuse de l’année en Amérique du Nord par Women in AI.[3] Ses travaux couvrent l’épidémiologie, l’analytique de santé, la pharmacoéconomie et la pharmacie clinique — tous axés sur l’impact des décisions algorithmiques sur de vrais patients.
Pour aborder le problème de manière systématique, Wang a fondé l’Initiative IA en santé (HAI) à Chapman. L’initiative examine les questions éthiques liées à la confidentialité des données et développe des approches d’apprentissage automatique équitables pour la prise de décision clinique.[3] L’objectif n’est pas de rejeter l’IA, mais de s’assurer qu’elle serve équitablement toutes les populations.
Enseigner aux étudiants à utiliser — et à questionner — l’IA
Wang a développé un cours optionnel sur l’IA au sein de l’École de pharmacie, où des étudiants sans expérience en codage utilisent des outils d’IA pour réaliser des analyses géospatiales et répondre à des questions de recherche clinique en temps réel.[3] Le cours va au-delà de la théorie : les apprenants chargent des données, exécutent des modèles et interprètent les résultats sous la supervision d’un enseignement qui met l’accent sur l’évaluation critique plutôt que sur l’adoption aveugle.
Jennifer Totonchy, doyenne adjointe à la recherche et aux programmes d’études supérieures, résume l’enjeu sans détour : “Faire sienne cette technologie, c’est reconnaître qu’on ne peut pas envoyer des diplômés dans le monde sans qu’ils sachent utiliser ces outils.”[3] L’option considère la littératie en IA comme une compétence clinique, et non comme une spécialité technique.
Une colonne vertébrale institutionnelle pour un usage responsable
Le Hub IA de Chapman fournit l’infrastructure qui rend ce travail possible sur l’ensemble du campus. Le hub tient à jour des listes sélectionnées et validées par les services informatiques (IS&T) d’outils d’IA approuvés pour le corps professoral, les étudiants et le personnel, ainsi que des modèles de déclarations pour les syllabus, des formations à la demande et des glossaires en langage clair.[2][2] Des directives distinctes régissent la publication de la recherche, la protection des données sensibles et l’automatisation des flux de travail administratifs.[2][2]
Cette structure signifie que les efforts de l’école de pharmacie s’inscrivent dans un cadre universitaire global. Lorsque les étudiants de Wang ont besoin d’accéder à des outils ou de clarifications sur les politiques, le processus de révision et les modules de formation du hub sont déjà en place. Le hub publie également des directives et des articles en libre accès pour la communauté au sens large.[2][2]
Pourquoi ce modèle importe au-delà d’un seul campus
Chapman est également partenaire principal d’une initiative financée par la National Science Foundation qui aide les institutions de recherche émergentes à bâtir l’infrastructure, le personnel et la supervision nécessaires pour adopter l’IA générative de manière responsable.[5] Ce travail étend les mêmes principes — conception centrée sur l’équité, littératie critique, garde-fous institutionnels — aux universités disposant de moins de ressources.
Parallèlement, des ingénieurs de Chapman ont démontré le côté positif de l’IA en santé : une application smartphone qui estime l’hémoglobine à partir d’un selfie d’ongle, fournissant des résultats comparables à ceux d’un laboratoire pour plus de 1,4 million de dépistages et permettant un suivi à domicile pour les patients atteints de maladies rénales et de cancer.[5] Le contraste est instructif. La même institution qui produit des outils de diagnostic accessibles met aussi en lumière la manière dont les algorithmes de prescription peuvent nuire aux patients vulnérables.
La leçon pour l’enseignement de la santé est claire. L’IA fera partie de la pratique clinique, que les programmes l’abordent ou non. L’approche de Chapman — allier recherche sur les biais et formation pratique, le tout soutenu par une gouvernance à l’échelle du campus — offre une voie reproductible. Les étudiants apprennent à utiliser les outils. Ils apprennent aussi où ces outils échouent.
Vous souhaitez voir comment Chapman structure ses politiques et ses formations en IA ? Explorez les ressources publiques du Hub IA et ses listes d’outils approuvés pour les comparer à l’approche de votre propre institution.[2][2]
