Cuando un sistema de IA marca a un paciente como posible consumidor indebido de opioides, las consecuencias pueden ser inmediatas y graves: recargas denegadas, dolor no tratado y pérdida de confianza en la atención. En la Facultad de Farmacia de la Universidad Chapman, los investigadores están documentando exactamente cómo ocurre esto y enseñando a los estudiantes a interrogar las herramientas que heredarán.
El sesgo oculto en la monitorización de recetas
NarxCare, una plataforma de IA integrada en muchos Programas Estatales de Monitorización de Medicamentos Recetados, utiliza predictores como visitas a múltiples farmacias, recetas superpuestas y cambios frecuentes de médico para puntuar el riesgo de uso indebido. En la práctica, esas señales a menudo reflejan circunstancias de vida en lugar de abuso. Los pacientes que se mudan frecuentemente debido a los altos costos de vivienda, carecen de transporte confiable o viven en áreas médicamente desatendidas son marcados y se les deniega la medicación.[3]
El Departamento de Justicia de California nunca permitió NarxCare en el estado, una decisión que la investigadora de Chapman Sherry Yun Wang califica de afortunada. En otros estados, ha escuchado a pacientes describir cómo lloraban por el dolor no tratado tras ser cortados por decisiones algorítmicas.[3] El patrón revela una tensión fundamental: herramientas diseñadas para la evaluación de riesgo a nivel poblacional se aplican a pacientes individuales sin contexto.
Investigación que sigue el daño
Wang, profesora adjunta de farmacia, llegó a Chapman en 2021 cuando la IA estaba transformando la atención médica pero seguía ausente de la formación clínica. Obtuvo una subvención de 250.000 dólares de los Institutos Nacionales de Salud en 2025 para estudiar el sesgo en herramientas de IA para recetas y fue nombrada Investigadora del Año en Norteamérica por Women in AI.[3] Su trabajo abarca epidemiología, analítica de salud, farmacoeconomía y farmacia clínica, todo centrado en cómo las decisiones algorítmicas afectan a pacientes reales.
Para abordar el problema sistemáticamente, Wang fundó la Iniciativa de IA en Salud (HAI) en Chapman. La iniciativa examina cuestiones éticas en torno a la privacidad de datos y desarrolla enfoques equitativos de aprendizaje automático para la toma de decisiones clínicas.[3] El objetivo no es rechazar la IA, sino garantizar que sirva a todas las poblaciones de manera justa.
Enseñar a los estudiantes a usar — y cuestionar — la IA
Wang desarrolló una asignatura optativa de IA dentro de la Facultad de Farmacia donde estudiantes sin experiencia en programación usan herramientas de IA para realizar análisis geoespaciales y responder preguntas de investigación clínica en tiempo real.[3] El curso va más allá de la teoría: los alumnos cargan datos, ejecutan modelos e interpretan resultados bajo una guía que enfatiza la evaluación crítica sobre la adopción ciega.
Jennifer Totonchy, decana asociada de investigación y programas de posgrado, lo plantea con claridad: “Parte de adoptar esta tecnología es reconocer que no podemos enviar graduados al mundo sin saber cómo usar estas herramientas.”[3] La optativa trata la alfabetización en IA como una competencia clínica, no como una especialidad técnica.
Un respaldo institucional para el uso responsable
El Centro de IA de Chapman (AI Hub) proporciona la infraestructura que hace posible este trabajo en todo el campus. El centro mantiene listas curadas, revisadas por IS&T, de herramientas de IA aprobadas para profesores, estudiantes y personal, junto con plantillas de declaraciones para programas de estudio, formación a demanda y glosarios en lenguaje sencillo.[2][2] Directrices separadas rigen la publicación de investigación, la protección de datos sensibles y la automatización de flujos de trabajo administrativos.[2][2]
Esta estructura significa que los esfuerzos de la facultad de farmacia se enmarcan en un esquema a nivel universitario. Cuando los estudiantes de Wang necesitan acceso a herramientas o claridad normativa, el proceso de revisión y los módulos de formación del centro ya están disponibles. El centro también publica directrices y artículos de acceso abierto para la comunidad en general.[2][2]
Por qué este modelo importa más allá de un campus
Chapman también es socio principal en una iniciativa financiada por la National Science Foundation que ayuda a las Instituciones de Investigación Emergentes a construir la infraestructura, el personal y la supervisión necesarios para adoptar la IA generativa de manera responsable.[5] Ese trabajo extiende los mismos principios —diseño centrado en la equidad, alfabetización crítica, salvaguardas institucionales— a universidades con menos recursos.
Mientras tanto, los ingenieros de Chapman han demostrado el lado positivo de la IA en salud: una aplicación para smartphone que estima la hemoglobina a partir de una selfie de la uña, ofreciendo resultados comparables a los de laboratorio para más de 1,4 millones de cribados y permitiendo el monitoreo en casa para pacientes con enfermedad renal y cáncer.[5] El contraste es instructivo. La misma institución que produce herramientas de diagnóstico accesibles también expone cómo los algoritmos de recetas pueden dañar a pacientes vulnerables.
La lección para la educación en salud es clara. La IA formará parte de la práctica clínica independientemente de que los planes de estudio la aborden o no. El enfoque de Chapman —combinar investigación sobre sesgos con formación práctica, todo respaldado por una gobernanza a nivel de campus— ofrece un camino replicable. Los estudiantes aprenden a usar las herramientas. También aprenden dónde fallan.
¿Quieres ver cómo estructura Chapman sus políticas y formación en IA? Explora los recursos públicos y las listas de herramientas aprobadas del AI Hub para compararlos con el enfoque de tu propia institución.[2][2]
