Когда система ИИ помечает пациента как потенциального злоупотребителя опиоидами, последствия могут быть немедленными и серьезными — отказ в продлении рецептов, нелеченная боль и потеря доверия к лечению. В Школе фармации Университета Чапман исследователи документируют, как именно это происходит, и учат студентов критически оценивать инструменты, которые они унаследуют.
Предвзятость, скрытая в мониторинге рецептов
NarxCare, платформа ИИ, встроенная во многие государственные программы мониторинга рецептов на лекарственные средства, использует предикторы вроде множественных посещений аптек, перекрывающихся рецептов и частой смены врачей для оценки риска злоупотребления. На практике эти сигналы часто отражают жизненные обстоятельства, а не злоупотребление. Пациентов, которые часто переезжают из-за высокой стоимости жилья, не имеют надежного транспорта или живут в районах с недостаточным медицинским обслуживанием, помечают и лишают лекарств.[3]
Департамент юстиции Калифорнии никогда не разрешал NarxCare в штате, и исследователь Чапмана Шерри Юн Ван называет это решение удачным. В других штатах она слышала от пациентов рассказы о слезах от нелеченной боли после того, как их отстранили от лечения алгоритмическими решениями.[3] Эта закономерность раскрывает фундаментальное противоречие: инструменты, созданные для оценки рисков на уровне популяции, применяются к отдельным пациентам без учета контекста.
Исследование, следующее за вредом
Ван, доцент фармации, пришла в Чапман в 2021 году, когда ИИ уже трансформировал здравоохранение, но оставался вне клинической подготовки. В 2025 году она получила грант Национальных институтов здравоохранения на 250 000 долларов для изучения предвзятости ИИ-инструментов рецептирования и была названа Исследователем года в Северной Америке по версии Women in AI.[3] Ее работа охватывает эпидемиологию, аналитику здравоохранения, фармакоэкономику и клиническую фармацию — все направлено на то, как алгоритмические решения влияют на реальных пациентов.
Для систематического решения проблемы Ван основала в Чапмане Инициативу ИИ в здравоохранении (HAI). Инициатива изучает этические вопросы конфиденциальности данных и разрабатывает справедливые подходы машинного обучения для клинического принятия решений.[3] Цель — не отвергать ИИ, а гарантировать, что он служит всем популяциям справедливо.
Обучение студентов использованию — и сомнению — в ИИ
Ван разработала факультатив по ИИ в Школе фармации, где студенты без опыта программирования используют инструменты ИИ для проведения геопространственного анализа и ответа на клинические исследовательские вопросы в реальном времени.[3] Курс выходит за рамки теории: обучающиеся загружают данные, запускают модели и интерпретируют результаты под руководством, которое делает акцент на критической оценке, а не на слепом принятии.
Дженнифер Тотончи, заместитель декана по исследованиям и программам магистратуры, четко формулирует ставки: “Принятие этой технологии включает осознание того, что мы не можем выпускать выпускников в мир, не зная, как пользоваться этими инструментами.”[3] Факультатив рассматривает грамотность в ИИ как клиническую компетенцию, а не техническую специальность.
Институциональная основа для ответственного использования
AI Hub Чапмана предоставляет инфраструктуру, делающую эту работу возможной во всем кампусе. Хаб ведет отобранные, проверенные IS&T списки одобренных инструментов ИИ для преподавателей, студентов и сотрудников, а также шаблоны заявлений для syllabus, обучение по запросу и глоссарии на понятном языке.[2][2] Отдельные руководящие принципы регулируют публикацию исследований, защиту конфиденциальных данных и автоматизацию административных рабочих процессов.[2][2]
Эта структура означает, что усилия фармацевтической школы вписываются в университетскую структуру. Когда студентам Вана нужен доступ к инструментам или ясность в политике, процесс рассмотрения хаба и обучающие модули уже готовы. Хаб также публикует открытые руководящие принципы и статьи для широкого сообщества.[2][2]
Почему эта модель важна за пределами одного кампуса
Чапман также является ведущим партнером в инициативе, финансируемой Национальным научным фондом, помогающей новым исследовательским институтам создать инфраструктуру, кадры и надзор, необходимые для ответственного внедрения генеративного ИИ.[5] Эта работа распространяет те же принципы — дизайн, ориентированный на справедливость, критическую грамотность, институциональные барьеры — на университеты с меньшими ресурсами.
В то же время инженеры Чапмана продемонстрировали позитивную сторону ИИ в здравоохранении: приложение для смартфона, оценивающее гемоглобин по селфи ногтя, дающее результаты, сравнимые с лабораторными, для более чем 1,4 миллиона скринингов и позволяющее домашний мониторинг для пациентов с болезнями почек и раком.[5] Контраст поучителен. То же учреждение, создающее доступные диагностические инструменты, также раскрывает, как алгоритмы рецептирования могут навредить уязвимым пациентам.
Урок для медицинского образования очевиден. ИИ станет частью клинической практики, независимо от того, учитывают ли это учебные программы. Подход Чапмана — сочетание исследования предвзятости с практической подготовкой, все поддерживаемое кампусным управлением — предлагает воспроизводимый путь. Студенты учатся пользоваться инструментами. Они также учатся там, где инструменты терпят неудачу.
Хотите увидеть, как Чапман структурирует свои политики и обучение по ИИ? Изучите публичные ресурсы AI Hub и списки одобренных инструментов, чтобы сравнить с подходом вашего учреждения.[2][2]
