Wenn ein KI-System einen Patienten als potenziellen Opioid-Missbraucher kennzeichnet, können die Folgen unmittelbar und schwerwiegend sein – verweigerte Nachverschreibungen, unbehandelte Schmerzen und erschüttertes Vertrauen in die Versorgung. An der School of Pharmacy der Chapman University dokumentieren Forscher genau, wie das geschieht, und lehren Studierende, die Werkzeuge, die sie übernehmen werden, kritisch zu hinterfragen.
Der Bias, der in der Verschreibungsüberwachung lauert
NarxCare, eine KI-Plattform, die in vielen staatlichen Programmen zur Überwachung von Verschreibungen (Prescription Drug Monitoring Programs) eingebettet ist, nutzt Prädiktoren wie mehrere Apothekenbesuche, sich überschneidende Verschreibungen und häufige Arztwechsel, um das Missbrauchsrisiko zu bewerten. In der Praxis spiegeln diese Signale oft Lebensumstände wider, nicht Missbrauch. Patienten, die aufgrund hoher Wohnkosten häufig umziehen, über keine zuverlässige Verkehrsanbindung verfügen oder in medizinisch unterversorgten Gebieten leben, werden markiert und erhalten keine Medikamente.[3]
Kaliforniens Justizministerium (Department of Justice) ließ NarxCare nie im Bundesstaat zu – eine Entscheidung, die Chapman-Forscherin Sherry Yun Wang als glücklich bezeichnet. In anderen Bundesstaaten hat sie Patienten gehört, die weinend von unbehandelten Schmerzen berichteten, nachdem algorithmische Entscheidungen sie von der Versorgung abgeschnitten hatten.[3] Das Muster offenbart einen Kernkonflikt: Werkzeuge, die für die Risikobewertung auf Bevölkerungsebene entwickelt wurden, werden auf einzelne Patienten angewendet, ohne Kontext zu berücksichtigen.
Forschung, die dem Schaden auf der Spur ist
Wang, Assistenzprofessorin für Pharmazie, kam 2021 an die Chapman University, als KI das Gesundheitswesen veränderte, aber in der klinischen Ausbildung noch fehlte. 2025 erhielt sie einen 250.000-Dollar-Grant der National Institutes of Health, um Bias in KI-Verschreibungstools zu erforschen, und wurde zur „North America Researcher of the Year“ von Women in AI gekürt.[3] Ihre Arbeit umfasst Epidemiologie, Gesundheitsanalytik, Pharmakoökonomie und klinische Pharmazie – alles mit dem Fokus darauf, wie algorithmische Entscheidungen reale Patienten beeinflussen.
Um das Problem systematisch anzugehen, gründete Wang die Healthcare AI Initiative (HAI) an der Chapman University. Die Initiative untersucht ethische Fragen rund um Datenschutz und entwickelt gerechte Machine-Learning-Ansätze für klinische Entscheidungsfindung.[3] Ziel ist nicht, KI abzulehnen, sondern sicherzustellen, dass sie allen Bevölkerungsgruppen fair dient.
Studierende lehren, KI zu nutzen – und zu hinterfragen
Wang entwickelte ein KI-Wahlfach an der School of Pharmacy, in dem Studierende ohne Programmiererfahrung KI-Tools nutzen, um geospatiale Analysen durchzuführen und klinische Forschungsfragen in Echtzeit zu beantworten.[3] Der Kurs geht über Theorie hinaus: Lernende laden Daten hoch, führen Modelle aus und interpretieren Ergebnisse unter Anleitung, die kritische Bewertung über blinde Übernahme stellt.
Jennifer Totonchy, Associate Dean für Forschung und Graduiertenprogramme, bringt die Tragweite auf den Punkt: „Teil der Akzeptanz dieser Technologie ist die Erkenntnis, dass wir Absolventen nicht in die Welt entsenden können, ohne dass sie wissen, wie man diese Werkzeuge nutzt.“[3] Das Wahlfach behandelt KI-Kompetenz als klinische Kernkompetenz, nicht als technische Spezialisierung.
Ein institutionelles Rückgrat für verantwortungsvollen Einsatz
Der AI Hub der Chapman University stellt die Infrastruktur bereit, die diese Arbeit campusweit möglich macht. Der Hub pflegt kuratierte, von IS&T geprüfte Listen zugelassener KI-Tools für Fakultät, Studierende und Mitarbeitende sowie Vorlagen für Lehrplanerklärungen, On-Demand-Schulungen und Glossare in verständlicher Sprache.[2][2] Separate Richtlinien regeln Forschungsveröffentlichungen, Schutz sensibler Daten und Automatisierung administrativer Arbeitsabläufe.[2][2]
Diese Struktur bedeutet, dass die Bemühungen der School of Pharmacy in einen universitätsweiten Rahmen eingebettet sind. Wenn Wangs Studierende Tool-Zugang oder politische Klarheit benötigen, sind der Prüfprozess und die Trainingsmodule des Hubs bereits vorhanden. Der Hub veröffentlicht auch Open-Access-Richtlinien und -Papiere für die breitere Community.[2][2]
Warum dieses Modell über einen Campus hinaus Bedeutung hat
Chapman ist auch Lead-Partner in einer von der National Science Foundation geförderten Initiative, die Emerging Research Institutions dabei hilft, die Infrastruktur, das Personal und die Aufsicht aufzubauen, die für einen verantwortungsvollen Einsatz generativer KI nötig sind.[5] Diese Arbeit überträgt dieselben Prinzipien – equity-centered design, kritische Kompetenz, institutionelle Leitplanken – auf Universitäten mit weniger Ressourcen.
Gleichzeitig haben Chapman-Ingenieure die positive Seite von KI im Gesundheitswesen demonstriert: eine Smartphone-App, die Hämoglobin aus einem Fingernagel-Selfie schätzt und laborvergleichbare Ergebnisse für über 1,4 Millionen Screenings liefert, wodurch Heimmonitoring für Nieren- und Krebspatienten ermöglicht wird.[5] Der Kontrast ist lehrreich. Dieselbe Institution, die zugängliche Diagnosetools entwickelt, deckt auch auf, wie Verschreibungsalgorithmen vulnerable Patienten schädigen können.
Die Lehre für die Gesundheitsausbildung ist klar. KI wird Teil der klinischen Praxis sein, egal ob Lehrpläne sie thematisieren oder nicht. Chapmans Ansatz – Bias-Forschung mit praxisnaher Ausbildung zu verbinden, unterstützt durch campusweites Governance – bietet einen replizierbaren Weg. Studierende lernen, die Werkzeuge zu nutzen. Sie lernen auch, wo die Werkzeuge versagen.
Möchten Sie sehen, wie Chapman seine KI-Richtlinien und -Schulungen strukturiert? Erkunden Sie die öffentlichen Ressourcen und zugelassenen Tool-Listen des AI Hubs, um sie mit dem Ansatz Ihrer eigenen Institution zu vergleichen.[2][2]
