Bir AI sistemi bir hastayı potansiyel opioid kötüye kullanıcı olarak işaretlediğinde, sonuçlar anında ve ciddi olabilir — reçete yenilemelerinin reddedilmesi, tedavi edilmeyen acı ve bakımdaki güvenin erimesi. Chapman Üniversitesi Eczacılık Fakültesi’nde araştırmacılar, bunun tam olarak nasıl gerçekleştiğini belgeleyip, öğrencilerin miras alacakları araçları sorgulamalarını öğretiyorlar.
Reçete izlemede gizli önyargı
Birçok eyalet Reçete İlaç İzleme Programlarında gömülü bir AI platformu olan NarxCare, birden fazla eczane ziyareti, çakışan reçeteler ve sık doktor değiştirme gibi öngörücüleri kullanarak kötüye kullanım riskini puanlar. Pratikte bu sinyaller genellikle kötüye kullanım yerine yaşam koşullarını yansıtır. Yüksek konut maliyetleri, güvenilir ulaşım eksikliği veya yetersiz tıbbi hizmet sunulan bölgelerde yaşama nedeniyle sık sık taşınan hastalar işaretlenir ve ilaçları reddedilir.[3]
Kaliforniya Adalet Bakanlığı NarxCare’i eyalette asla izin vermedi; Chapman araştırmacısı Sherry Yun Wang bu kararı şanslı buluyor. Diğer eyaletlerde, algoritmik kararlarla kesilen hastaların, tedavi edilmeyen acıdan dolayı ağladıklarını duyduğunu söylüyor.[3] Bu desen, temel bir gerilimi ortaya çıkarıyor: popülasyon düzeyinde risk değerlendirmesi için tasarlanan araçlar, bağlam olmadan bireysel hastalara uygulanıyor.
Zararı takip eden araştırma
Eczacılık yardımcı doçenti Wang, AI sağlık hizmetlerini dönüştürürken klinik eğitimden hâlâ uzakken 2021’de Chapman’a geldi. 2025’te AI reçete araçlarındaki önyargıyı incelemek için 250.000 dolarlık Ulusal Sağlık Enstitüleri (NIH) hibeğini kazandı ve Women in AI’nın Kuzey Amerika Araştırmacısı of the Year (Yılın Araştırmacısı) olarak seçildi.[3] Çalışmaları epidemiyoloji, sağlık analitiği, farmakoekonomi ve klinik eczacılığı kapsıyor — tümü, algoritmik kararların gerçek hastaları nasıl etkilediğine odaklanıyor.
Sorunu sistematik olarak ele almak için Wang, Chapman’da Healthcare AI Initiative (HAI) - Sağlık Hizmetleri AI Girişimi’ni kurdu. Girişim, veri gizliliği etrafındaki etik soruları inceliyor ve klinik karar verme için adil makine öğrenimi yaklaşımları geliştiriyor.[3] Amaç AI’yi reddetmek değil, onun tüm popülasyonlara adil hizmet verdiğinden emin olmaktır.
Öğrencilere AI kullanmayı — ve sorgulamayı — öğretmek
Wang, kodlama deneyimi olmayan öğrencilerin AI araçlarını kullanarak jeouzamsal analizler yapmasını ve klinik araştırma sorularını gerçek zamanlı yanıtlamasını sağlayan Eczacılık Fakültesi’nde bir AI seçmeli dersi geliştirdi.[3] Ders teoriden öteye gidiyor: öğrenciler veri yüklüyor, modeller çalıştırıp, kör benimsemeyi değil kritik değerlendirmeyi vurgulayan rehberlik altında sonuçları yorumluyor.
Araştırma ve lisansüstü programlar yardımcı dekkanı Jennifer Totonchy, durumu net bir şekilde özetliyor: “Bu teknolojiyi benimsemenin bir parçası, bu araçları nasıl kullanacaklarını bilmeden mezunları dünyaya gönderemeyeceğimizi kabul etmektir.”[3] Seçmeli ders, AI okuryazarlığını bir teknik uzmanlık alanı değil, klinik bir yeterlilik olarak ele alıyor.
Sorumlu kullanım için kurumsal bir omurga
Chapman’ın AI Hub’ı, bu çalışmanın kampüs çapında mümkün olmasını sağlayan altyapıyı sunuyor. Hub, öğretim üyeleri, öğrenciler ve personel için onaylanmış AI araçlarının, IS&T (Bilgi Sistemleri ve Teknolojisi) tarafından incelenmiş, özenle seçilmiş listelerini; ders planı ifade şablonlarını, talep üzerine eğitimleri ve sade dilde sözlükleri tutuyor.[2][2] Ayrı yönergeler, araştırma yayınlarını, hassas veri korumasını ve idari iş akışı otomasyonunu yönetiyor.[2][2]
Bu yapı, eczacılık fakültesinin çabalarının üniversite çapında bir çerçeve içinde yer aldığını gösteriyor. Wang’ın öğrencileri araç erişimi veya politika netliği ihtiyacı duyduğunda, hub’ın inceleme süreci ve eğitim modülleri zaten hazır. Hub ayrıca geniş topluluk için açık erişimli yönergeler ve makaleler yayımlıyor.[2][2]
Bu model tek bir kampüsün ötesinde neden önemli
Chapman, Gelişmekte Olan Araştırma Kurumlarının (Emerging Research Institutions), üretken AI’yi sorumlu bir şekilde benimsemeleri için gerekli altyapıyı, personeli ve denetimi kurmalarına yardımcı olan, Ulusal Bilim Vakfı (NSF) fonlu bir girişimin de lider ortağıdır.[5] Bu çalışma, aynı ilkeleri — eşitlik odaklı tasarım, eleştirel okuryazarlık, kurumsal koruma önlemleri — daha az kaynağı olan üniversitelere genişletiyor.
Öte yandan, Chapman mühendisleri sağlık AI’sinin olumlu yönünü kanıtladı: tırnak selfi’sinden hemoglobin tahmin eden bir akıllı telefon uygulaması, 1,4 milyondan fazla taramada laboratuvarla karşılaştırılabilir sonuçlar vererek böbrek hastalığı ve kanser hastaları için evde izlemeyi mümkün kılıyor.[5] Bu zıtlık öğretici. Erişilebilir tanı araçları üreten aynı kurum, reçete algoritmalarının zarar gören hastaları nasıl etkileyebileceğini de ortaya çıkarıyor.
Sağlık eğitimi için ders açık: Müfredatlar ele alsa da almasa da AI klinik pratiğin bir parçası olacak. Chapman’ın yaklaşımı — önyargı araştırmasını uygulamalı eğitimle birleştirmek, hepsi de kampüs çapında yönetişimle desteklenmiş — taklit edilebilir bir yol sunuyor. Öğrenciler araçları kullanmayı öğreniyor. Araçların nerede başarısız olduğunu da öğreniyorlar.
Chapman AI politikalarını ve eğitimini nasıl yapılandırdığını görmek ister misiniz? AI Hub’ın genel kaynaklarını ve onaylanmış araç listelerini inceleyerek kendi kurumunuzun yaklaşımıyla karşılaştırın.[2][2]
