Saat sistem AI menandai pasien sebagai penyalahguna opioida potensial, konsekuensinya bisa segera dan parah — penolakan pengisian ulang, rasa sakit yang tidak ditangani, dan kepercayaan terhadap perawatan yang tererosi. Di School of Pharmacy Chapman University, peneliti mendokumentasikan persis bagaimana hal itu terjadi dan mengajarkan mahasiswa untuk menginterogasi alat yang akan mereka warisi.
Bias yang Tersembunyi dalam Pemantauan Resep
NarxCare, platform AI yang tertanam dalam banyak Program Pemantauan Obat Resep negara bagian, menggunakan prediktor seperti kunjungan ke banyak apotek, resep yang tumpang tindih, dan pergantian dokter yang sering untuk menilai risiko penyalahgunaan. Dalam praktiknya, sinyal-sinyal tersebut sering mencerminkan keadaan hidup, bukan penyalahgunaan. Pasien yang sering pindah karena biaya perumahan tinggi, tidak memiliki transportasi andal, atau tinggal di area yang kurang dilayani medis ditandai dan ditolak mendapatkan obat.[3]
Departemen Kehakiman California tidak pernah mengizinkan NarxCare di negara bagian tersebut, keputusan yang disebut peneliti Chapman Sherry Yun Wang sebagai keberuntungan. Di negara bagian lain, dia mendengar pasien bercerita menangis karena rasa sakit yang tidak ditangani setelah diputuskan oleh keputusan algoritmik.[3] Pola ini mengungkap ketegangan fundamental: alat yang dirancang untuk penilaian risiko tingkat populasi diterapkan pada pasien individu tanpa konteks.
Penelitian yang Mengikuti Dampak Negatif
Wang, seorang profesor asist farmasi, datang ke Chapman pada 2021 saat AI sedang mentransformasi perawatan kesehatan namun masih tidak hadir dalam pelatihan klinis. Dia memperoleh hibah $250.000 dari National Institutes of Health pada 2025 untuk mempelajari bias pada alat resep AI dan dinobatkan sebagai Peneliti Tahun Women in AI untuk Amerika Utara.[3] Karyanya mencakup epidemiologi, analitik kesehatan, farmakoekonomi, dan farmasi klinis — semuanya berfokus pada bagaimana keputusan algoritmik memengaruhi pasien nyata.
Untuk mengatasi masalah secara sistematis, Wang mendirikan Healthcare AI Initiative (HAI) di Chapman. Inisiatif ini meneliti pertanyaan etis seputar privasi data dan mengembangkan pendekatan pembelajaran mesin yang adil untuk pengambilan keputusan klinis.[3] Tujuannya bukan menolak AI, melainkan memastikan AI melayani semua populasi dengan adil.
Mengajarkan Mahasiswa Menggunakan — dan Mempertanyakan — AI
Wang mengembangkan mata kuliah pilihan AI di School of Pharmacy di mana mahasiswa tanpa pengalaman coding menggunakan alat AI untuk menjalankan analisis geospasial dan menjawab pertanyaan penelitian klinis secara real-time.[3] Mata kuliah ini melampaui teori: peserta mengunggah data, menjalankan model, dan menafsirkan hasil di bawah bimbingan yang menekankan evaluasi kritis di atas adopsi buta.
Jennifer Totonchy, wakil dekan penelitian dan program pascasarjana, mengungkapkan taruhannya dengan jelas: “Bagian dari memeluk teknologi ini adalah menyadari bahwa kita tidak bisa mengirim lulusan ke dunia tanpa mengetahui cara menggunakan alat-alat ini.”[3] Mata kuliah pilihan ini memperlakukan literasi AI sebagai kompetensi klinis, bukan keahlian teknis.
Tulang Punggung Institisional untuk Penggunaan Bertanggung Jawab
AI Hub Chapman menyediakan infrastruktur yang membuat pekerjaan ini mungkin di seluruh kampus. Hub memelihara daftar terkurasi, ditinjau IS&T, alat AI yang disetujui untuk dosen, mahasiswa, dan staf, beserta template pernyataan silabus, pelatihan on-demand, dan glosarium bahasa sederhana.[2][2] Pedoman terpisah mengatur publikasi penelitian, perlindungan data sensitif, dan otomatisasi alur kerja administratif.[2][2]
Struktur ini berarti upaya sekolah farmasi berada dalam kerangka seluruh universitas. Saat mahasiswa Wang memerlukan akses alat atau kejelasan kebijakan, proses tinjauan dan modul pelatihan hub sudah tersedia. Hub juga mempublikasikan pedoman dan makalah akses terbuka untuk komunitas yang lebih luas.[2][2]
Mengapa Model Ini Penting di Luar Satu Kampus
Chapman juga menjadi mitra utama dalam inisiatif yang didanai National Science Foundation yang membantu Emerging Research Institutions membangun infrastruktur, penempatan tenaga, dan pengawasan yang diperlukan untuk mengadopsi AI generatif dengan bertanggung jawab.[5] Pekerjaan ini memperluas prinsip-prinsip yang sama — desain berpusat pada kesetaraan, literasi kritis, benteng institusional — ke universitas dengan sumber daya lebih sedikit.
Sementara itu, insinyur Chapman telah mendemonstrasikan sisi positif AI kesehatan: aplikasi smartphone yang memperkirakan hemoglobin dari selfie kuku, memberikan hasil setara lab untuk lebih dari 1,4 juta skrining dan memungkinkan pemantauan di rumah bagi pasien penyakit ginjal dan kanker.[5] Kontrasnya mengajarkan. Institusi yang sama yang menghasilkan alat diagnostik yang mudah diakses juga mengekspos bagaimana algoritma resep dapat merugikan pasien rentan.
Pelajaran untuk pendidikan kesehatan jelas. AI akan menjadi bagian dari praktik klinis apakah kurikulum mengatasinya atau tidak. Pendekatan Chapman — menggabungkan penelitian bias dengan pelatihan praktis, semuanya didukung oleh tata kelola seluruh kampus — menawarkan jalur yang dapat direplikasi. Mahasiswa belajar menggunakan alat. Mereka juga belajar di mana alat-alat itu gagal.
Ingin melihat bagaimana Chapman menyusun kebijakan dan pelatihan AI-nya? Jelajahi sumber daya publik dan daftar alat yang disetujui AI Hub untuk dibandingkan dengan pendekatan institusi Anda sendiri.[2][2]
