Klinische KI dauerhaft präzise halten: Neue Forschung befasst sich mit Modell-Drift und Fairness

Klinische KI-Modelle funktionieren am Tag ihrer Einführung oft gut. Monate später können sie unbemerkt an Qualität verlieren, wenn sich die medizinische Praxis weiterentwickelt, Aufzeichnungssysteme ändern und Patientenpopulationen verschieben. Dieses Problem, bekannt als Modell-Drift, gefährdet die Patientenergebnisse, wenn es unentdeckt bleibt. Ein neuer vierjähriger Zuschuss der National Library of Medicine in Höhe von 1,6 Millionen US-Dollar zielt darauf ab, Gesundheitssystemen praktische Wege aufzuzeigen, um diese Werkzeuge für alle Menschen, denen sie dienen, präzise zu halten [1].

Warum klinische KI-Modelle an Genauigkeit verlieren

Prädiktive Modelle in der Medizin stehen vor zwei verwandten Schwachstellen. Erstens driftet die Leistung im Laufe der Zeit ab, wenn sich klinische Arbeitsabläufe, Informationssysteme und die Demografie der Patienten ändern [1]. Zweitens lassen sich Modelle oft nur schlecht auf verschiedene klinische, geografische oder soziodemografische Gruppen verallgemeinern [1]. Unbehandelt untergraben beide Probleme das Vertrauen und können Ungleichheiten in der Versorgung vergrößern.

Dataset Shift – zeitliche Veränderungen in Praxismustern, Patientenmix und Dateninfrastruktur – ist heute als Hauptursache für die Verschlechterung der Modellgenauigkeit gut dokumentiert [5]. Während Best Practices für das Training und die Validierung neuer Modelle existieren, gab es bisher nur begrenzte Arbeiten zur prospektiven Validierung und laufenden Wartung [5].

Vom VA-Nierenmodell zur breiteren Überwachung von Untergruppen

Sharon Davis, PhD, Assistenzprofessorin für Biomedizinische Informatik am Vanderbilt University Medical Center, hat zuvor datengesteuerte Methoden entwickelt, die eingesetzte Modelle überwachen, Drift erkennen und Aktualisierungen empfehlen [1]. Dieser Ansatz half dabei, ein nationales Risikomodell des Department of Veterans Affairs für akute Nierenschädigung aufrechtzuerhalten [1].

Die meisten Wartungsmethoden verfolgen die Leistung jedoch über die gesamte Patientenpopulation hinweg [1]. Das neue Projekt stellt eine andere Frage: Wie verschieben sich Genauigkeitslücken zwischen Patientengruppen im Laufe der Zeit, und wie können wir sie erfassen und korrigieren? [1]

Vier Forschungsziele mit NIH-Förderung

Unter Verwendung von Daten des VA und von Vanderbilt Health werden Davis und Kollegen Vorhersagemodelle für chirurgische Komplikationen, im Krankenhaus erworbene akute Nierenschädigungen und postpartale Blutungen untersuchen [1]. Die Arbeit verfolgt vier spezifische Ziele:

• Verfolgen, wie sich Leistungslücken zwischen Patientengruppen im Laufe der Zeit verändern, sowohl bei traditionellen Modellen des maschinellen Lernens als auch bei großen Sprachmodellen (LLMs), die für Vorhersagen verwendet werden [1].
• Entwicklung von Überwachungs- und Aktualisierungsmethoden, die die Genauigkeit sowohl insgesamt als auch innerhalb von Untergruppen wiederherstellen [1].
• Verwendung synthetischer Patientendaten zur Unterstützung der Überwachung kleiner Gruppen, wie etwa Patienten in ländlichen Krankenhäusern [1].
• Berücksichtigung der Art und Weise, wie ein effektives KI-Tool genau die Ergebnisse verändert, die es vorhersagt – eine Verschiebung, die fälschlicherweise für Drift gehalten werden kann [1].

Dieses letzte Ziel wird an einem Tool zur Vorhersage postpartaler Blutungen getestet, das bereits bei Vanderbilt Health im Einsatz ist [1].

Fairness, Governance und die Wartungslücke

Davis ist Mitglied des Artificial Intelligence Governance Committee des VUMC und bringt dort Fachwissen zu algorithmischer Fairness und Bias ein [2][3]. Ihre Karriere konzentriert sich auf Methoden, die nachhaltige und faire klinische KI-Einsätze unterstützen [2][3]. Der neue Zuschuss erweitert diese Arbeit, indem er eine kritische Lücke schließt: Best Practices für Richtlinien zur Modellwartung, Perspektiven zur Leistungsüberwachung und Aktualisierungsstrategien sind nach wie vor unterentwickelt [5].

Gesundheitssysteme, die KI-Tools einsetzen, benötigen mehr als eine anfängliche Validierung. Sie benötigen automatisierte Überwachungssysteme, die die langfristige Leistung und den Nutzen über verschiedene Bevölkerungsgruppen hinweg fördern [2][3]. Diese Forschung zielt darauf ab, diese praktischen Methoden zu liefern.

Was dies für Krankenhäuser und Kliniker bedeutet

Ein Modell, das am Tag der Bereitstellung gut funktioniert, wird nicht zwangsläufig weiterhin gut funktionieren oder für jede Patientengruppe gleichermaßen gut abschneiden [1]. Ziel ist es, Gesundheitssystemen praktische Möglichkeiten an die Hand zu geben, um diese Werkzeuge für alle Menschen, denen sie dienen, präzise und zuverlässig zu halten [1]. Da sich die Einführung klinischer KI beschleunigt, wird die Fähigkeit, Modelle zu überwachen und zu aktualisieren – insbesondere für unterrepräsentierte Untergruppen – zu einem Gebot der Patientensicherheit.

Wenn Ihre Organisation klinische KI-Tools evaluiert, fragen Sie die Anbieter nach ihrer Überwachungsstrategie nach der Bereitstellung. Achten Sie auf Nachweise für die Verfolgung der Leistung in Untergruppen und einen klaren Aktualisierungspfad. Die bei Vanderbilt laufende Forschung könnte bald offene Methoden liefern, die Sie direkt übernehmen können.

Quellen

1. Sharon Davis erhält Forschungsstipendium, um klinische KI-Modelle präzise zu halten …
2. Offene Fragen und Forschungslücken für die Überwachung und … - Frontiers
3. Sharon E. Davis, PhD, MS, FAMIA - Vanderbilt University Medical Center
4. Sharon Davis, PhD, MS, FAMIA - Vanderbilt University Medical Center
5. Sharon DAVIS | Predoctoral Trainee | M.Stat. | Vanderbilt University …