Kann KI die Gesundheitskosten senken?

Welche Projekte, die generative Künstliche Intelligenz einsetzen, laufen zurzeit am Institut für Patient-centered Digital Health?

Kerstin Denecke: In einem Projekt mit dem Inselspital sichern wir die Qualität von Befundberichten aus der Radiologie. Bei diesem Projekt setzen wir generative KI ein, um zu überprüfen, ob in den von Radiolog*innen diktierten Befundberichten alle relevanten Informationen vorkommen. In diesem Projekt wurde auch ein Chatbot programmiert, der mit den Patient*innen vor der Behandlung interagiert, Zusatzinformationen abholt, diese aufbereitet und ihre Fragen zur Untersuchung beantwortet. Dies entlastet die Betreuung und steigert die Qualität der Behandlung. In anderen Projekten untersuchen wir, wie mit generativer KI die klinische Dokumentation unterstützt werden kann. Dort geht es darum, aus Informationen zum Spitalaufenthalt von Patient*innen Austrittsberichte zu erstellen oder automatisiert  meldepflichtige Informationen aus den vorhandenen Daten zu extrahieren, wie z.B. die Informationen, die an ein Implantatsregister gemeldet werden müssen. Aus extrahierten Informationen können auch Risiken abgeschätzt werden. In einem unserer Projekte wollen wir mittels KI Indikatoren erkennen, welche auf ein erhöhtes Risiko an Spitalinfektionen zu erkranken, hinweisen. So können auch Leben gerettet werden.

Kommen diese Technologien bereits zum Einsatz? 

Bei einigen Projekten werden die entwickelten Methoden bereits von ausgewählten Ärzt*innen getestet, um Feedback zu sammeln über Bedienbarkeit und vor allem bezüglich der Qualität. Wie immer bei digitalen Projekten ist es aber wichtig, dass sich die neuen Technologien auch in die bestehende Systemlandschaft und die bestehenden Prozesse einfügen. Dies kann teilweise ein längerer Prozess sein. KI-generierte Austrittsberichte in die Praxis zu bringen, wird wohl am schnellsten gehen. Die Spitäler sind unter Druck, Lösungen bereit zu stellen, da generative KI mit ChatGPT & Co. so greifbar ist. Es gilt zu verhindern, dass datenschutzrechtlich ungesicherte Lösungen von Ärzt*innen zur klinischen Dokumentation genutzt werden. Wichtig ist dabei aber auch, dass die generierten Berichte dennoch durch Fachexpert*innen geprüft und freigegeben werden. Dabei gilt es, jeden Bericht sorgfältig zu prüfen, auch wenn die generierten Berichte auf den ersten Blick korrekt aussehen. Wir entwickeln dafür ein unterstützendes Werkzeug, welches prüft, ob alle relevanten Informationen enthalten sind und keine zusätzlichen Informationen in die generierten Berichte gelangt sind. 

Werden diese Systeme breit ausgerollt oder sind es Einzellösungen für ein spezifisches Spital?

In unseren Projekten arbeiten wir mit einzelnen Spitälern zusammen. Die in den Projekten involvierten Firmen sind aber daran interessiert, die entstehenden Methoden und Systeme in ihren Softwarelösungen zur Verfügung zu stellen. Zum Beispiel können die Methoden zur KI-generierten Berichtschreibung in bestehende klinische Informationssysteme integriert werden und ermöglichen dadurch eine unmittelbare Nutzung während des Dokumentationsprozesses.   

Gibt es auch Projekte, die KI in der Diagnose einsetzen?

Ich arbeite mit Forschenden des Neurologie-Departments des Inselspitals zusammen an KI-basierten Methoden, die helfen sollen, komplexe Schlafstörungen schneller zu diagnostizieren. Was heute im Internet und Apps bereits verbreitet ist, sind Symptomchecker. Diese Systeme fragen Symptome ab und liefern wahrscheinliche Diagnosen bzw. Empfehlungen, ob ein Arztbesuch dringend nötig ist. Entscheidungsunterstützende Systeme für den klinischen Einsatz bzw. Forschung dazu gibt es schon lange.

Wie sieht es dabei mit der Sicherheit aus?

Da ist zum einen die Datensicherheit. Die Sprachmodelle werden in unseren Projekten immer lokal betrieben und wir arbeiten grundsätzlich nur mit anonymisierten Daten. Die Spitäler, mit denen wir zusammenarbeiten, müssen sich überlegen, ob sie perspektivisch auf frei verfügbare Sprachmodelle setzen oder sich von kommerziellen Anbietern abhängig machen. Wenn man auf verfügbaren Sprachmodellen aufsetzt, müssen die Inhalte dieser Modelle kritisch geprüft und hinterfragt werden. Fehler der Algorithmen durch schlechte oder verzerrte Daten gilt es zu vermeiden.

Zum anderen ist die Patientensicherheit zu gewährleisten, wenn KI im Kontext Medizin eingesetzt wird. Wenn ein KI-Tool Entscheidungsvorschläge liefert, müssen diese kritisch geprüft werden. Dafür benötigt medizinisches Personal, aber auch Patient*innen, künftig entsprechende Kompetenzen. Hier sehe ich noch viel Potenzial für Forschungsarbeit. Wie bewerte ich als Patientin einen Diagnosevorschlag oder Therapievorschlag eines KI-Tools? Welche Kompetenzen benötigen Gesundheitsfachpersonen zum sorgsamen Umgang mit KI-Tools? Auch mache ich mir Sorgen über Risiken von KI-basierten Lösungen, die von Patient*innnen allein, also ohne ärztliche Kontrolle, genutzt werden. Überall ist aktuell Enthusiasmus über die vielen Möglichkeiten rings um generative KI, aber über mögliche Risiken spricht kaum jemand. Wir wissen momentan noch nicht, welche unerwünschten Nebenwirkungen und Wechselwirkungen KI-basierte Tools für die Nutzung durch Patient*innen haben können. Hier ist es wichtig, dass wir von Seiten Forschung Projekte eng begleiten, Risiken erforschen und entsprechende Gegenmassnahmen integrieren können. 

Was wird uns die Zukunft bringen?

Wir werden in den nächsten Jahren sicher grosse Fortschritte machen beim Einsatz von KI für administrative Aufgaben im Gesundheitswesen. Da sehe ich ein grosses Potenzial, welches zu Effizienzsteigerungen führen kann. Beim Einsatz in der Diagnostik und vor allem in der Therapie  wünsche ich mir, dass wir dabei mit der nötigen Vorsicht vorgehen. Und dass wir den menschlichen Kontakt nicht verlieren. Ich bin der Ansicht, dass individuelle Bedürfnisse auch in Zukunft am besten durch den direkten menschlichen Kontakt wahrgenommen werden können und wir besser auf diese eingehen können, wenn wir einen direkten Austausch haben. Dem Gesundheitspersonal fehlt aktuell schlichtweg die Zeit dafür, aber vielleicht kann KI zukünftig die Zeit dafür schaffen.