Überall dort, wo viele Daten schnell zur Verfügung stehen müssen, bieten Systeme mit Künstlicher Intelligenz neue Möglichkeiten. Dies ist in der Notaufnahme der Fall – aber auch beim Kampf gegen Psychische Erkrankungen oder Krebs. Erste Praxiserfahrungen zeigen: Die Chancen sind groß, doch es bestehen auch Gefahren wie Verzerrungen oder Diskriminierungen. Gefragt sind Maßnahmen und Methoden, um Daten zu validieren und Benachteiligungen zu verhindern. So entstehen neue Jobs an der Schnittstelle zwischen Medizin und IT. Ein Essay von André Boße

Im Fall eines Rettungseinsatzes kommt es darauf an, ohne Verzögerung alle notwendigen Fakten zu erhalten. Rücken die Sanitäter*innen an, müssen sie in Sekundenschnelle wissen, was passiert ist, mit welchem Patienten sie es zu tun haben. Vorerkrankungen, Symptome, Allergien – alles kann von lebensrettender Bedeutung sein. Was sie erfahren, beeinflusst ihren Einsatz. Zeit, die Informationen zu dokumentierten, bleibt nicht. Auch im Krankenhaus, in der Notaufnahme, schließlich im Schockraum, wo die Erstversorgung schwerst- und mehrfach verletzter oder kranker Patienten vorgenommen wird, kommt es darauf an, dass die wesentlichen Informationen unmittelbar die behandelnden Notfallmediziner*innen erreichen. Dies geschieht in der Eile häufig mündlich, per Zuruf. Diese Form der Kommunikation will gelernt sein. Sie funktioniert, das zeigt sich Tag für Tag. Aber: Sie ist dennoch anfällig für Fehler. Anfällig dafür, dass wichtige Informationen in der Eile des Geschehens verloren gehen.

KI als Hilfssystem im Noteinsatz

Kann da nicht die Technik helfen? Dieser Gedanke stand zu Beginn des vom Bundesministerium für Gesundheit (BMG) geförderten Projekts mit dem Titel TraumAInterfaces. Die beiden Großbuchstaben in der Mitte geben den innovativen Ansatz bereits vor: Hier ist AI im Spiel, Artificial Intelligence. Am Projekt beteiligt sind das Fraunhofer-Institut für Intelligente Analyseund Informationssysteme (IAIS) sowie die Universitäten in Bonn, Witten/Herdecke und Aachen.

Digitale Bremse im Gesundheitssystem – woran liegt’s?

Laut einer Studie des Fraunhofer Institut IAIS, publiziert in der Ausgabe 1/2023 des Magazins „Fraunhofer“, sagen 54 Prozent der befragten Mediziner*innen aus Kliniken, sie würden KISysteme in ihrer Klinik nicht nutzen, würden dies aber in Zukunft befürworten. 71 Prozent der Ärzt*innen sind laut Befragung davon überzeugt, dass strenge Datenschutzvorgaben den medizinischen Fortschritt erschweren. 91 Prozent der Studienteilnehmenden glauben, dass die Komplexität des deutschen Gesundheitssystem dafür verantwortlich ist, dass die Digitalisierung im Gesundheitswesen der Bundesrepublik noch nicht weiter fortgeschritten ist. Quelle der Zahlen ist die Studie „Digitalisierung in Praxis und Klinik“ des Digitalverbandes Bitkom und des Hartmannbundes aus dem Oktober 2022.

Die Grundlage der Forschung ist ein auf Künstlicher Intelligenz basierendes System, das bei einem Rettungseinsatz die verbale Kommunikation erfasst, transkribiert und strukturiert. „Unsere KI trifft aber keine Entscheidungen“, wird Dario Antweiler, Leiter des Geschäftsfeldes Healthcare Analytics am Fraunhofer IAIS, im der Ausgabe 1/2023 des Institutsmagazins Fraunhofer zitiert. „Ziel ist es, das Schockraum-Team bei der Entscheidungsfindung so effektiv wie möglich zu unterstützen.“ Auch für die spätere Dokumentation des Falls sei die strukturierte Erfassung der relevanten Informationen sowie des Verlaufs der Behandlung wertvoll: „Hierfür“, wird Antweiler zitiert, „wird bisher viel ärztliche Zeit verschwendet, die dadurch nicht mehr für die Patientinnen und Patienten zur Verfügung steht.“

Jeder Mensch ist anders – und doch gibt es Korrelationen

KI im Notfall kann also Leben retten und zeitgleich die Arbeitssituation im Krankenhaus verbessern. Dies ist ein Aspekt, der mit Blick auf den Fachkräftemangel immer wichtiger wird. Entsprechend gewinnbringend war es für das Fraunhofer-Team von Dario Antweiler, als es sich bei Forschungsreisen in viele Krankenhäuser auf die Suche nach möglichen Anwendungsfällen für auf Künstlicher Intelligenz basierender Systeme machte. Die Medizin weiß: Jeder Mensch ist anders. Und doch gibt es selbst bei sehr individuellen Krankheitsbildern Zusammenhänge zu bereits bekannten Fällen. Diese statistischen Korrelationen kann die KI aus einer gigantischen Menge an Berichten, Studien oder Fachartikeln herausfiltern – um frühzeitig mögliche Komplikationen oder Risiken zu erkennen. „Literature-Mining“ nennt man diesen Vorgang – und in der Medizin ist unglaublich viel Wissen in Text- und Tabellenform dargelegt.

KI ist oft mit einer komplexen Anwendung von Statistiken, mathematischen Ansätzen und hochdimensionalen Daten verbunden, die bei unsachgemäßem Vorgehen zu Verzerrungen, einer ungenauen Interpretation von Ergebnissen und überzogenem Optimismus hinsichtlich der Gesamtbilanz von KI führen können.

„KI ist mittlerweile sehr gut darin, Informationen aus Texten zu extrahieren“, wird der Leiter des Geschäftsfeldes Healthcare Analytics am Fraunhofer IAIS im Fraunhofer-Magazin zitiert. „Im Gesundheitswesen gibt es da einen riesigen Bedarf. Fast alle Informationen liegen in Textform vor, seien es Befunde, Arztbriefe oder Dokumentationen. Es frisst nicht nur unglaublich viel Zeit, diese Texte zu erstellen, sondern auch, sie zu lesen und auszuwerten.“

KI bei psychischen Erkrankungen

Wie ein KI-System im Schockraum als kommunikative Helfer und Wissens-Strukturgeber helfen kann, ist konkret vorstellbar. Komplizierter ist die Sache beim Thema Psychischer Erkrankungen. Eine Studie der World Health Organization (WHO) hat untersucht, wo in diesem Bereich die Potenziale und Probleme liegen. Die Relevanz des Themas liegt auf der Hand: Laut WHO lebten bei der letzten Erhebung im Jahr 2021 in Europa mehr als 150 Millionen Menschen mit einer psychischen Erkrankung – das ist fast jede fünfte Person. Ende 2022 präsentierte die Organisation einen Aktionsplan zur „Förderung der digitalen Gesundheit in der Europäischen Region der WHO“, in der die „Notwendigkeit von Innovationen im Bereich der prädiktiven Analytik für bessere Gesundheit durch Big Data und KI anerkannt“ wird – gerade auch im Bereich der psychischen Erkrankung. „Angesichts der zunehmenden Nutzung Künstlicher Intelligenz im Gesundheitswesen ist es wichtig, den aktuellen Stand der Anwendung von KI für die Forschung im Bereich der psychischen Gesundheit zu bewerten, um Informationen über Trends, Defizite, Chancen und Herausforderungen zu gewinnen“, wird Dr. David Novillo-Ortiz, Regionalbeauftragter für Daten und digitale Gesundheit bei WHO/Europa und einer der Autoren der Studie, in einer Zusammenfassung der wichtigsten Ergebnisse der WHO zitiert.

Mängel und Fehler bei der KI-Daten-Analyse

Die Studie zeigt, dass KI-Anwendungen derzeit häufig bei der Erforschung von depressiven Störungen, Schizophrenie und anderen psychotischen Störungen zum Einsatz kommen – in vielen anderen Bereichen existierten noch „erhebliche Lücken in unserem Verständnis, wie sie zur Erforschung anderer psychischer Gesundheitsprobleme eingesetzt werden können“, wird Dr. Ledia Lazeri, Regionalbeauftragte für psychische Gesundheit bei WHO/Europa, zitiert.

Forschungsprojekt gegen diskriminierende KI

Eine Vielzahl von Studien hat zuletzt gezeigt, dass sich KI-Algorithmen in der Medizin gegenüber Minderheiten benachteiligend verhalten. Ein Forschungsprojekt der Uni Hamburg erarbeitet aktuell eine Methodik, die Diskriminierungen durch Künstliche Intelligenz in der Medizin vermeiden soll. „Bei der Diskriminierung durch Algorithmen werden Gruppen mit geschützten Merkmalen (vor allem Alter, Geschlecht, Religion, ethnische Herkunft, sexuelle Orientierung und Behinderung) durch Algorithmen ungerechtfertigt benachteiligt. Dies kann u. a. durch die Unterrepräsentierung von Trägern geschützter Merkmale im Datensatz entstehen“, heißt es in einer Pressemitteilung zum Forschungsprojekt. Beispielsweise bestehe ein dermatologischer Datensatz zumeist aus Hautläsionen hellhäutiger Patienten, „wodurch ein Algorithmus nicht erlernt, Läsionen dunklerer Hauttöne zu erkennen.“

Laut Studie haben die Probleme bei der Anwendung von KI etwas mit den Stärken dieser Systeme zu tun. „KI ist oft mit einer komplexen Anwendung von Statistiken, mathematischen Ansätzen und hochdimensionalen Daten verbunden, die bei unsachgemäßem Vorgehen zu Verzerrungen, einer ungenauen Interpretation von Ergebnissen und überzogenem Optimismus hinsichtlich der Gesamtbilanz von KI führen können“, formuliert es die WHO in der Zusammenfassung der Ergebnisse. Die Studie habe erhebliche Mängel bei der Verarbeitung von Statistiken durch die KI-Anwendungen festgestellt, auch seien daraus folgende Verzerrungen nicht genügend evaluiert worden. Zudem betrachtet es die WHO-Studie kritisch, dass die Forschung und Anwendung der KI-Systeme häufig in „Silos“ stattfinden: Es fehlt sowohl Transparenz als auch die Möglichkeit, sich unter den Forschenden auszutauschen und zusammenzuarbeiten. Wodurch auch verhindert wird, dass methodische Schwächen ausgemerzt werden können.

Schwierig bei Tumorbild-Analyse

Welche Folgen diese methodischen Fehler haben können, zeigt das Fallbeispiel einer Studie von der Universität Chicago, auf das David Sweenor, Senior Director of Product Marketing beim Softwareunternehmen Alteryx, in einem Beitrag auf dem Healthcare/IT-Portal mednic hinweist. Die Forschenden aus Chicago untersuchten in verschiedenen Kliniken mithilfe eines KI-Systems, welchen Einfluss die Erstellung von Gewebebildern des Tumors auf die Überlebensrate der Patient*innen hat. „Auf den ersten Blick war das Modell erfolgreich“, schreibt David Sweenor. Dann stellte sich jedoch heraus, dass die KI anhand der benutzten Farb- und Scan-Einstellungen herausbekommen hatte, welche Klinik welches Tumorbild geliefert hatte. Und was machte die KI?

Geruchssinn digitalisieren

Ob „Mir stinkt’s“ oder „Ich kann dich nicht mehr riechen“ – es gibt eine Reihe von Redewendungen, die einen Bezug zum Wohlbefinden mit dem Geruchssinn herstellen. Das von der EU unterstützte Programm Smart Electronic Olfaction for Body Odor Diagnostics (SMELLODI) untersucht die Zusammensetzung und Wahrnehmung von Körpergerüchen. Körpergerüche spielten in vielen sozialen Situationen eine subtile, aber entscheidende Rolle, heißt es in der Projektbeschreibung der Uni Jena, die an diesem Projekt beteiligt ist. Sie beeinflusse die Anziehungskraft auf unseren Partner, schaffe ein Zusammengehörigkeitsgefühl in der Familie und lasse Rückschlüsse auf Gefühle oder Krankheiten unserer Mitmenschen zu. Das liege daran, dass der Körpergeruch unter anderem durch genetische Verbindungen, hormonelle Veränderungen, aktuelle Entzündungsprozesse oder die Ernährung beeinflusst wird. Gesamtziel des Projektes sei es, den Geruchssinn zu digitalisieren und für Gesundheitsanwendungen, zum Beispiel für Patienten und Patientinnen mit einer Riechstörung, nutzbar zu machen.

„Anstatt die Überlebensrate der Patient*innen auf Grundlage der Bilder zu berechnen, führte die KI diese auf die historischen Daten der jeweiligen Krankenhäuser zurück, was die Ergebnisse der Studie fragwürdig erscheinen lässt“, schreibt Sweenor. Statt also den Einfluss der Bilder zu analysieren, bewertete die KI die Statistiken der jeweiligen Kliniken. Eine Möglichkeit wäre es, die von der KI erhobenen Daten im Anschluss noch einmal von Menschen validieren zu lassen – wobei eine vollständige Prüfung aufgrund der reinen Menge der Daten kaum möglich ist.

Diversität in den Fachteams

Damit diese Probleme von KI in der Medizin gelöst werden, sind Fachkräfte nötig, die auf der Schnittstelle zwischen Medizin und Zukunftstechnik die methodischen Schwächen analysieren, beheben und Maßnahmen dagegen finden, dass sie erneut auftreten. David Sweenor fordert in seinem Beitrag für mednic zudem, dass die Barrieren zwischen Mitarbeitenden und den neuen Technologien abgebaut werden. Dies sei schon deshalb wichtig, da die Diversität derjenigen, die mit den KI-Modellen arbeiten, die Datenqualität erhöhen. Sweenor: „Unterschiedliche Teams vor Ort sind aufgrund ihrer eigenen Erfahrung viel eher in der Lage, Datenfehler zu erkennen, bevor sie vollständig operationalisiert werden.“ Dieser „kollaborativere Prozess“ sei auch ein wichtiger erster Schritt, um KI-basierte Diskriminierung zu vermeiden – zum Beispiel den Umstand, dass die Künstliche Intelligenz mit Daten trainiert wird, die nicht der gesellschaftlichen Vielfalt entsprechen.

In den USA hat sich das Buch „The AI Revolution in Medicine: GPT-4 and Beyond“ bereits zu einem Bestseller entwickelt, seit diesem Sommer gibt es das Werk unter dem Titel „Die KI-Revolution in der Medizin: GPT-4 und darüber hinaus“ auch auf Deutsch. Die Autoren Peter Lee, Isaac Kohne und Carey Goldberg legen in ihrem Buch dar, wie vielseitig, wirksam und tatsächlich revolutionär die Künstliche Intelligenz uns in den kommenden Jahren verändern wird und welche Chancen, aber auch Gefahren sich daraus ergeben, ausgehend von einer Aussage von Bill Gates, die im Buch zitiert wird: „Die Entwicklung der KI ist so grundlegend wie die Erfindung des Personalcomputers. Sie wird die Art und Weise, wie Menschen arbeiten, lernen und kommunizieren, verändern – und das Gesundheitswesen umgestalten. Aber sie muss sorgfältig gesteuert werden, um sicherzustellen, dass ihre Vorteile die Risiken überwiegen. Ich finde es ermutigend, dass die Chancen und Verantwortlichkeiten der KI in der Medizin so früh erforscht werden.“ Peter Lee, Isaac Kohne und Carey Goldberg: Die KI-Revolution in der Medizin: GPT-4 und darüber hinaus. Pearson Studium. 2023.