Künstliche Intelligenz im Gesundheitswesen: Karlsruher IT-Kompetenz sorgt für sichere Anwendungen
Der Einsatz von Künstlicher Intelligenz (KI) in der Medizin verspricht großen Nutzen für Patientinnen und Patienten.
KI-basierte Assistenzsysteme unterstützen das frühe Erkennen von Krankheiten, ermöglichen ein schnelles Auswerten großer Mengen von Bild- und Labordaten und bieten die Chance für individuelle Therapien.
Mit einer verbesserten Gesundheitsversorgung mit Hilfe von KI und den damit verbundenen Herausforderungen für die IT-Sicherheit befasst sich Prof. Jörn Müller-Quade vom Karlsruher Institut für Technologie KIT: „Gesundheitsdaten sind ein riesiger Schatz, aus dem man lernen muss ... gerade in den jetzigen Zeiten einer globalen Pandemie ist dies wichtig, um Muster zu erkennen und Strategien zu entwickeln. Je größer die Datenmengen sind, desto größer sind auch die Erkenntnisse daraus. Die Herausforderung besteht darin, die geheimen, persönlichen Daten sowohl zu nutzen als auch privatsphäreschonend auszuwerten.“
Durch interprofessionelle Zusammenarbeit von Medizin, Therapie, Versorgung und anderer Akteure im Gesundheitswesen brauchen viele Personen potenziell Zugriff auf die Patientendaten. „Dies macht es schwierig, sensible Gesundheitsdaten vor unberechtigtem Zugriff zu schützen“, so der Karlsruher Kryptograph. „Informationstechnologie ist ein Möglichmacher, aber nur mit sehr festem Regelwerk und vielen Sicherheitsstufen für die sichere Datenübertragen und die Zugangskontrolle.“ Zur Zeit werden im Bundesgesundheitsministerium die Grundlagen für das Elektronische Rezept und die Elektronische Patientenakte (ePA) vorbereitet, „wenn aber die Endgeräte, der PC der Apotheke, der Krankenversicherung oder des Mediziners, nicht sicher sind, werden wir Probleme haben, die zu Datenskandalen führen könnten“, sagt Müller-Quade, der am KIT die Forschungsgruppe Kryptographie und Sicherheit leitet und Initiator des Kompetenzzentrums für IT-Sicherheit KASTEL ist.
Lernende Systeme müssen von Menschen überwacht werden
Neben der Produkthaftung der Hersteller hält er die Zertifizierung von KI-Systemen und -Datenbanken in der Medizin sowie der elektronischen Patientenakte (ePA) durch unabhängige Prüfstellen für notwendig. „Gesundheitsdaten dürfen nicht zum Nachteil der Patienten genutzt werden, etwa wenn jemand aufgrund von bekannt gewordenen Vorerkrankungen eine Arbeitsstelle nicht bekommt.“
Mit der geplanten Einführung der ePA erhalten Patientinnen und Patienten die volle Kontrolle über ihre Gesundheitsdaten, die dann auch auf dem eigenen PC gespeichert sind. Umso mehr gelte es, die Grundregeln der IT-Sicherheit einzuhalten – immer das neueste Betriebssystem zu nutzen und sichere Passwörter zu verwenden –, andernfalls könne der PC zum Einfallstor für Angreifer werden und die Krankengeschichte offenliegen.
Als „Fluch und Segen zugleich“ sieht der Informatiker den Einsatz kontinuierlich weiter lernender KI-Systeme, deren Software sich im Betrieb ohne menschliche Überwachung verändert. Die Entscheidungen eines solchen KI-Systems müssen durch die behandelnden Menschen stets daraufhin überprüft werden, ob sie nachvollziehbar sind. „Ärztinnen und Ärzte dürfen das vorgeschlagene Ergebnis nicht unreflektiert übernehmen.“
Weitere Informationen zum Thema KI in der Medizin, finden Sie auch im folgenden Whitepaper am Beispiel eines krebserkrankten Patienten : https://www.plattform-lernende-systeme.de/files/Downloads/Publikationen/AG3_6_Whitepaper_07042020.pdf