Fachsymposium in Karlsruhe  /  05. Oktober 2022, 09:30 - 18:00 Uhr

Vertrauenswürdige KI im Gesundheitsbereich: Herausforderungen und Lösungsansätze

Die Einsatzmöglichkeiten künstlicher Intelligenz im Gesundheitsbereich sind vielfältig: Personalisierte Gesundheitsapps, diagnostische Bilderkennung, Behandlungsempfehlungen und -prognosen auf der Basis umfangreicher medizinischer Daten oder Pflegunterstützung durch Service-Roboter. Softwarefirmen, Medizintechnik-Hersteller und Start-ups bringen immer neue KI-Anwendungen auf den Markt, die höhere Effizienz, Kostensenkungen und mehr Zeit fürs Wesentliche versprechen. 

Aber wie steht es um die Zuverlässigkeit solcher Systeme? Welche Daten werden für das Training verwendet? Was bedeutet der Einsatz solche Systeme für das Arzt-Patienten-Verhältnis? Wie steht es um die Transparenz und Erklärbarkeit? Was passiert, wenn das System aufgrund neuer Daten neue Zusammenhänge „erkennt“ und sich die Empfehlungen verändern?

Fragen wie diese werden unter der Überschrift „Vertrauenswürdige KI“ verhandelt. Hierbei handelt es sich um ein Konzept, das 2019 von einer hochrangigen Expertengruppe der EU entwickelt wurde und das seither die Anforderung an eine KI „made in Europe“ darstellt. Allerdings hapert es an der konkreten Umsetzung. Denn obwohl inzwischen Guidelines und Checklisten für die praktische Gestaltung des Implementierungsprozesses zur Verfügung stehen, gibt es keine Erkenntnisse darüber, welche Ansätze in welchen Anwendungsfeldern am besten geeignet sind.

Auch im Gesundheitsbereich gibt es noch keine einheitliche Vorgehensweise. Aber es gibt eine Reihe von Beispielen, die zeigen, wie vertrauenswürdige KI im Gesundheitsbereich konkret umgesetzt werden kann. Im Symposium werden solche Beispiele und Ansätze von einschlägigen Expertinnen und Experten vorgestellt.

Hierbei handelt es sich zum einen um technische Ansätze, mit denen die Qualität und Erklärbarkeit sichergestellt werden kann und zum anderen um Ansätze, die bei der Organisation des Implementierungsprozesses ansetzen. Besondere Aufmerksamkeit erhalten in der Veranstaltung kooperative Verfahren, bei denen Techniker:innen, Sozialwissenschaftler:innen und Nutzer:innen zusammenarbeiten. Aber auch Vertrauenswürdigkeitschecks externer Prüfstellen können für Vertrauenswürdigkeit sorgen. Zudem werden Ansätze der formalen Zertifizierung nach den Vorgaben der Medical Device Regulation (MDR) vorgestellt.  

Ziel der Veranstaltung ist es, einen Überblick über aktuelle Umsetzungsstrategien vertrauenswürdiger KI zu geben und vor dem Hintergrund der spezifischen Anforderungen des Gesundheitsbereichs zu diskutieren, was Unternehmen, Start-ups, Hersteller und Einrichtungen des Gesundheitssystems tun können, um vertrauenswürdige KI-Systeme zum Nutzen aller zu entwickeln und umzusetzen.

Das Symposium ist Teil der Veranstaltungsreihe zum 50-jährigen Bestehens des Fraunhofer-Instituts für System- und Innovationsforschung ISI. Das Fraunhofer ISI analysiert die Entwicklungsbedingungen und Auswirkungen von künstlicher Intelligenz aus einer Innovationsperspektive und fragt nach den konkreten Umsetzungsbedingungen vertrauenswürdiger KI in verschiedenen Domänen (Querschnittsthema Künstliche Intelligenz).

Die Veranstaltung richtet sich an Experten und Expertinnen für KI im Gesundheitsbereich, an Forscher und Forscherinnen, die sich mit dem Konzept der vertrauenswürdige KI beschäftigen sowie an Unternehmen, Start-ups und Einrichtungen im Gesundheitsbereich, die das Konzept konkret umsetzen wollen. 

Programm

Uhrzeit Programmpunkt
09:30 – 10:00 Begrüßung durch die Institutsleitung des Fraunhofer ISI, Vorstellung des Konzepts der Vertrauenswürdigen KI der EU  Stellvertretender Institutsleiter Prof. Dr. Rainer Walz, Dr. Bernd Beckert
Teil 1: KI im Gesundheitsbereich: Anwendungsfelder und Herausforderungen
10:00 – 10:30 Wie wird KI im Gesundheitswesen eingesetzt und warum ist die Vertrauenswürdigkeit wichtig? Dr. Tanja Bratan (Fraunhofer ISI)
10:30 – 11:00 Die Perspektive der Start-ups: Welche Rolle spielt die Vertrauenswürdigkeit bei der Entwicklung von KI-Anwendungen für den Gesundheitsbereich? Dr. Julia Hoxha
(CEO & Gründerin Zana GmbH, KI-Bundesverband)
11:00 – 11:30 Kaffeepause
Teil 2: Umsetzung von vertrauenswürdiger KI im Gesundheitsbereich
11:30 – 12:00 Erklärbarkeit von KI-Systemen als wichtige Dimension im Vertrauenswürdigkeitkonzept Dr. Anne Schwerk
(BCRT, Berlin Institute of Health @Charité)
12:00 – 12:30 KI-Vertrauenswürdigkeitschecks in der Praxis  Dr. Stefan Rüping (Fraunhofer IAIS)
12:30 – 13:30 Mittagspause
13:30 – 14:00 Beispiele für den “Embedded Ethics Approach” bei der KI-Entwicklung Maximilian Braun
(TUM School of Social Sciences and Technology)
14:00 – 14:30 Die Rolle der Nutzerinnen und Nutzer bei der Entwicklung und Implementierung von KI-Systemen im Gesundheitsbereich  Dr. med. Philipp Kellmeyer (Neuroethics and AI Ethics Lab, Universität Freiburg)
14:30 – 15:00 Kaffeepause
15:00 – 15:30 Ist gut gemachte KI schon vertrauenswürdige KI? Beispiele für menschenzentriertes Design der User-Interfaces  Patrick Philipp (Fraunhofer IOSB)
15:30 – 16:00 Zertifizierung von KI-Anwendungen im Gesundheitsbereich: Was müssen KI-Anbieter beachten und welche Rolle wird die neue EU-Regulierung spielen?  Prof. Dr. Oliver Haase
(HTWG Konstanz und ValidateML)
Teil 3: Roundtable 
16:00 – 17:00 Podiumsdiskussion mit Fragen aus dem Teilnehmendenkreis Moderation: Bernd Beckert, Tanja Bratan
17:00 – 18:00 Führung durch die aktuelle Ausstellung im ZKM (optional), anschließend Empfang