medstra-News 32/2023 vom 30.3.2023
Am 20.3.2023 hat der Ethikrat seine Empfehlung „Mensch und Maschine – Herausforderungen durch künstliche Intelligenz“ vorgestellt. In der Stellungnahme, die über 280 Seiten lang ist und mehrere Jahre lang in Arbeit war, hat der Ethikrat u.a. für den Bereich der Medizin detaillierte Leitlinien für den Umgang mit KI vorgeschlagen.
Grundsätzlich müsse bei der Entwicklung von medizinischer KI darauf geachtet werden, dass die verwendeten Trainingsdaten von hoher Qualität seien, um von vornherein Verzerrungen entgegenzuwirken. Außerdem müssten Plausibilitätsprüfungen in der Nutzungsphase vorgesehen sein. Gehe es um Systeme, die Entscheidungsvorschläge mit schwerwiegenden Folgen für Betroffene unterbreiten, müsse durch Prüf-, Zertifizierungs- und Auditierungsmaßnahmen sichergestellt werden, dass die Ergebnisse der Systeme sowohl erklärbar als auch interpretierbar seien. Insgesamt sieht der Ethikrat aber gerade bei der Forschung und in der Diagnostik und Therapie großes Potential von KI-Instrumenten. Es könnten z.B. Tumore frühzeitig erkannt werden, Therapieoptionen erweitert werden und Ärzte entlastet werden. Damit gehe aber gleichzeitig das Risiko einher, dass Ärzte langfristig Kompetenzen verlören oder Sorgfaltspflichten im Umgang mit KI vernachlässigten.
Dementsprechend hat der Ethikrat 9 konkrete Empfehlungen ausgearbeitet. Erstens soll die Entwicklung, Erprobung und Zulassung von KI-Produkten nur in enger Zusammenarbeit mit den Zulassungsbehörden erfolgen, um hohe Qualitätsstandards zu sichern. Zweitens fordert der Ethikrat über die bestehende Rechtslage hinaus ein Monitoring sowie Dokumentationspflichten bei der Auswahl der Datensätze, die für Training, Validierung und Tests des KI-Produkts verwendet werden. KI-Produkte, die zur Entscheidungsunterstützung verwendet werden, sollen drittens so gestaltet werden, dass die Ergebnisdarstellung die Gefahr eines Automation Bias transparent macht und die Notwendigkeit einer Plausibilitätsprüfung unterstreicht. Der Ethikrat verweist zudem darauf, dass bei medizinischen KI-Produkten strenge Anforderungen an den Datenschutz zu stellen sind (Empfehlung 4).
Erweist sich eine KI-Anwendung als deutlich überlegen gegenüber herkömmlichen Methoden, muss sichergestellt werden, dass die KI-Anwendung auch allen Patienten zur Verfügung gestellt werden kann (Empfehlung 5) und Ärzte entsprechend geschult werden (Empfehlung 6). Im Umgang mit KI muss darauf geachtet werden, dass eine hohe methodische Expertise zur Einordnung der Ergebnisse vorhanden ist, wobei einem möglichen Verlust von Erfahrungswissen der Ärzteschaft entgegenzuwirken ist (Empfehlung 7).
Patienten müssen auch bei zunehmendem Einsatz von KI weiterhin über alle entscheidungsrelevanten Umstände der Krankheit und Behandlung informiert werden. Dies, sowie gezielte kommunikative Maßnahmen sollen dem „drohenden Gefühl einer zunehmenden Verobjektivierung“ entgegenwirken. Es dürfe daher keinesfalls Personal abgebaut werden (Empfehlung 8). Vor allem eine komplette Ersetzung des medizinischen Personals lehnt der Ethikrat entschieden ab, da dies das Patientenwohl gefährden würde (Empfehlung 9).
