Solider Rechtsrahmen für KI im Gesundheitswesen
Der Einsatz von künstlicher Intelligenz (KI) wird vielfach in technischen, gesellschaftlichen und philosophischen Kontexten diskutiert. Gerade im Gesundheitswesen sind aber auch die rechtlichen Dimensionen von Bedeutung. Der Jurist Ernst Hauck hat sich damit befasst.
Künstliche Intelligenz (KI) wird immer wieder als größter Umbruch in der Menschheitsgeschichte seit Erfindung des Buchdrucks, bisweilen sogar als regelrecht disruptiv, bezeichnet. Stellt sie auch im Gesundheitswesen alles auf den Kopf? Zumindest der Rechtsrahmen, in dem sich die gesetzliche Krankenversicherung (GKV) bewegt, ist aktuell solide. Er sei zwar weithin nicht spezifisch auf den Einsatz von KI ausgerichtet, „wirkt aber ihren Risiken entgegen und ebnet damit den Weg für ihre rechtmäßige sozialverträgliche Nutzung“, zeigt sich Ernst Hauck überzeugt. Er war bis Ende 2019 Vorsitzender Richter am Bundessozialgericht in Kassel und hat sich in den vergangenen Jahren intensiv mit rechtlichen Fragen zu neuen Technologien im Kontext des Gesundheitswesens befasst.
Datensouveränität des Patienten sichern
„Der Rechtsrahmen der GKV ist offen dafür, auf KI gestützte Verfahren in den Katalog medizinischer GKV-Leistungen zu integrieren und hierfür die Kosten zu tragen, wenn sie den Versicherten nutzen und mit den speziellen Anforderungen der GKV und den allgemeinen Anforderungen des Rechts konform sind“, präzisiert der Jurist. Zu den allgemeinen Grundsätzen, denen die Nutzung von KI gehorchen muss, gehört eine rechtskonforme Datenverarbeitung. Das betreffe Trainingsdaten genauso wie individuell erhobene Patientendaten, erläutert Hauck. Außerdem müsste beispielsweise die Datensouveränität des Patienten gesichert sein. Im Zusammenhang mit der GKV formuliert Hauck folgenden derzeit geltenden Rechtsgrundsatz: „Je näher jeweils der konkrete Einsatz der KI sachlich zur Behandlung steht, desto eher greift das Rechtsregime der Behandlung auch für die KI.“ Das heißt zum Beispiel: Wird KI unstrittig im Rahmen einer ärztlichen Behandlung eingesetzt und entsteht dabei ein Schaden, so sind klarerweise die rechtlichen Regelungen heranzuziehen, die auch sonst im Kontext von ärztlichen Behandlungsfehlern zur Anwendung kommen.
Nur Menschen sind Leistungserbringer
Und was ist mit Dr. KI, ist er in den Kreis der Leistungserbringer aufzunehmen? „De lege lata ist diese Frage eindeutig zu verneinen“, so der Jurist. Das Gesetz regele klar, wer Leistungserbringer sei und wer nicht. „Es unterfällt nicht individueller Gestaltungsmacht, neue juristische Personen zu erfinden“, stellt der Sozialrechtler klar. Ärztliche und zahnärztliche Behandlungen dürften nur von Ärzten und Zahnärzten erbracht werden. Ausnahmen gebe es zwar bei Modellvorhaben, aber auch innerhalb dieser dürften nur natürliche Personen Leistungserbringer sein. Hilfeleistungen dürften andere Personen lediglich dann erbringen, wenn der Arzt oder Zahnarzt sie anordne und verantworte. „Selbst schwache KI, die die ärztliche Fachkompetenz bei der Behandlung erhöhen soll, bedarf kontrollierend und für den Patientenkontakt jedenfalls auch noch auf längere Sicht der natürlichen Intelligenz des Arztes“, zeigt sich Hauck überzeugt. Im Übrigen verfüge KI bislang nicht über sensomotorische, emotionale und soziale Intelligenz. „Damit besteht die Gefahr, dass für den Behandlungserfolg ganz wesentliche Faktoren wie persönliche Zuwendung, Empathie des Behandlers und ein umfassendes Erkennen der individuellen Bedürfnisse des Patienten beim ausschließlichen Einsatz von KI-Verfahren zur Krankenbehandlung unberücksichtigt bleiben.“
Blackbox-Systeme bleiben außen vor
Spannend könnte es rechtlich in Zukunft beim Einsatz von generativer KI werden. Derzeit, so Hauck, gilt: „Der Einsatz eines Systems, das für den Anwender als bloße Blackbox fungiert, ist im Bereich medizinischer Leistungen ausgeschlossen. Die Problematik beginnt schon damit, dass in einem solchen Fall keine hinreichende Aufklärung des Patienten möglich ist, die zu einer wirksamen Einwilligung führen kann.“ Die Schwierigkeit bei generativer KI: Diese generiert, wie der Name schon sagt, neue Daten. Wie sie das macht und welche Ergebnisse sie liefert, können ab einem gewissen Zeitpunkt auch die Entwickler der einzelnen Anwendungen nicht mehr vorhersehen beziehungsweise nachvollziehen, weil solche Systeme selbstständig lernen. Laut dem KI-Gesetz der Europäischen Union, das der Europäische Rat am 21. Mai 2024 gebilligt hat, muss sich der Nutzer auf die Grundfunktionen verlassen können, um ein KI-System effizient zu bedienen. „Was das konkret bedeutet, könnte in der Zukunft im Falle des Einsatzes generativer KI im Rahmen der GKV letztlich auch vor Gericht zu klären sein“, erwartet Hauck.
Krankenkassen als mittelbare Financiers
Muss die GKV die Entwicklung von KI für den Einsatz im Gesundheitssystem finanzieren? „Unmittelbar Forschung zu finanzieren, ist grundsätzlich keine Aufgabe der GKV. Die Krankenversicherung als Solidargemeinschaft hat lediglich die Aufgabe, die Gesundheit der Versicherten zu erhalten, wiederherzustellen oder ihren Gesundheitszustand zu bessern“, sagt Hauck. Das heißt: Die GKV muss nur finanzieren, was der Leistungskatalog vorsieht. Die Logik dahinter: Die zwangsweise erhobenen Mittel der Beitragszahler sind knapp, deshalb sollen sie effizient eingesetzt werden. Kommt eine GKV-Leistung mithilfe von KI zustande, so finanziert die GKV die Forschung dafür nur mittelbar über das Honorar für die erbrachte Leistung. Der Gesetzgeber räumt den Krankenkassen aber die Möglichkeit ein, unter bestimmten Maßgaben die Entwicklung beispielsweise von Apps und bestimmten Verfahren der KI zu fördern. Die AOK hat unter anderem bereits die Entwicklung von Apps mitfinanziert. Darunter ist NAVIDA, deren integrierter Symptomchecker KI einsetzt, um Versicherte bei Diagnostik und Behandlung zu unterstützen.
Mitwirkende des Beitrags
Autorin
Datenschutzhinweis
Ihr Beitrag wird vor der Veröffentlichung von der Redaktion auf anstößige Inhalte überprüft. Wir verarbeiten und nutzen Ihren Namen und Ihren Kommentar ausschließlich für die Anzeige Ihres Beitrags. Ihre E-Mail-Adresse wird nicht veröffentlicht, sondern lediglich für eventuelle Rückfragen an Sie im Rahmen der Freischaltung Ihres Kommentars verwendet. Die E-Mail-Adresse wird nach 60 Tagen gelöscht und maximal vier Wochen später aus dem Backup entfernt.
Allgemeine Informationen zur Datenverarbeitung und zu Ihren Betroffenenrechten und Beschwerdemöglichkeiten finden Sie unter https://www.aok.de/pp/datenschutzrechte. Bei Fragen wenden Sie sich an den AOK-Bundesverband, Rosenthaler Str. 31, 10178 Berlin oder an unseren Datenschutzbeauftragten über das Kontaktformular.