Charité-Expertin: Generative KI hat enormes Potenzial

Generative KI könne bei der medizinischen Dokumentation, in der Wissenschaft oder bei der Ausbildung des ärztlichen Nachwuchses unterstützen, erläutert Mittermaier. So ließe sich diese Technik für die Zusammenfassung von Patientengesprächen, Abrechnungen und Terminvereinbarungen nutzen. In der Medikamentenforschung könne sie chemische Strukturen und deren Variationen simulieren und durch die Analyse großer Datenmenge mögliche Probleme in Bezug auf Wirksamkeit, Sicherheit und Nebenwirkungen identifizieren.

„Auch für die medizinische Ausbildung gibt es vielfältige potenzielle Anwendungen“, so Mittermaier. Beispielsweise ließen sich durch KI realistische Simulationsszenarien, personalisiertes Lernmaterial und die Zusammenfassung von wissenschaftlichen Artikeln generieren. Patienten könnten auch direkt profitieren, etwa von Chatbots. Bislang sei deren Ergebnisqualität allerdings noch nicht von europäischen oder us-amerikanischen Behörden überprüft.

Probleme für die Einführung generativer KI in den medizinischen Alltag sieht die Wissenschaftlerin zum Teil in der generativen KI selbst begründet. Die Systeme lieferten bisweilen als Halluzinationen bezeichnete falsche Antworten, die schwer erkennbar seien. „Halluzinationen können nicht nur bei Texten, sondern auch bei generiertem Audio-, Bild- oder Videomaterial vorkommen“, so Mittermaier. Des Weiteren entstünden bisweilen systematische Verzerrungen, sogenannte Bias. Außerdem seien die Entscheidungen von KI-Modellen zum Teil nicht nachvollziehbar. Dieses Phänomen ist auch als Blackbox-Effekt bekannt.

„Eine große Herausforderung stellt derzeit noch die Evaluierung dar“, schreibt die KI-Expertin. Bislang gebe es weder einheitliche noch für alle Fälle geeignete Evaluationsmetriken. Daten seien oft in Qualität und Menge nicht ausreichend, um Systeme angemessen zu trainieren. Es existierten zudem rechtliche Hürden. So könnten KI-Modelle nur als Medizinprodukte zertifiziert werden, wenn sie „fertig trainiert“ seien.

Als generative KI werden Modelle der künstlichen Intelligenz bezeichnet, die dafür programmiert sind, neue Inhalte in Form von Texten, Audio, Bildern oder Videos zu erzeugen. (ink)