KI benötigt ethische Leitplanken
Birgit Frohn Dipl. biol.Im sensiblen Bereich der Medizin muss der Einsatz von Künstlicher Intelligenz (KI) klaren ethischen Regeln folgen: KI hat die gleiche ethische Rahmung wie die Ärzteschaft.
KI leistet Support bei Diagnose sowie Therapie und erledigt zeitraubende Tätigkeiten wie Dokumentation. Für die chronisch kognitiv überforderte und unter Zeitdruck stehende Ärzteschaft kommt diese maschinelle Entlastung wie gerufen. Vor allem auch, da KI laut Prof. Dr. Martin Hirsch, Direktor des Instituts für KI in der Medizin an der Philipps-Universität Marburg, „so verführerisch intelligent ist“. Aber: Sie verändert das Arzt-Patienten-Verhältnis erheblich. Um die darin so wichtige Vertrauensbasis zu erhalten, müssen die Behandelnden in der Lage sein, die Einschätzungen einer KI gegenüber ihren Patient:innen zu erklären und richtig einzuordnen. Und diesen auch zu widersprechen, so Prof. Hirsch: „Blindes Vertrauen in die Antworten einer KI darf es nicht geben“. Zumal – und überaus fatal – es in den USA, woher die Mehrheit der KI-Systeme kommt, keine Regulierung mehr gibt. Diese wurde mit dem KI-Act von Donald Trump am 21. Januar 2025 abgeschafft.
Das Medizinproduktegesetz genügt nicht
Nun sind die Hürden für den Einsatz neuer Technologien in Europa durch das Medizinproduktegesetz erst einmal hoch angesetzt. So ist beispielsweise eine Risikoreduktion zwingend vorgeschrieben. „Doch KI-Anwendungen dringen viel weiter in medizinische Prozesse ein als bisherige Technologien“, gibt Prof. Hirsch zu bedenken. Was also könnte Mediziner:innen beim Einsatz von KI ethische Sicherheit geben?
„Das Wohl des Patienten steht an erster Stelle. Dieses Ziel muss auch den Werkzeugen der KI innewohnen“.
Genfer Gelöbnis für KI-Entwickler
Als moderne Version des Hippokratischen Eids legt das Genfer Gelöbnis die ethische Richtschnur für das ärztliche Handeln fest und stellt das Wohl der Patient:innen in den Mittelpunkt. Um die ethische Einbettung von KI in der Medizin zu gewährleisten wäre es denkbar, die Entwickler der Systeme auf das Genfer Gelöbnis zu verpflichten. Damit, so Prof. Hirsch, hätte die Ärzteschaft die Gewissheit, dass sie eine solche KI einsetzen kann, ohne ihre Berufsethik zu verletzen. „Zugleich wird den Patienten eine KI bereitgestellt, der sie ein ähnliches Vertrauen entgegenbringen können, wie dem Arzt“. Wie ein Genfer Gelöbnis für KI-Entwickler im Einzelnen aussehen könnte, wird derzeit unter Leitung von Prof. Hirsch im Rahmen der DGIM-Arbeitsgruppe „KI in der Inneren Medizin“ erarbeitet.
„Interdisziplinarität wird immer wichtiger…“
…betont DGIM-Kongresspräsident Prof. Dr. Jan Galle: „Um den Herausforderungen einer älter werdenden, oft multimorbiden Gesellschaft gerecht zu werden, muss sich die Innere Medizin noch stärker vernetzen – innerhalb ihrer eigenen Disziplinen und darüber hinaus“.
Quelle:Pressekonferenz anlässlich des 131. Kongresses der Deutschen Gesellschaft für Innere Medizin (DGIM) am 05.05.2025 in Wiesbaden.