BVDW fordert gerichtliche Überprüfbarkeit algorithmischer Entscheidungen

Das vom BVDW veröffentlichte Papier „Mensch, Moral, Maschine – digitale Ethik, Algorithmen und künstliche Intelligenz“ greift Chancen und Risiken aktueller und künftiger technischer Entwicklungen auf. Gleich zu Beginn stellen die Autoren klar: Durch Algorithmen herbeigeführte Entscheidungen müssen gerichtlich überprüfbar sein.

In der praktischen Anwendung im Medizinbereich fordern die Experten: Unter der Voraussetzung eines nachgewiesenen Nutzens muss eine zeitgemäße Definition der ärztlichen Sorgfaltspflicht die Anwendung von KI umfassen. Heißt im Umkehrschluss: Ärzte würden ihre Sorgfaltspflicht verletzen, wenn sie in bestimmten Bereichen, in denen der Nutzen einer KI-Technologie nachgewiesen wurde, auf dessen Einsatz verzichten. „Hier soll der Arzt natürlich nicht durch eine Software ersetzt werden – ganz im Gegenteil. Es ist eine wertvolle Hilfestellung“, sagt Dr. Wolfgang Faisst (SAP SE), stellvertretender Vorsitzender des BVDW-Ressorts Digitale Transformation und Internet of Things. Die Diagnose werde immer ein Arzt stellen, so Faisst. „Wenn KI aber nachweislich dazu beiträgt, dass diese Diagnose präziser ist als ohne ihren Einsatz, wäre es aus Sicht des Behandelnden fahrlässig, diese Möglichkeit nicht zu nutzen.“

„Eine Zwei-Klassen-Medizin darf es nicht geben“

Zahlreiche Ansätze für den Einsatz von KI setzen deutlich vor der Behandlung des Arztes an – bei der Prävention von Krankheiten. Schon heute ermöglichen vernetzte Geräte ein genaues Messen von Bewegungen und Vitalwerten einzelner Nutzer. Manche fürchten, dass dann diejenigen bei Krankenversicherungstarifen begünstigt würden, die ihre Gesundheitsdaten an die Krankenversicherung übermitteln. BVDW-Experte Faisst gibt Entwarnung: „Unser Gesundheitssystem zeichnet sich durch das Solidaritätsprinzip aus. Das ist vielmehr eine gesellschaftliche Frage und hängt nicht von den technischen Möglichkeiten ab. Eine digitale Zwei-Klassen-Medizin droht nicht.“ Das Diskussionspapier befasst sich mit zahlreichen weiteren Gebieten, in denen ethische Fragen gestellt und entsprechende Diskussionen angestoßen werden müssen. Die Publikation ist ab sofort auf Webseite des BVDW kostenfrei als Download verfügbar.