Eine Untersuchung aus haftungsrechtlicher Perspektive

Künstlich intelligente Systeme (KI-Systeme) halten in zunehmendem Tempo auch in der Medizin Einzug und stellen mitunter einen zentralen Baustein der personalisierten Medizin dar. Dabei bewegen sich die Systeme längst nicht mehr nur im Forschungsstadium. Immer mehr Anwendungen stehen gegenwärtig an der Schwelle zur Marktreife oder haben die medizinische Praxis bereits erreicht. Es wird erwartet, dass KI-Systeme künftig in allen Phasen der Patientenbehandlung eingesetzt werden: von der Prävention über Diagnose- und Therapiewahl bis hin zu konkreten Therapiemassnahmen, der Nachsorge und Rehabilitation.

Trifft eine neuartige Technologie wie die der Künstlichen Intelligenz auf einen so sensiblen Bereich wie denjenigen der Medizin, wirft dies auch zahlreiche rechtliche Fragestellungen auf. Aus den technischen Funktionseigenschaften von KI-Systemen erwachsen neuartige Risiken, welche sich bei der Durchsetzung haftungsrechtlicher Ansprüche als problematisch erweisen können. Angesichts ihrer Fähigkeit zu digitaler Autonomie sind KI-Systeme in der Lage gewisse Aufgaben in der Medizin selbständig durchzuführen, ohne umfassende Vorgabe durch einen Menschen. Diese Fähigkeiten stellen insofern eine rechtsdogmatische Herausforderung dar, also unser (Haftungs-)Recht sie seiner Grundkonzeption nach nur bei Menschen nicht auch bei Maschinen vermutet.

Vor diesem Hintergrund stellen sich eine Reihe von Rechtsfragen, welche Dr. Djamila Batache (Advokatin) in ihrem von Prof. Dr. Ulrich G. Schroeter betreuten Dissertationsprojekt eingehend untersuchte: In welchen Bereichen des medizinischen Behandlungsverhältnisses ist der Einsatz von digital autonomen KI-Systemen durch die Ärzteschaft überhaupt zulässig? Welche Sorgfaltsvorkehrungen haben sie dabei zu ergreifen? Inwiefern haben Behandelnde für digital autonomes Verhalten einzustehen bzw. inwiefern kann ihnen ein solches allenfalls zugerechnet werden? Die eingehende Untersuchung mit diesen Rechtsfragen geht im Ausgangspunkt von der geltenden Rechtslage aus und zeigt auf Basis der daraus gewonnenen Erkenntnisse auf, ob das bestehende Recht hinreichende Lösungen vermissen lässt, sich als unsachgemäss oder lückenhaft erweist und sich insofern ein Gesetzgebungsbedarf ergibt.