Page 66 - Ärzteblatt Thüringen, Juli/August 2026

Recht
F O RU M

Zwischen Innovation und ■ Sicherstellung einer angemessenen
Instruktion und Schulung des betei-
Haftungsfalle: die rechtliche ■ Gewährleistung der hinreichenden
ligten Personals,
Einordnung der KI-Nutzung menschlichen Aufsicht über die KI-
Anwendung,
im ärztlichen Alltag ■ Implementierung von Prozessen zur
Überwachung der Systemleistung
und zum Umgang mit Fehlfunktio-
Erik Scheller nen.

Diese Betreiberpflichten werden nach
Die Anwendung von Künstlicher Intelligenz (KI) hat für die Medizin ein erhebliches Ablauf der derzeitigen Übergangsfris-
Potenzial zur Entlastung im verdichteten Arbeitsalltag sowie als Innovationsmotor ten voraussichtlich im August 2026
in Diagnostik und Therapie. So nimmt die Nutzung von KI-Systemen in vielen Berei- wirksam. Im klinischen Kontext treffen
chen deutlich zu und erscheint in einzelnen Feldern bereits als faktisch unverzicht- sie in erster Linie den Krankenhausträ-
bar: In der bildgebenden Diagnostik werden Algorithmen eingesetzt, um Tumore ger; der einzelne Arzt bleibt jedoch als
schon in frühen Stadien zu entdecken, in der Chirurgie unterstützt die KI bei der verantwortliche medizinische Ent-
OP-Planung und intraoperativ durch Echtzeitbildanalyse, in der Praxisverwaltung scheidungsinstanz in diese Pflichten
und in den Abläufen können intelligente Systeme Prozesse automatisieren, Termine eingebunden.
ausmachen und die Behandlung dokumentieren.
Gleichzeitig sind aber die rechtlichen Grundlagen noch längst nicht auf alle medi- Das Haftungsdreieck
zinischen Anwendungsfälle vorbereitet, insbesondere im Bereich des Haftungs-
rechts entsteht ein juristisches Dilemma: Die fehlende Rechtspersönlichkeit der KI Spezifische zivilrechtliche Regelungen
erfordert bei medizinischen Haftungsfragen die Zuordnung auf neue, dreipolige zur Haftung für den Einsatz von KI in
Verhältnisse zwischen dem handelnden Arzt, der in Anstellungsverhältnissen typi- der Medizin existieren aktuell nicht, es
scherweise eingebundenen medizinischen Einrichtung sowie dem Hersteller, An- ist daher auf das schon bekannte Inst-
bieter oder Entwickler des KI-Systems. Die wichtigsten geltenden Normen und zu rumentarium der allgemeinen zivil-
beachtenden Faktoren bei der Anwendung von KI in der Medizin werden im Folgen- rechtlichen Haftungsnormen zurückzu-
den überblickartig dargestellt. greifen. Höchstrichterliche Rechtspre-
chung speziell zur Haftung beim Ein-
satz medizinischer KI-Systeme liegt
Regulatorischer Rahmen – um unterschiedliche technische Ansät- ebenfalls noch nicht vor, sodass beim
Einordnung als Medizinprodukt ze von klassischen Expertensystemen Umgang mit KI im ärztlichen Kontext
und europäischer Rechtsrahmen mit Wenn-dann-Regeln bis hin zu mo- derzeit besondere Sorgfalt und Zu-
dernen Machine-Learning- und genera- rückhaltung angezeigt sind.
Die regulatorische Einordnung von KI- tiven Modellen zu erfassen. Sobald ein Das Haftungsdreieck in der Anwen-
Anwendungen in der Medizin ist von System im medizinischen Kontext ein- dung von KI in der Medizin spannt sich
zentraler Bedeutung. Medizinische KI- gesetzt wird und diagnostische oder zwischen Arzt, Hersteller und – im Fal-
Systeme, insbesondere diagnostische therapeutische Entscheidungen beein- le einer Anstellung – der Einrichtung
Software, sind in der Regel als Medizin- flusst, wird es in der Literatur regelmä- auf. Der Hersteller kann beispielsweise
produkte im Sinne der Medical Device ßig als Hochrisiko-KI im Sinne der Ver- nach dem Produkthaftungsgesetz für
Regulation (MDR) zu klassifizieren. Da- ordnung eingestuft. Für solche Hochri- Programmierungsfehler, mangelhafte
mit unterliegen sie strengen Anforde- siko-KI-Systeme gelten besondere Trainingsdaten und unzureichende Ri-
rungen an Sicherheit, Leistungsfähigkeit Pflichten, etwa hinsichtlich Transpa- sikokennzeichnung herangezogen wer-
und klinische Bewertung. Wird ein im renz, Risikomanagement, Datenquali- den. Die bereitstellende Einrichtung,
ärztlichen Kontext verwendetes KI-Pro- tät und kontinuierlicher Überwachung etwa eine Klinik oder ein MVZ, kann im
gramm als Medizinprodukt qualifiziert im Betrieb. Sinne eines Organisationsverschuldens
und zugelassen, musste der Hersteller Für den niedergelassenen, selbststän- durch fehlende Personalschulung oder
diese Anforderungen vorher erfüllen. digen Arzt ist insbesondere die in der Bereitstellung ungeeigneter IT-Infra-
Parallel hierzu etabliert der EU AI Act Verordnung vorgesehene Rolle des struktur haftbar sein.
(„KI-Verordnung“) als EU-Verordnung „Betreibers“ eines KI-Systems rele- An der Spitze steht jedoch der han-
einen spezifischen europäischen Rah- vant. Nach den Vorgaben des EU AI Act delnde Arzt: Für ihn sind die Missach-
men für KI-Systeme. Die KI-Definition treffen den Betreiber insbesondere fol- tung des fachärztlichen Standards,
des EU AI Act ist bewusst weit gefasst, gende Pflichten: eine unkritische Übernahme offenkun-

66 ÄRZTEBL AT T THÜRINGEN • 7-8/2026