AERZTE Steiermark 04/2026

 

Ärztliche Diagnose mittels KI – wann und wofür hafte ich?

Auch die Künstliche Intelligenz macht Fehler. Worauf es in Fragen der Haftung zu achten gilt, finden Sie in unserem aktuellen Überblick.

Das Agent Hospital (Tsinghua-Universität China) – ein virtuelles KI-Krankenhaus als Simulations- und Forschungsprojekt, in welchem der Klinikbetrieb gänzlich von virtuellen KI-Ärzt:innen und KI-Pflegekräften übernommen wird.

Was den Plot eines Science-Fiction-Films vermuten lässt, ist nicht nur in China, sondern zu gewissem Grad auch in Europa bereits Realität.

Schon heute wird Künstliche Intelligenz in der medizinischen Diagnostik insbesondere im Bereich der Augenheilkunde, Dermatologie, Krebsmedizin und Radiologie eingesetzt. KI-Systeme können einen umfassenden Pool komplexer medizinischer Daten mit hoher Präzision und Schnelligkeit analysieren. Das Ergebnis: autonome Diagnosen des KI-Systems, präzise Vorhersagen der Wahrscheinlichkeit von Krankheiten, vorzeitiges Erkennen von Krankheiten durch umfassende Echtzeit-analyse von Vitaldaten etc.

KI wird in Zukunft wohl zum festen Bestandteil des medizinischen Alltags werden.

Bei aller Euphorie um den Fortschritt und die Chancen der neuen Technik, darf jedoch nicht vergessen werden: Auch KI macht Fehler. Wer ist jedoch am Ende des Tages für eine ärztliche Fehlbehandlung/Fehldiagnose, welche auf Basis eines falschen Ergebnisses eines KI-Systems getroffen wurde, verantwortlich?

Vollumfänglich verantwortlich für eine lege artis Behandlung/Diagnose sind grundsätzlich stets – auch beim Einsatz von KI – die behandelnden Ärzt:innen. Diese unterliegen der strafrechtlichen, disziplinären und zivilrechtlichen Verantwortung. Auch beim Einsatz von KI haben Ärzt:innen ihren Beruf persönlich und unmittelbar (§ 49 ÄrzteG), unter Einhaltung sämtlicher aktueller Fachstandards auszuführen, eingesetzte KI-Systeme stetig zu überwachen und deren Ergebnisse zu plausibilisieren bzw. zu überprüfen sowie allfällige Bedienungs- und Gebrauchsvorgaben des angewendeten KI-Systems streng einzuhalten.

Unser Tipp

Verwenden Sie Ergebnisse eines KI-Systems nur dann für Ihre Behandlung/Diagnose, wenn Sie diese auch zuvor fachlich umfassend geprüft haben („human in the loop“)!

Was ist jedoch beim Einsatz von KI im ärztlichen Behandlungsalltag konkret zu beachten? Wie können Haftungsrisiken verhindert werden?

Die nachstehende Checkliste soll Ihnen allgemein und überblicksartig als Hilfstool bei der Einführung und dem Einsatz von KI-Systemen in Ihrer ärztlichen Praxis dienen:

  1. Liegt überhaupt ein KI-System vor?

Ausgangsfrage muss sein, ob es sich bei dem zu integrierenden System überhaupt um ein KI-System im Sinne der KI-Verordnung handelt, auf welches die besonderen Schutzbestimmungen Anwendung finden. Die KI-VO definiert ein KI-System als ein maschinengestütztes System, das für einen autonomen Betrieb ausgelegt ist, anpassungsfähig sein kann und das aus den erhaltenen Eingaben für Ziele ableitet, die die physische oder virtuelle Umgebungen beeinflussen können. Einfache Modelle, die nicht über die reine Datenverarbeitung hinausgehen, sind demnach nicht gemeint.

 

Zudem unterscheidet die KI-VO nach Grad des Risikos (Gefährlichkeit) zwischen unterschiedlichen KI-Systemen. Je höher die Risikoeinstufung ist, desto umfassender sind die Schutzvorschriften. Insbesondere KI-Medizinprodukte werden grundsätzlich als Hochrisikosysteme einzustufen sein, weshalb hier besondere Vorsicht geboten ist.

  1. Sollen personenbezogene Daten im KI-System verarbeitet werden?

Auch beim Einsatz von KI unterliegen Sie der ärztlichen Verschwiegenheitspflicht und den Datenschutzbestimmungen. Gerade Gesundheitsdaten sind als besondere Kategorie von personenbezogenen Daten nach Art 9 DSGVO besonders geschützt. Sollen Gesundheitsdaten in einem KI-Systems verarbeitet werden, ist die ausdrückliche Einwilligung der Betroffenen einzuholen und sind die datenschutzrechtlichen Grundsätze der Zweckbindung und Datenminimierung einzuhalten.

Die Eingabe von Patient:innendaten beispielsweise bei ChatGPT ist ein absolutes No-Go!

  1. Schulungspflichten

Nach den Bestimmungen der KI-VO und der DSGVO haben Sie Ihre Mitarbeiter:innen umfassend in Bezug auf die Nutzung, die Risiken und Gefahren des verwendeten KI-Systems sowie in Bezug auf die Einhaltung des Datengeheimnisses und der Datensicherheit zu schulen. Beachten Sie: Sie haften auch für Fehler Ihrer Mitarbeiter:innen.

  1. IT-Sicherheit

Verfügen Sie über entsprechende Ressourcen/Infrastruktur, welche die notwendige IT-Sicherheit gewährleistet?

  1. Überprüfbarkeit

Sie müssen ständig in der Lage sein, die Ergebnisse des KI-Systems zu überprüfen bzw. nachzuvollziehen.

 

Ob die Einführung eines konkreten KI-Systems in Ihrem Praxisalltag sinnvoll ist, welche genauen Pflichten in Bezug auf jenes einzuhalten und welche spezifischen Maßnahmen vorzunehmen sind, erfordert jedoch stets eine rechtliche Prüfung im Einzelfall. Wir unterstützen Sie gerne.

 

Mag. Michael Hirth und Mag. Angelika Struggl sind bei Leitner Hirth Rechtsanwälte GmbH tätig.

 

Foto: adobe_firefly, envato_bilanol