nach oben

Die Innere Medizin

Erschienen in:

19.10.2023 | Künstliche Intelligenz | Schwerpunkt: Künstliche Intelligenz in der Inneren Medizin

Rechtliche Einordnung von künstlicher Intelligenz in der Inneren Medizin

Von Datenschutz und Regulatorik, Erstattungs- und Haftungsfragen

verfasst von: Dr. Anna Haftenberger, Prof. Dr. med. Dr. iur. Christian Dierks

Erschienen in: Die Innere Medizin | Ausgabe 11/2023

Einloggen, um Zugang zu erhalten

Zusammenfassung

Künstliche Intelligenz (KI) eröffnet in der Inneren Medizin neue Möglichkeiten zur Verbesserung der medizinischen Versorgung. Rechtsunsicherheiten bei der Anwendung von KI stellen ein Hindernis für deren Integration in den Alltag der Inneren Medizin dar. Um Klarheit zu schaffen, bietet dieser Aufsatz einen Überblick über die rechtlichen Aspekte im Zusammenhang mit KI und zeigt, welche Rahmenbedingungen einzuhalten sind, um die Vorteile von KI auszuschöpfen, ohne dabei die Rechte und den Schutz der Patienten zu vernachlässigen. Es werden zunächst datenschutzrechtliche Fragen beantwortet, die sich bei der Verarbeitung sensibler Gesundheitsdaten durch KI ergeben. Anschließend werden die wichtigsten regulatorischen Anforderungen für die Nutzung von KI in der Inneren Medizin erörtert. Da die Etablierung von KI in der Praxis auch von einer ausreichenden Finanzierung abhängt, werden zudem erstattungsrechtliche Fragen thematisiert. Schließlich wird beleuchtet, welche Besonderheiten beim Einsatz von KI zu beachten sind, um arzthaftungsrechtliche Konsequenzen zu vermeiden.

Niederée C, Nejdl W (2020). In: Ebers M, Heinze C, Krügel T, Steinrötter B (Hrsg) Künstliche Intelligenz und Robotik. C. H. BECK, § 2 Rn. 95.

Neben der DSGVO sind auch das Bundesdatenschutzgesetz (BDSG) sowie die Datenschutz- und Krankenhausgesetze der Länder zu beachten.

Art. 4 Nr. 7 DSGVO.

Jungkind V, Koch S (2022). In: Chibanguza K, Kuß C, Steege H (Hrsg) Künstliche Intelligenz. Nomos, § 4 D. Rn. 14 ff.

Rammos T, Lange K, Clausen J (Fn. 1), § 28 Rn. 50.

Rammos T, Lange K, Clausen J (Fn. 1), § 28 Rn. 67.

Schreitmüller Z (2023) Regulierung intelligenter Medizinprodukte. Nomos, S 221.

Rammos T, Lange K, Clausen J (Fn. 1), § 28 Rn. 69.

ErwG 33, 159 DSGVO. Für die Zulässigkeit im Einzelfall Schreitmüller Z (Fn. 7), S 221 f.

Rammos T, Lange K, Clausen J (Fn. 1), § 28 Rn. 60.

Die Datenverarbeitung muss dabei auf einer unions- oder nationalrechtlichen Norm oder auf einem Vertrag mit einem Angehörigen der Gesundheitsberufe beruhen.

Rammos T, Lange K, Clausen J (Fn. 1), § 28 Rn. 85.

Rammos T, Lange K, Clausen J (Fn. 1), § 28 Rn. 88.

Ausführlich Schreitmüller Z (Fn. 7), S 241 ff.

Dazu Krügel T, Pfeiffenbring J (Fn. 1), § 11 Rn. 71 ff.

S. dazu unten, Abschn. „Ärztliches Berufs- und Strafrecht“.

Dierks C, Gollrad M (2022) Künstliche Intelligenz in der Zahnmedizin – Datenschutz als „Deal breaker“? Quintessenz Zahnmed 858:859

Ähnlich Eichelberger J (Fn. 4), § 4 D. Rn. 52, 59.

Schürmann K (2022) Datenschutz-Folgenabschätzung beim Einsatz Künstlicher Intelligenz. ZD 316, 320 ff.

Vgl. Martini M (2021). In: Paal B, Pauly D (Hrsg) DSGVO/BDSG. C. H. BECK, Art. 35 DSGVO Rn. 30.

Vgl. §§ 630a, 613 BGB, § 19 Abs. 1 MBO‑Ä und entsprechende Umsetzung der Landesärztekammern, §§ 15 Abs. 1 S. 1, § 28 Abs. 1 SGB V; Wagner G (2023). In: Säcker J et al. (Hrsg) Münchener Kommentar. C. H. BECK, § 630a BGB Rn. 100 ff.

Rammos T, Lange K, Clausen J (Fn. 1), § 28 Rn. 40 f.; anders wohl Eichelberger (Fn. 4), § 4 I. Rn. 31.

Riehm T (2020) Nein zur ePerson, RDi 42 ff.

Rammos T, Lange K, Clausen J (Fn. 1), § 28 Rn. 41.

Kardasiadou Z (1998) Die Produkthaftung für fehlerhafte medizinische Expertensysteme. Nomos, S 236

Rammos T, Lange K, Clausen J (Fn. 1), § 28 Rn. 55.

Art. 2 Nr. 1 MDR.

Art. 2 Nr. 1 MDR: „allein oder in Kombination“.

Zur Konformitätsbewertung Gassner U, Juknat U (2022). In: Rehmann W, Tillmann C (Hrsg) E‑Health. C. H. BECK, Kap. 3 Rn. 397 ff.

Dazu Kern B (2019). In: Laufs A, Kern B, Rehborn M (Hrsg) Handbuch des Arztrechts. C. H. BECK, § 57 Rn. 1 ff.

Europäische Kommission, AI Act, COM(2021) 206 final.

https://www.europarl.europa.eu/news/de/press-room/20230609IPR96212/parlament-bereit-fur-verhandlungen-uber-regeln-fur-sichere-und-transparente-ki. Zugegriffen: 15. Juli 2023.

Allein Medizinprodukte der Klasse I fallen nicht unter die Hochrisikogruppe. Da Software wegen der weiten Regel 11 in Anhang VIII der MDR aber mindestens Klasse IIa angehört, sind kaum KI-basierte Medizinprodukte denkbar, die nicht als Hochrisikosystem einzustufen sind, Heil M (2022) Die neue KI-Verordnung (E) – Regulatorische Herausforderungen für KI-basierte Medizinprodukte-Software, MPR 6 f.

Zur mögl. Überregulierung Schreitmüller Z (Fn. 7), S 294 ff.

Zur Pflicht des Herstellers zu Sicherheitsvorkehrungen gegen unzureichenden Input. In Haftenberger A (2023) Die Produkthaftung für künstlich intelligente Medizinprodukte. Nomos, S 171.

S. Art. 29 Abs. 4 sowie Art. 65 des KI-VO‑E.

Rammos T, Lange K, Clausen J (Fn. 1), § 28 Rn. 21.

BGH v. 15.10.2019, Az. VI ZR 105/18 Rn. 14.

Eichelberger J (Fn. 4), § 4 I. Rn. 12.

Dazu und zum Folgenden Eichelberger J (Fn. 4), § 4 I. Rn. 41.

Vgl. auch Europäische Kommission, Haftungsbericht, COM (2020) 64 final, S 8, 2, 19.

BGH v. 17.03.2009, Az. VI ZR 176/08; zu Medizinprodukten Haftenberger A (2023) Die Produkthaftung für künstlich intelligente Medizinprodukte. Nomos, S 101 ff.; anders wohl Katzenmeier/Voigt (2020) ProdHaftG. ESV § 3 ProdHaftG Rn. 40.

Eichelberger J (Fn. 4), § 4 I. Rn. 42.

BGH v. 22.05.2017, Az. VI ZR 35/06 Rn. 19.

Wagner G (Fn. 20), § 630a BGB Rn. 158.

Rammos T, Lange K, Clausen J (Fn. 1), § 28 Rn. 41.

Vgl. BGH v. 07.07.1970, Az. VI ZR 223/68 zur Anforderung an Ärzte bei Druckfehlern in medizinischen Werken; zum Verhältnis Hersteller- und Arzthaftung Haftenberger A (2023) Die Produkthaftung für künstlich intelligente Medizinprodukte. Nomos, S 265 ff.

Droste W (2018) Intelligente Medizinprodukte, MPR 109, 112.

Spindler G (2023). In: Gsell B et al. (Hrsg) BeckOGK BGB. C. H. BECK, § 823 BGB Rn. 856.

BGH v. 26.11.1991, Az. VI ZR 389/90.

BGH v. 22.09.1987, Az. VI ZR 238/86; Spindler G (Fn. 47), § 823 BGB Rn. 854.

Krit. Spindler G (Fn. 47), § 823 BGB Rn. 854.

Wagner G (Fn. 20), § 630e BGB Rn. 11 ff.; zu autonomer Technik Rehmann W (Fn. 27), Kap. 3 Rn. 161 ff.

Wagner G (Fn. 20), § 630e BGB Rn. 35 ff.

BGH v. 13.06.2006 – VI ZR 323/04 – Robodoc.

Rammos T, Lange K, Clausen J (Fn. 1), § 28 Rn. 23.

So Eichelberger J (Fn. 4), § 4 I. Rn. 22.

Dazu Haftenberger A (2023) Die Produkthaftung für künstlich intelligente Medizinprodukte. Nomos, S 23 ff.

Horner S, Kaulartz M (2016) Haftung 4.0, CR 8 f.

Titel: Rechtliche Einordnung von künstlicher Intelligenz in der Inneren Medizin
Von Datenschutz und Regulatorik, Erstattungs- und Haftungsfragen
verfasst von: Dr. Anna Haftenberger
Prof. Dr. med. Dr. iur. Christian Dierks
Publikationsdatum: 19.10.2023
Verlag: Springer Medizin
Schlagwörter: Künstliche Intelligenz
Innere Medizin
Erschienen in: Die Innere Medizin / Ausgabe 11/2023
Print ISSN: 2731-7080
Elektronische ISSN: 2731-7099
DOI: https://doi.org/10.1007/s00108-023-01598-8

Leitlinien kompakt für die Innere Medizin

Mit medbee Pocketcards sicher entscheiden.

^{Seit 2022 gehört die medbee GmbH zum Springer Medizin Verlag}

Kostenlos registrieren

Update Innere Medizin

Bestellen Sie unseren Fach-Newsletter und bleiben Sie gut informiert.

Newsletter bestellen

Live-Webinar "Urologie und Sexualmedizin in der Praxis"

Springer Medizin

Rechtliche Einordnung von künstlicher Intelligenz in der Inneren Medizin

Von Datenschutz und Regulatorik, Erstattungs- und Haftungsfragen

Zusammenfassung

Leitlinien kompakt für die Innere Medizin

Neu im Fachgebiet Innere Medizin

Erhebliches Risiko für Kehlkopfkrebs bei mäßiger Dysplasie

Nach Herzinfarkt mit Typ-1-Diabetes schlechtere Karten als mit Typ 2?

15% bedauern gewählte Blasenkrebs-Therapie

Costims – das nächste heiße Ding in der Krebstherapie?

Update Innere Medizin

Live-Webinar "Urologie und Sexualmedizin in der Praxis"

Springer Medizin

Zusammenfassung

Bitte loggen Sie sich ein, um Zugang zu diesem Inhalt zu erhalten

Weitere Artikel der Ausgabe 11/2023

Künstliche Intelligenz in der Medizin

Künstliche Intelligenz in der internistischen Versorgung

ChatGPT: Hilfe bei der medizinethischen Entscheidungsfindung?

Fortbildungen und Kongresse des BDI

Tiefe Heilung – ein Kommentar zu ethischen Risiken und Chancen der künstlichen Intelligenz

Wie vertrauenswürdig ist künstliche Intelligenz?

Leitlinien kompakt für die Innere Medizin

Neu im Fachgebiet Innere Medizin

Erhebliches Risiko für Kehlkopfkrebs bei mäßiger Dysplasie

Nach Herzinfarkt mit Typ-1-Diabetes schlechtere Karten als mit Typ 2?

15% bedauern gewählte Blasenkrebs-Therapie

Costims – das nächste heiße Ding in der Krebstherapie?

Update Innere Medizin