Mit zunehmender Verbreitung von künstlicher Intelligenz und Roboterchirurgie in der Medizin wird das klassische Modell der „ärztlichen Verantwortung“ in Frage gestellt. Die Handlungen mehrerer Akteure (Arzt, Krankenhaus, Hersteller, Softwareanbieter) führen zu einem einzigen medizinischen Ergebnis.
Verantwortung teilen
- Arzt: Kompetenz im Umgang mit dem Gerät, Parametrierung, Steuerung.
- Krankenhaus: Gerätewartung, Kalibrierung, Schulung, Ersatzpersonal.
- Hersteller: Gerätedesign, Herstellungsfehler, Bedienungsanleitung.
- Softwareanbieter: Algorithmusqualität, Updates, Trainingsdaten.
Fehler bei medizinischen Geräten – TKHK und TBK
- Gesetz Nr. 4703 über die Vorbereitung und Umsetzung technischer Rechtsvorschriften für Produkte.
- Verbraucherschutzgesetz Nr. 6502 (mangelhafte Waren).
- TBK Art. 519-540 Herstellerverantwortung.
- Haftpflichtversicherungspflicht (Gesundheitsministerium).
KI-Fehlertypen
- Fehldiagnose: Fehlerhafte Prämisse der KI.
- „Black-Box“-Problem: Fehlende Erklärung der KI-Entscheidung
- Verzerrte Daten: Widerspiegelung der Rassen-/Geschlechterungleichheit im Trainingssatz.
- Aktualität: Anwendung des alten Algorithmus auf den neuen Fall.
Verantwortung des Arztes – Assistententool
Die KI/der Roboter ist das Hilfswerkzeug des Arztes; Die endgültige Entscheidung liegt beim Arzt. Der Oberste Gerichtshof setzt diesen Ansatz fort:
- Der Arzt sollte die AI-Empfehlung nicht blind akzeptieren.
- Im Falle einer Gerätefehlfunktion muss der Arzt über manuelle Eingriffskompetenz verfügen.
- Die Einrede „KI hat in die Irre geführt“ hebt nicht die Aufsichtspflicht des Arztes auf.
13. HD des Obersten Gerichtshofs – Erwarteter Ansatz
Der 13. HD des Obersten Gerichtshofs wird auch die klassischen Kunstfehlerkriterien auf KI-/Roboterchirurgie-Dateien anwenden: Einverständniserklärung (Benachrichtigung, dass das Gerät verwendet wird), Einhaltung medizinischer Standards, Suche nach Fehlern. In Fällen, in denen ein KI-Fehler behauptet wird, muss das Opfer nachweisen, dass der Fehler auf einem „inakzeptablen Niveau“ liegt.
Informierte Einwilligung – Erweiterter Inhalt
- Zu verwendendes Gerät/KI.
- Was das Gerät/die KI kann und welche Grenzen es hat.
- Existenz manueller Alternativmethoden.
- Mögliche zusätzliche Risiken, die vom Gerät ausgehen.
Praktische Tipps
KI-/Roboterchirurgie-Kunstfehlerakten werden in Zukunft üblich sein. Anwälte für Gesundheits- und IT-Recht sollten zusammenarbeiten.