Healthcare-Robotik · Recht und Regulierung
Ethik von KI und Robotik in Krankenhaus und Pflege: Wer schuldet was, wenn kein Gesetz es fordert?
Kurz gesagt: Was beim Einsatz von KI und Robotik am Patienten oder Pflegebedürftigen erwartet wird, steht überwiegend in Dokumenten ohne Gesetzesrang — in der ZEKO-Stellungnahme vom 23. August 2021, der Stellungnahme der Bundesärztekammer vom 14. Januar 2025, Ziffer 1.11 des ICN-Ethikkodex von 2021, der Ethikrat-Stellungnahme vom 10. März 2020 und den AEM-Standards für Ethikberatung. Jedes davon spricht eine andere Instanz an: Der Träger schuldet Auswahlprüfung, Fortbildung und Wartung, die ärztliche Seite die Plausibilitätsprüfung der Entscheidungsempfehlungen ärztlicher Unterstützungssysteme, die Pflege den personenzentrierten Zuschnitt des Geräteeinsatzes, das klinische Ethikkomitee die Beratungsform, in der eine Systemeinführung überhaupt behandelt wird. Die pflegerische Leitung sprechen die Anwendungsteile des ICN-Ethikkodex ausdrücklich mit an; was keines dieser Dokumente zuordnet, ist die Letztverantwortung für einen übergangenen Modellalarm in der Pflege — und genau deshalb liegt bei ihr die hausinterne Festlegung. Das etablierte Instrument dafür ist die Ethik-Leitlinie, die nach Abschnitt 4 Buchstabe b der AEM-Standards erst mit dem Beschluss der Leitung bindend wird. Rechtlich greifbar wird eine solche Erwartung über einen Weg: § 630a Absatz 2 BGB macht für die medizinische Behandlung im Rahmen eines Behandlungsvertrags nach Absatz 1 den allgemein anerkannten fachlichen Standard zum Maßstab, und ob eine einzelne Empfehlung dazugehört, entscheidet der Einzelfall. Für rein pflegerische Leistungen außerhalb eines Behandlungsvertrags ist der Anknüpfungspunkt ein anderer und hier nicht untersucht. Außen vor bleiben Logistik- und Transportrobotik sowie Fragen der Personalbemessung, denn alle hier besprochenen Dokumente setzen patientennah an. Das ist eine redaktionelle Einordnung und keine Rechtsberatung.
Fünf Adressaten: Träger, ärztliche Seite, Pflege, pflegerische Leitung, Ethikkomitee
Auf dem Tisch des Ethikkomitees liegt ein Beschaffungsvorschlag für ein System, das Risiken früher erkennen soll als das geschulte Auge im Nachtdienst. Die Zweckbestimmung ist beschrieben, das Produkt ist CE-gekennzeichnet — und trotzdem hängt die Entscheidung. Die offene Frage ist nämlich nicht, ob das Gerät verkehrsfähig ist, sondern was Ihr Haus den Patienten und den eigenen Pflegenden schuldet, sobald es damit arbeitet. Darauf antworten vier Dokumente, und sie antworten nicht alle derselben Instanz: Die ZEKO-Stellungnahme wendet sich an den Träger und an die ärztliche Seite, die Bundesärztekammer allein an die ärztliche Seite.

Am deutlichsten angesprochen ist der Träger. Für Systeme zur Entscheidungsunterstützung, fachsprachlich „Clinical Decision Support Systems“ oder kurz CDSS, hält die ZEKO-Stellungnahme vom 23. August 2021 in Abschnitt 3.2 fest: „Auf der Meso-Ebene hat der Einrichtungsträger sorgfältig zu prüfen, welche der CDSS in der eigenen medizinischen Einrichtung konkret zum Einsatz kommen sollen.“ Dieselbe Passage weist ihm Fortbildung, Wartung und den Schutz gegen missbräuchliche Verwendung zu.
Die ärztliche Seite trägt eine Pflicht, die sich nicht weitergeben lässt. Die Bundesärztekammer formuliert in Abschnitt 4.1 ihrer Stellungnahme „Künstliche Intelligenz in der Medizin“ vom 14. Januar 2025: „KI-Systeme können zur ärztlichen Entscheidungsunterstützung beitragen, aber es obliegt der Ärztin oder dem Arzt, die Ergebnisse des KI-Systems auf Plausibilität zu prüfen.“
In der Pflege ist der Adressat die einzelne Pflegefachperson, denn Ziffer 1.11 des ICN-Ethikkodex verlangt von ihr selbst, dass die Pflege personenzentriert bleibt. Der Deutsche Ethikrat verfolgt in seiner Stellungnahme „Robotik für gute Pflege“ vom 10. März 2020 dasselbe Anliegen, spricht damit aber den Gesetzgeber, die Vertragspartner der sozialen Pflegeversicherung und die Träger an. Von diesen drei Ebenen kann Ihr Haus nur die eigene Trägerebene bewegen; über die beiden anderen wird außerhalb entschieden.
Bleibt die pflegerische Leitung. Sie kommt in genau einem der Dokumente vor: Der ICN-Ethikkodex führt seine Anwendungsteile durchgehend in einer Spalte für „Pflegefachpersonen und Führungspersonen in der Pflege“ und beschreibt die Führungsperson im Glossar als verantwortlich für den täglichen Betrieb einer Pflegeeinheit und die Beaufsichtigung des Pflegepersonals. Die ZEKO-Stellungnahme spricht in Abschnitt 3.2 den Einrichtungsträger an, die Bundesärztekammer in Abschnitt 4.1 die ärztliche Seite, der Ethikrat Gesetzgeber, Pflegekassen und Träger. Was keines der geprüften Dokumente zuordnet, ist die Letztverantwortung für einen übergangenen Modellalarm in der Pflege. Daraus folgt die Aufgabe der pflegerischen Leitung, und sie ist die konkreteste von allen: Was kein externes Dokument regelt, wird eine hausinterne Festlegung — und nach Abschnitt 4 Buchstabe b der AEM-Standards wird daraus erst dann eine Vorgabe, wenn die Leitung der Einrichtung oder des Trägers sie verabschiedet. Die pflegerische Leitung schuldet deshalb zweierlei: die Festlegung selbst und den Beschluss, der sie bindend macht.
Das klinische Ethikkomitee schuldet weder Genehmigung noch Gutachten, sondern eine Beratungsform, die zum Gegenstand passt. Nicht zu verwechseln ist es mit der Ethik-Kommission nach Medizinprodukterecht: Soll ein System erprobt werden und fehlen die erforderlichen klinischen Daten, kann eine klinische Prüfung nötig sein, die nach Abschnitt 4.1 der ZEKO-Stellungnahme „eine Genehmigung durch das Bundesinstitut für Arzneimittel und Medizinprodukte (BfArM) sowie eine zustimmende Bewertung der zuständigen Ethik-Kommission voraussetzt“. Ob ein geplanter Pilotbetrieb darunter fällt, ist vor dem Start zu klären; entscheidend sind dafür Zweckbestimmung, Zertifizierungsstand und Vollständigkeit der klinischen Daten, denn nach Abschnitt 4.1 der ZEKO-Stellungnahme ist eine klinische Prüfung durchzuführen, wenn die hierfür erforderlichen klinischen Daten fehlen. Die Größe des Vorhabens entscheidet das gerade nicht: Ob ein Einzelfall oder eine Systemeinführung ansteht, bestimmt die Beratungsform des Ethikkomitees und nicht die Genehmigungspflicht.
Was vor der Unterschrift geklärt sein muss — drei Teile
Zwölf Punkte sind vor einer Unterschrift zu klären. Die Spalte, auf die es dabei ankommt, ist die dritte: Nur ein Teil dieser Punkte steht in einem Gesetz, der größere Teil ist eine fachliche Erwartung ohne Gesetzesrang — und ein Punkt ist überhaupt nicht geregelt und deshalb von Ihrem Haus selbst festzulegen.
| Was zu klären ist | Wer es schuldet | Pflicht oder Erwartung | Woraus es folgt |
|---|---|---|---|
| Zweckbestimmung und Klasse des Produkts schriftlich festhalten | Träger, Einkauf | Pflicht | MDR, Anhang VIII Regel 11 |
| Zusage, wie lange der Hersteller Sicherheitsupdates liefert | Träger | Verhandlungssache, aber vor der Unterschrift | Vertragsgestaltung; Termindruck aus Artikel 113 Buchstabe c |
| Nachweis-, Update- und Mitwirkungspflichten für die Zeit nach dem Geltungsbeginn in den Vertrag | Träger | Verhandlungssache | Geltungsbeginn 02.12.2027 bzw. 02.08.2028 |
| Rechtsgrundlage der Verarbeitung und Datenschutz-Folgenabschätzung | Träger, Datenschutzbeauftragte | Pflicht | Artikel 35 DSGVO; ZEKO 4.6.1 |
| Mitbestimmung klären, bevor das System eingeführt wird | Träger, pflegerische Leitung | Pflicht, sobald das System Verhalten oder Leistung erfassen kann | § 87 Absatz 1 Nummer 6 BetrVG; Regime je Trägerschaft |
| Plausibilitätsprüfung: wer sie in welchem Arbeitsschritt vornimmt und ob sie dokumentiert wird | ärztliche Seite | berufsethische Erwartung | ZEKO 4.3.1; Bundesärztekammer 4.1 |
| Aufklärungspraxis festlegen | ärztliche Seite | offen, nach Einzelfall | ZEKO 3.3.2 und 4.2.2 |
| Schulung zuweisen — Träger und ärztliche Seite tragen sie gemeinsam | Träger, ärztliche Seite | berufsethische Erwartung | ZEKO 3.2 und 4.3.1 |
| Beratungsform des Ethikkomitees wählen: Organisationsethik statt Fallberatung | Ethikkomitee | Empfehlung | AEM-Standards, Abschnitt 1 und Abschnitt 4 Buchstabe e |
| Ethik-Leitlinie von der Leitung verabschieden lassen | Leitung der Einrichtung oder des Trägers | Voraussetzung dafür, dass sie bindet | AEM-Standards, Abschnitt 4 Buchstabe b |
| Evidenzstand prüfen und zwischen Pilot und Regelbetrieb entscheiden | Träger, pflegerische Leitung | Empfehlung | Ethikrat 2020, Kapitel 5 |
| Berufsordnung der eigenen Landespflegekammer nachsehen | pflegerische Leitung | selbst zu prüfen, Ergebnis je Bundesland verschieden | ICN-Ethikkodex, Abschnitt Zweck des Kodex |
| Letztverantwortung für einen übergangenen Alarm in der Pflege festlegen | pflegerische Leitung | nicht zugeordnet, hausintern festzulegen | keines der geprüften Dokumente ordnet sie zu; ZEKO 4.5 nennt unzureichende Instruktion und Überwachung als haftungsbegründenden Umstand |
Zwei der drei folgenden Blöcke stehen verkürzt, weil sie in eigenen Beiträgen ausgeführt sind; berufsethisch ist allein der dritte.

Teil 1 von 3 — Produkt und Konformität. Zu klären sind Zweckbestimmung, CE-Route, MDR-Klasse und eine schriftliche Zusage, wie lange der Hersteller Sicherheitsupdates liefert. Diese Kette ist die Voraussetzung dafür, dass Berufsethik überhaupt zur Frage wird, denn ein Produkt ohne tragfähige Zweckbestimmung scheitert früher. Ausgeführt ist sie in unserem Beitrag zu Zweckbestimmung, CE-Routen und AI-Act-Einstufung im Krankenhaus.
Teil 2 von 3 — Daten und Mitbestimmung. Hierher gehören die Rechtsgrundlage der Verarbeitung, die Datenschutz-Folgenabschätzung nach Artikel 35 DSGVO — die ZEKO-Stellungnahme legt sie in Abschnitt 4.6.1 ausdrücklich zur Prüfung vor — und die Mitbestimmung. Protokolliert das System, welche Pflegekraft welchen Alarm wann quittiert hat, ist die Beteiligung nach § 87 Absatz 1 Nummer 6 BetrVG zu prüfen — und zwar vor der Einführung, nicht nach dem Rollout, denn ein fehlender Verfahrensschritt hält die Einführung auf und lässt sich nicht nachtragen. Ob überhaupt der Betriebsrat zuständig ist, entscheidet die Trägerschaft: Bei öffentlichen Trägern gilt Personalvertretungsrecht, bei kirchlichen eine Mitarbeitervertretungsordnung. Einzelheiten stehen in unserem Beitrag zum Datenschutz beim Robotereinsatz in der Pflege.
Teil 3 von 3 — Berufsethik und Verantwortung. Der eigene Teil beginnt bei der Plausibilitätsprüfung, allerdings nicht bei der Frage, ob sie stattfindet, sondern wer sie in welchem Arbeitsschritt schuldet und ob sie dokumentiert wird. Daneben steht die Aufklärungspraxis, die davon abhängt, ob ein System eine eigenständige Untersuchungs- oder Behandlungsmethode ist oder eine unterstützende Begleitleistung; dafür ist nach Abschnitt 4.2.2 der ZEKO-Stellungnahme „stets eine Betrachtung des Einzelfalls“ erforderlich.
Dann die Einbindung des Ethikkomitees, und dabei weniger das Ob als die Beratungsform. Der Evidenzstand gehört dazu, weil daran die Wahl zwischen Pilot und Regelbetrieb hängt. Der Bezug auf den ICN-Kodex gehört in die Pflegeorganisation, weil Widerstand aus dem Pflegedienst damit eine Fundstelle bekommt statt bloß ein Gefühl zu bleiben. Die Schulung gehört dazu, weil beide Ebenen sie tragen: Die ZEKO-Stellungnahme weist dem Einrichtungsträger in Abschnitt 3.2 geeignete Fortbildungsmaßnahmen zu und hält die Ärztinnen und Ärzte im selben Abschnitt für „persönlich dafür verantwortlich“, sich die notwendigen Kenntnisse anzueignen; nach Abschnitt 4.3.1 müssen sie zudem dafür sorgen, dass sie und ihre Mitarbeitenden die notwendige Fort- und Weiterbildung erhalten. Wer intern was schuldet, ist deshalb festzulegen und nicht vorgegeben. Ungeklärt bleibt die Letztverantwortung für einen übergangenen Alarm in der Pflege. Abschnitt 4.3.1 der ZEKO-Stellungnahme weist sie der Ärzteschaft zu; für die pflegerische Ebene trifft keines der geprüften Dokumente eine Zuordnung. Wer sie nicht hausintern festlegt, hat sie damit nicht abgegeben, sondern offen gelassen.
Warum § 630a Absatz 2 BGB das Scharnier ins Recht ist
Keines dieser Dokumente ist ein Gesetz, keines wird von einer Behörde durchgesetzt, und an keines knüpft ein Bußgeld an. Der ICN-Ethikkodex verortet sich sogar ausdrücklich als Rahmen, der dazu dienen kann, „die von den Aufsichtsbehörden festgelegten professionellen Standards zu erfüllen“ — ob eine Berufsordnung einer Landespflegekammer ihn einbezieht, ist im Einzelfall zu prüfen. Wirkungslos sind sie dennoch nicht, und der Weg, über den sie Wirkung entfalten können, steht im Gesetz.
§ 630a Absatz 2 BGB lautet: „Die Behandlung hat nach den zum Zeitpunkt der Behandlung bestehenden, allgemein anerkannten fachlichen Standards zu erfolgen, soweit nicht etwas anderes vereinbart ist.“ Das Gesetz macht damit einen fachlichen Maßstab zum Inhalt des Behandlungsvertrags, ohne selbst zu sagen, was in diesen Maßstab hineingehört. Ob eine einzelne Empfehlung eines Ethikgremiums dazugehört, entscheidet deshalb der Einzelfall; diese Zuordnung trifft das Gesetz gerade nicht. Der Halbsatz am Ende hat eine praktische Folge. Der Maßstab steht unter dem Vorbehalt, dass nichts anderes vereinbart ist — das heißt nicht, dass der fachliche Standard verhandelbar wäre, denn eine Abweichung setzt eine wirksame Vereinbarung voraus, und wie weit sie trägt, entscheidet der Einzelfall. Es heißt: Jede Klausel, mit der ein Hersteller oder Dienstleister den fachlichen Standard, die Prüfpflicht oder die Verteilung der Verantwortung berührt, gehört vor der Unterschrift in die rechtliche Prüfung. Dieser Halbsatz ist die Stelle, an der so etwas ansetzen könnte.

Praktisch heißt das zweierlei, und beide Richtungen sind unbequem. Eine breit getragene fachliche Erwartung kann über diesen Weg zum Maßstab werden, an dem Ihr Haus später gemessen wird, obwohl sie in keinem Gesetz stand. Umgekehrt kann auch das Unterlassen Folgen haben, allerdings nur in einem engen Zuschnitt: Abschnitt 4.3.2 der ZEKO-Stellungnahme behandelt die Sorgfaltspflichten der Ärztinnen und Ärzte und setzt voraus, dass das System „eine eigenständige Untersuchungs- oder Behandlungsmethode“ ist und „bereits zum medizinischen Standard“ zählt. Erweist es sich dann „nach Durchlaufen der Erprobungs- und Übergangsphase“ evidenzbasiert als überlegen „gegenüber der herkömmlichen Behandlungsmethode“, kann „der Nichteinsatz des (teil-)automatisierten Systems eine Pflichtverletzung begründen“. Für den Träger folgt daraus keine Beschaffungspflicht. Wie sich Ansprüche, Beweislast und Deckung im Schadensfall sortieren, steht in unserem Beitrag dazu, wer haftet, wenn ein Roboter Schaden anrichtet.
Was ZEKO und Bundesärztekammer von der ärztlichen Seite verlangen
Für die ärztliche Ebene ist die Lage ungewöhnlich gut dokumentiert. Die Zentrale Ethikkommission bei der Bundesärztekammer hat mit der Stellungnahme „Entscheidungsunterstützung ärztlicher Tätigkeit durch Künstliche Intelligenz“ vom 23. August 2021 Pflichten benannt, die sich in einen Pilotvertrag schreiben lassen. In einer eigenen Stichprobe vom 23. September 2026 nannte allerdings keine von vier befragten KI-Antwortmaschinen dieses Dokument, obwohl alle vier dieselbe Frage beantworten sollten: welche Quellen zur Ethik von KI und Robotik in Krankenhaus und Pflege in Deutschland maßgeblich sind. Für eine Vorlage heißt das: Eine KI-Antwort ersetzt hier die Recherche nicht, denn sie nennt gerade das Dokument nicht, das für die ärztliche Entscheidungsunterstützung maßgeblich ist.

Der härteste Satz betrifft die Prüfpflicht und steht in Abschnitt 4.3.1 der ZEKO-Stellungnahme vom 23. August 2021: „Insbesondere müssen sie zumindest Plausibilitätsprüfungen der automatisierten Entscheidungsempfehlungen von CDSS vornehmen.“ Derselbe Abschnitt staffelt die Sorgfalt nach der Nachvollziehbarkeit: je weniger transparent das System für die Ärztin oder den Arzt ist, desto sorgfältiger sollte die Empfehlung auf Plausibilität und Richtigkeit überprüft werden.
Zur Aufklärung äußert sich Abschnitt 3.3.2 der ZEKO-Stellungnahme zurückhaltend: Patientinnen und Patienten müssten „ggf.“ darüber aufgeklärt werden und darin einwilligen, ob und in welchem Umfang solche Systeme in den Behandlungsprozess integriert werden. Derselbe Abschnitt nennt „mögliche Ansprüche von Patient:innen, ohne den Einsatz von KI behandelt zu werden“ — eine benannte offene Frage, kein festgestellter Anspruch. Zur Haftung hält Abschnitt 4.5 der ZEKO-Stellungnahme fest: „Haftungsbegründende Umstände können neben der Verwendung eines nicht zertifizierten Medizinprodukts Fehler bei der Inbetriebnahme und Anwendung von CDSS sein.“
Die Bundesärztekammer hat diese Linie 2025 bestätigt, und deshalb sollte die ZEKO-Stellungnahme in einer Vorlage nicht allein als aktueller Stand stehen; neben der Stellungnahme vom 14. Januar 2025 liegt aus März 2025 ein Thesenpapier der Bundesärztekammer zur KI in der Gesundheitsversorgung vor. Ob ein System die Rechnung trägt, führt unser Beitrag zu Qualität und Wirtschaftlichkeit von KI und Robotik im Krankenhaus aus.
Was in den geprüften Dokumenten zur pflegerischen Entscheidungsunterstützung fehlt
Die Frage, die einer Pflegedirektorin später vorgehalten wird, lautet nicht, ob eine Ärztin eine Empfehlung geprüft hat. Sie lautet: Durfte die Pflegefachperson diesen Alarm übergehen, und was hätte sie darüber dokumentieren müssen? In den für diesen Beitrag ausgewerteten Dokumenten — ZEKO 2021, Bundesärztekammer 2025, ICN-Kodex 2021, Ethikrat 2020, AEM-Standards 2023 — findet sich dazu keine Aussage. Von den Berufsordnungen der Landespflegekammern haben wir eine geprüft: Die Landespflegekammer Rheinland-Pfalz bezeichnet ihre Berufsordnung als „gesetzlich verankert“ und „rechtlich bindend“, führt den ICN-Ethikkodex dort aber unter „Weiterführende Literatur zur Berufsordnung“ und damit nicht als deren Bestandteil (Abruf 23.09.2026). Die übrigen Kammern und die Expertenstandards nach § 113a SGB XI sind nicht ausgewertet. Ob es in Ihrem Bundesland überhaupt eine Pflegekammer gibt und ob deren Berufsordnung den ICN-Kodex einbezieht, ist deshalb der erste Punkt, den Sie selbst nachsehen müssen — die Antwort fällt je Land unterschiedlich aus und entscheidet, ob Sie eine bindende Berufsordnung im Rücken haben oder eine eigene Festlegung brauchen.
Die ZEKO-Stellungnahme vom 23. August 2021 grenzt ihren Gegenstand in der Einleitung ausdrücklich ab: „Nicht behandelt werden in der Stellungnahme Unterstützungssysteme für die Arbeit der Gesundheitsfachberufe (z. B. Pflege, Physiotherapie).“ In derselben Aufzählung stehen Systeme ohne Entscheidungsunterstützung und, wörtlich, „Pflegeroboter“. In den für diesen Beitrag ausgewerteten Dokumenten liegt für die pflegerische Ebene damit kein entsprechendes Regelwerk vor — und diese Abwesenheit ist der Befund, den ein Haus kennen muss, bevor es die Regel selbst schreibt.

Was es gibt, ist eine berufsethische Grundaussage, und sie ist präziser als ihr Ruf. Ziffer 1.11 des ICN-Ethikkodex für Pflegefachpersonen in der Fassung von 2021 lautet: „Bei künstlicher Intelligenz oder Geräten wie Robotern oder Drohnen sorgen Pflegefachpersonen dafür, dass die Pflege personenzentriert bleibt und solche Geräte menschliche Beziehungen unterstützen und nicht ersetzen.“ Derselbe Kern steht im Problemaufriss der Ethikrat-Stellungnahme vom 10. März 2020, deren Empfehlungen in Kapitel 5 sich an Gesetzgeber, Pflegekassen und Träger richten: „Technische Systeme dürfen das Interaktionsgeschehen in der Pflege nicht ersetzen; sie sollen es ergänzen.“ Zwei Dokumente, ein Maßstab, zwei Adressaten — und persönlich in der Pflicht steht davon nur die Pflegefachperson am Bett.
Seinen eigenen Rang überschätzt der Kodex dabei nicht. Im Abschnitt „Zweck des Kodex“ heißt es, er „dient zusammen mit den Gesetzen, Vorschriften und Berufsstandards der Länder, die die Pflegepraxis regeln, als Basis“, und er sei „kein Verhaltenskodex“. Für die Einführung selbst ist zudem der Anwendungsteil zu Element 1 einschlägig: „Pflegefachpersonen müssen in die Entwicklung von Technologien einbezogen werden und Risiken im Zusammenhang mit technologischen und wissenschaftlichen Fortschritten beobachten und melden.“
Solange kein Fachdokument die pflegerische Seite regelt, bleibt sie eine einrichtungsinterne Festlegung; ein etabliertes Instrument dafür ist die Ethik-Leitlinie. Bei Menschen mit eingeschränkter Einwilligungsfähigkeit ist zusätzlich zu klären, wer einwilligt und woran ein Widerspruch erkannt wird, der nicht ausgesprochen werden kann; das ist hier nicht ausgeführt und gehört vor der Einführung auf einer Delir- oder Demenzstation gesondert geklärt — gerade dort schlägt ein nächtliches Früherkennungssystem am häufigsten an.
In welcher Beratungsform ein Ethikkomitee eine Systemeinführung behandelt
Eine Systemeinführung ist kein Einzelfall, und deshalb ist die Ethik-Fallberatung dafür das falsche Format. Die „Standards für Ethikberatung im Gesundheitswesen“ der Akademie für Ethik in der Medizin, vom Vorstand am 21. Dezember 2022 in aktualisierter Fassung verabschiedet, unterscheiden fünf Aufgabenbereiche. Zwei davon passen.
Der erste ist die Organisationsethik: Abschnitt 1 des AEM-Standards nennt als Aufgabenbereich „die Beratung der Einrichtungsleitung in organisationsethischen Fragen (Organisationsethik)“, und Abschnitt 4 Buchstabe e beschreibt sie als Befassung mit dem Einfluss organisationaler Strukturen auf die Möglichkeiten Einzelner, eigenverantwortlich zu entscheiden. Genau darum geht es, wenn ein Alarm künftig aus einem Modell kommt statt aus einer Beobachtung.
Der zweite ist die Ethik-Leitlinie, und hier wird es für eine Unterschrift konkret. Nach Abschnitt 4 Buchstabe b des AEM-Standards gilt: „Ethik-Leitlinien, die sich als normativen Vorgabe (Policy) verstehen, müssen von der Leitung der Einrichtung bzw. des Trägers verabschiedet werden.“ Damit ist der Weg beschrieben, auf dem aus einer Empfehlung des Komitees eine hausinterne Vorgabe wird, und zugleich die Grenze: Ohne diesen Beschluss bleibt das Papier eine Orientierungshilfe.
Drei Randbedingungen lohnen die Klärung vorab. Das Gremium ist nach Abschnitt 3 Buchstabe a „in ihren Inhalten und in der Gestaltung des Vorgehens im Rahmen des Auftrags nicht weisungsgebunden“, was eine Beauftragung durch die Leitung voraussetzt und eine Weisung ausschließt. Die Zusammensetzung soll nach Abschnitt 3 Buchstabe c multiprofessionell sein, mit etwa 5 bis 20 Mitgliedern und zwingend mit ärztlicher, pflegerischer sowie medizin- oder pflegeethischer Ausbildung. Für komplexe organisationsethische Prozesse verlangt Abschnitt 3 Buchstabe d ein erweitertes Kompetenzprofil; die Qualifikation folgt dem AEM-Curriculum mit den Stufen K1 und K2, und die Zertifizierung in drei Stufen ist freiwillig und wird vom Verband selbst vergeben.
Der Standard nennt sich selbst zurückhaltend. Er beschreibt laut Einleitung „die Mindestanforderungen und Qualitätskriterien für Ethikberatung im Gesundheitswesen“ und versteht sich als „Orientierung“; das Wort „verbindlich“ kommt darin nicht vor.
Welches Dokument was verlangt — und wie verbindlich es ist
Zehn Dokumente reichen, um die Lage zu sortieren. Die Trennlinie verläuft dabei nicht zwischen wichtig und unwichtig, sondern zwischen durchsetzbar und begründungspflichtig.
| Dokument | Herausgeber | Datum | Fundstelle | Was es verlangt | Verbindlichkeit |
|---|---|---|---|---|---|
| „Robotik für gute Pflege“ | Deutscher Ethikrat | 10.03.2020 | Kapitel 5, Gruppe „Entwicklung und Implementierung“ | hinreichende Evidenz vor Aufnahme in die Regelversorgung | Empfehlung, nicht durchsetzbar |
| „Entscheidungsunterstützung ärztlicher Tätigkeit durch Künstliche Intelligenz“ | ZEKO bei der Bundesärztekammer | 23.08.2021 | Abschnitt 4.3.1; Deutsches Ärzteblatt Jg. 118, Heft 33–34 | zumindest Plausibilitätsprüfung jeder automatisierten Empfehlung | berufsethisch maßgeblich, keine Rechtsnorm |
| „Künstliche Intelligenz in der Medizin“ | Bundesärztekammer, Vorstandsbeschluss | 14.01.2025 | Abschnitt 4.1 Ärztliches Handeln | Prüfung der KI-Ergebnisse auf Plausibilität obliegt der Ärztin oder dem Arzt | berufsethisch maßgeblich, keine Rechtsnorm |
| ICN-Ethikkodex für Pflegefachpersonen | International Council of Nurses, deutsche Fassung über DBfK | Fassung 2021 | Element 1, Ziffer 1.11 | Geräte sollen menschliche Beziehungen unterstützen, nicht ersetzen | berufsethisch, kein Gesetz |
| „Standards für Ethikberatung im Gesundheitswesen“ | Akademie für Ethik in der Medizin | 21.12.2022; Ethik in der Medizin 35 (2023), S. 313–324 | Abschnitt 1 sowie Abschnitt 4 Buchstaben b und e | Organisationsethik und Ethik-Leitlinie als eigene Aufgabenbereiche | Mindestanforderungen und Qualitätskriterien, Orientierung |
| Bürgerliches Gesetzbuch | Bundesgesetzgeber | IN KRAFT, Abruf 23.09.2026 | § 630a Absatz 2 | allgemein anerkannter fachlicher Standard als Maßstab der Behandlung | verbindlich |
| Verordnung (EU) 2017/745 (MDR) | Europäische Union | IN KRAFT | Anhang VIII, Regel 11 (Software mit medizinischer Zweckbestimmung) | entscheidungsunterstützende Software mindestens Klasse IIa | verbindlich |
| Verordnung (EU) 2024/1689 (KI-Verordnung) | Europäische Union | konsolidierte Fassung 27.07.2026 | Artikel 6 Absatz 1; Artikel 113 Buchstabe c Ziffern i und ii | Hochrisiko bei Konformitätsbewertung durch Dritte; Anhang III ab 02.12.2027, Anhang I ab 02.08.2028 | verbindlich, Geltungsbeginn teils künftig |
| Verordnung (EU) 2023/1230 (Maschinenverordnung) | Europäische Union | Geltungsbeginn 20.01.2027 | Artikel 54 (Anwendung ab 20.01.2027); Artikel 2 (Anwendungsbereich und Ausnahmeliste) | Sicherheits- und Gesundheitsschutzanforderungen für Maschinen; die Ausnahmeliste nennt Medizinprodukte nicht | verbindlich, Geltungsbeginn künftig |
| Berufsordnung für Pflegefachberufe | Landespflegekammer Rheinland-Pfalz | Abruf 23.09.2026 | Abschnitt zur Rechtsgrundlage; Verzeichnis „Weiterführende Literatur zur Berufsordnung“ | bezeichnet sich selbst als gesetzlich verankert und rechtlich bindend; führt den ICN-Ethikkodex nicht als Bestandteil | nach eigener Angabe bindend, nur in diesem Bundesland |
Die erste Gruppe schuldet Argumente, die zweite Fristen. Der Deutsche Ethikrat verlangt in den Empfehlungen seiner Stellungnahme vom 10. März 2020: „Vor ihrer Aufnahme in die Regelversorgung muss hinreichende Evidenz dafür vorliegen, dass Anwendungen von Robotik die Pflegequalität tatsächlich verbessern.“ Gemeint ist dort die Regelversorgung der sozialen Pflegeversicherung: Die Stellungnahme argumentiert im SGB XI und richtet die Nachbarempfehlung desselben Kapitels ausdrücklich an deren Vertragspartner. Für ein Krankenhaus ist der Satz deshalb keine Vorgabe, wohl aber das stärkste verfügbare Argument für einen befristeten Pilotbetrieb mit eigener Messung — gemeint ist eine Messung der Pflegequalität, nicht der Wirtschaftlichkeit; wie eine wirtschaftliche Kennzahl daneben aufgebaut wird, zeigt unser Beitrag zur produktiven Roboterstunde als Kennzahl.
Auf der verbindlichen Seite entscheidet zuerst die Zweckbestimmung, dann die Folgenschwere. Regel 11 in Anhang VIII der MDR ordnet Software, die bestimmt ist, „Informationen zu liefern, die zu Entscheidungen für diagnostische oder therapeutische Zwecke herangezogen werden“, mindestens der Klasse IIa zu; bei schwerwiegender Verschlechterung des Gesundheitszustands wird sie Klasse IIb, bei möglichem Tod oder irreversibler Verschlechterung Klasse III. Diese Einstufung zieht die KI-Verordnung nach, denn nach Artikel 6 Absatz 1 der Verordnung (EU) 2024/1689 gilt ein KI-System als Hochrisiko-System, wenn es „als Sicherheitsbauteil“ eines Produkts verwendet werden soll, das unter die in Anhang I aufgeführten Harmonisierungsrechtsvorschriften fällt, „oder das KI-System ist selbst ein solches Produkt“ — und wenn dieses Produkt „einer Konformitätsbewertung durch Dritte“ unterzogen werden muss. Die zweite Alternative ist die für eigenständige Entscheidungsunterstützung einschlägige.
Bei den Terminen lohnt ein zweiter Blick, weil die Fassung im Amtsblatt überholt ist. Nach Artikel 113 Buchstabe c der konsolidierten Fassung vom 27. Juli 2026 gelten die Hochrisiko-Anforderungen für eigenständige Systeme nach Anhang III ab dem 2. Dezember 2027, für Systeme in Medizinprodukten nach Anhang I dagegen erst ab dem 2. August 2028. Ein Vertrag, den Sie 2027 unterschreiben, läuft über beide Termine hinaus — deshalb gehören Nachweis-, Update- und Mitwirkungspflichten des Herstellers für die Zeit nach Geltungsbeginn schon jetzt hinein, sonst tragen Sie die Umstellung allein.
Daneben gilt die EU-Maschinenverordnung (EU) 2023/1230 nach ihrem Artikel 54 ab dem 20. Januar 2027. Eine Ausnahme für Medizinprodukte, wie sie die abgelöste Maschinenrichtlinie kannte, führt ihre Ausnahmeliste in Artikel 2 nicht mehr; ob und wie sie neben dem Medizinprodukterecht greift, gehört deshalb in die Prüfung und ist hier nicht entschieden. Die CE-Kennzeichnung bleibt dabei eine Erklärung des Herstellers und ist kein Gütesiegel. Auf Bundesebene sind neben § 630a BGB das Deliktsrecht, das Medizinprodukterecht und § 87 Absatz 1 Nummer 6 BetrVG berührt. Landesrechtliche und kommunale Vorgaben, etwa aus Heimrecht und Landespflegerecht, sind nicht erhoben und im Einzelfall zu prüfen. Und eine Empfehlung eines Ethikgremiums bleibt eine Empfehlung, auch wenn sie fachlich überzeugt.
Ist eine Empfehlung des Deutschen Ethikrats für ein Krankenhaus verbindlich?
Durchsetzbar ist sie nicht: Der Deutsche Ethikrat richtet die Stellungnahme „Robotik für gute Pflege“ vom 10. März 2020 an Gesetzgeber, Vertragspartner der Pflegeversicherung und Träger, und hinter ihr steht keine Aufsicht. Mittelbar kann eine breit getragene fachliche Erwartung jedoch Bedeutung gewinnen, weil § 630a Absatz 2 BGB für die medizinische Behandlung im Rahmen eines Behandlungsvertrags den allgemein anerkannten fachlichen Standard zum Maßstab macht; ob eine einzelne Empfehlung dazugehört, entscheidet der Einzelfall. Das ist eine redaktionelle Einordnung und keine Rechtsberatung.
Muss ein Patient darüber aufgeklärt werden, dass KI beteiligt ist?
Das hängt vom System ab. Abschnitt 3.3.2 der ZEKO-Stellungnahme vom 23. August 2021 formuliert, Patientinnen und Patienten müssten „ggf.“ darüber aufgeklärt werden und darin einwilligen, ob und in welchem Umfang solche Systeme in den Behandlungsprozess integriert werden; nach Abschnitt 4.2.1 dürfte es darauf ankommen, ob eine eigenständige Untersuchungs- oder Behandlungsmethode oder eine unterstützende Begleitleistung vorliegt — die Stellungnahme hält dazu ausdrücklich fest, dass dies „nicht rechtsverbindlich geklärt“ ist und dass die Kriterien „bislang nicht fest“ stehen. Für Methoden in der Erprobung sieht Abschnitt 4.4.2 eine Aufklärung vor, wenn das System zum Einsatz kommen soll. Das ist eine redaktionelle Einordnung und keine Rechtsberatung.
Was verlangt die ZEKO von Ärzten beim Einsatz von Entscheidungsunterstützung?
Die Stellungnahme der Zentralen Ethikkommission bei der Bundesärztekammer vom 23. August 2021 verlangt in Abschnitt 4.3.1: „Insbesondere müssen sie zumindest Plausibilitätsprüfungen der automatisierten Entscheidungsempfehlungen von CDSS vornehmen.“ Dazu kommt die Pflicht, sich vor dem Einsatz mit der Funktionsweise vertraut zu machen, sowie die in den Empfehlungen genannte Grenze, dass die Verantwortung für Diagnose, Indikationsstellung und Therapie nicht an ein System abgetreten werden darf. Das ist eine berufsethische Erwartung ohne Gesetzesrang, keine Rechtsnorm.
Was prüft ein klinisches Ethikkomitee bei der Einführung eines KI-Systems?
Eine Systemeinführung betrifft nicht einen Einzelfall, sondern die Organisation, und dafür nennen die „Standards für Ethikberatung im Gesundheitswesen“ der Akademie für Ethik in der Medizin zwei passende Aufgabenbereiche: die Beratung der Einrichtungsleitung in organisationsethischen Fragen und die Ethik-Leitlinie. Nach Abschnitt 4 Buchstabe b dieser Standards müssen Ethik-Leitlinien, die als normative Vorgabe gemeint sind, von der Leitung der Einrichtung oder des Trägers verabschiedet werden; ohne diesen Beschluss bleiben sie eine Orientierungshilfe.
Kann es haftungsrelevant werden, wenn eine Ethikempfehlung nicht beachtet wurde?
Möglich ist das, zwingend ist es nicht. Nach Abschnitt 4.5 der ZEKO-Stellungnahme vom 23. August 2021 können „haftungsbegründende Umstände“ neben der Verwendung eines nicht zertifizierten Medizinprodukts auch Fehler bei Inbetriebnahme und Anwendung sein, und über § 630a Absatz 2 BGB kann eine fachliche Erwartung in den Maßstab der Behandlung einfließen. Umgekehrt kann nach Abschnitt 4.3.2 derselben Stellungnahme, der die Sorgfaltspflichten der Ärztinnen und Ärzte behandelt, auch der Nichteinsatz eine Pflichtverletzung begründen — allerdings nur bei einem System, das „eine eigenständige Untersuchungs- oder Behandlungsmethode“ ist, „bereits zum medizinischen Standard“ zählt und sich „nach Durchlaufen der Erprobungs- und Übergangsphase“ evidenzbasiert als überlegen „gegenüber der herkömmlichen Behandlungsmethode“ erweist. Für den Träger folgt daraus keine Beschaffungspflicht. Das ist eine redaktionelle Einordnung und keine Rechtsberatung.
Zwei Dokumente zum Mitnehmen — dieser Beitrag ordnet die Lage; wer sie belegt oder in eine Vorlage überführen will, findet beides ausführlich als PDF.
FluxLane-Leitfaden „KI in Klinik und Unternehmen“ herunterladen (PDF, 24 Seiten, 168 kB, Fassung 1.0 vom 24. September 2026). Er führt das Verfahren mit sechs Prüfstufen aus, dazu zwölf Fragen vor einer Beschaffung, den Inhalt einer Entscheidungsvorlage und die Abbruchgründe für eine laufende Anwendung.
FluxLane-Studie „KI-Ethik in Krankenhaus und Unternehmen“ herunterladen (PDF, 50 Seiten, 272 kB, Fassung 1.1 vom 24. September 2026). Sie legt die Belegkette offen: Untersuchungsmethode, kritische Studienprofile, rechtliche Voraussetzungen, Limitationen und ein Verzeichnis mit 46 Quellen. Beide Dokumente tragen Rechtsstand 24. September 2026 und sind keine Rechtsberatung.
Quellen & Stand: Deutscher Ethikrat, „Robotik für gute Pflege“, 10.03.2020, Kapitel 1 und 5 · Zentrale Ethikkommission bei der Bundesärztekammer, „Entscheidungsunterstützung ärztlicher Tätigkeit durch Künstliche Intelligenz“, 23.08.2021, Deutsches Ärzteblatt Jg. 118, Heft 33–34 · Bundesärztekammer, „Künstliche Intelligenz in der Medizin“, Vorstandsbeschluss 14.01.2025, dazu das Thesenpapier vom März 2025 · ICN-Ethikkodex für Pflegefachpersonen, Fassung 2021, deutsche Ausgabe über den DBfK · Akademie für Ethik in der Medizin, „Standards für Ethikberatung im Gesundheitswesen“, 21.12.2022, Ethik in der Medizin 35 (2023), S. 313–324 · BGB § 630a, Abruf 23.09.2026 · Verordnung (EU) 2017/745 (MDR), Anhang VIII Regel 11 · Verordnung (EU) 2024/1689, konsolidierte Fassung vom 27.07.2026, Artikel 6 und 113. Die fünf berufsethischen Dokumente liegen der Redaktion im Volltext vor; ihre Einzeladressen sind am 23. September 2026 gegen Statuscode, antwortenden Host und Inhalt geprüft und im Text verlinkt. Nicht im Volltext abgelegt und deshalb allein über die Angabe im Text nachprüfbar sind die AEM-Zertifizierungsstufen. Die beiden Zitate der Landespflegekammer Rheinland-Pfalz sind am 23. September 2026 an der Quelle geprüft und im Volltext abgelegt. Die Termine der KI-Verordnung stammen aus der konsolidierten Fassung, weil die Fassung im Amtsblatt für Artikel 6 Absatz 1 ein überholtes Datum nennt. Die Stichprobe zu vier KI-Antwortmaschinen ist eine eigene Erhebung vom 23.09.2026. Stand: 23. September 2026.