Der 130. Deutsche Ärztetag hat im Mai 2026 die regulatorischen Weichen für den KI-Einsatz in Krankenhäusern neu gestellt. Während die Politik noch an Rahmenbedingungen arbeitet, müssen Klinikleitungen bereits heute handeln – oder riskieren erhebliche Haftungsfallen. Ein Überblick über die aktuellen Anforderungen und praktischen Konsequenzen.
Was folgt rechtlich aus den Ärztetagsbeschlüssen?
Der Ärztetag hat mit fünf Beschlüssen einen klaren Kurs markiert, der für Krankenhäuser unmittelbare Handlungspflichten begründet:
KI-Agenten vorerst tabu. Autonom agierende KI-Systeme dürfen erst eingesetzt werden, wenn BMG, Gematik, BfDI und BSI detaillierte Vorgaben erstellt haben. Der Hintergrund: dokumentierte Fälle, in denen KI-Systeme eigenmächtig Dateien löschten oder Personen verunglimpften. Wer jetzt solche Technologien in der Patientenversorgung nutzt, agiert haftungsrechtlich im Vakuum.
US-Clouds ausgeschlossen. Der Ärztetag zieht eine klare Grenze für Cloud-Infrastrukturen. Nicht nur außereuropäische Standorte gelten als ungeeignet, auch europäische oder deutsche Angebote von US-Unternehmen wie AWS oder Microsoft Azure. Grund ist die Extraterritorialität US-amerikanischen Rechts, das Datenherausgabe an US-Behörden vorsieht – unabhängig vom Serverstandort. Die bislang angeführten Sicherheitsversprechen von ‚Confidential Computing‘ stehen in der Kritik: Nach derzeitiger Erkenntnislage ist ein umfassender Schutz nicht gewährleistet.
Schweigepflicht unter Druck. Die Beschlüsse werfen ein neues Licht auf § 203 StGB. Patientendaten, die in KI-Systeme eingegeben werden, verbleiben in den mathematischen Modellen – selbst dann, wenn die ursprüngliche Eingabe gelöscht wird. Ob dies als “unzulässige Sekundärdatennutzung” gilt, ist offen. Der Ärztetag warnt: “Die Weitergabe von Behandlungsdaten in die KI stellt womöglich eine Verletzung der ärztlichen Schweigepflicht dar.”
Datenökonomie blockiert. Für die Weitergabe an kommerzielle Nutzer gilt: Nur wer nachweisen kann, dass keine Reidentifizierung möglich ist, darf Daten übermitteln. Das ist gegenwärtig technisch nicht gewährleistet. Bereits wenige Attribute – Geschlecht, Alter, Postleitzahl, fünf Behandlungstage – reichen aus, um ehemals anonymisierte Datensätze wieder zuzuordnen. Neu hinzu kommt das “unkalkulierbare KI-Risiko” durch Kalendermustererkennung.ePA-Aufklärung verschärft. Vor der Übertragung in die elektronische Patientenakte ist eine individuelle ärztliche Aufklärung erforderlich, keine Pauschalhinweise. Drittinformationen müssen gelöscht werden, bei sensiblen Diagnosen ist eine besonders sorgfältige Abwägung nötig – mit schriftlicher Dokumentation.
Die DSGVO-Fallstricke bei US-Hyperscalern
Die Cloud-Strategie vieler Kliniken gerät durch die Beschlüsse ins Wanken. Was lange als sich galt, erweist sich als rechtlich brisant.
Das Kernproblem ist die Extraterritorialität des US-Rechts. US-Unternehmen unterliegen dem CLOUD Act, der die Herausgabe von Daten – auch ausländischer Nutzer – vorsieht – unabhängig davon, ob die Server in Frankfurt oder Virginia stehen. Für Krankenhäuser bedeutet das: Wer sensible Patientendaten bei AWS, Azure oder Google Cloud speichert, kann nicht ausschließen, dass diese Daten US-Behörden zugänglich werden.
Technisch kommt hinzu, dass “Confidential Computing” als widerlegt gilt. Der Schutz lässt sich mit Billighardware aushebeln, Administratoren können unbemerkt zugreifen. Was bleibt, ist das “Versprechen des Cloudbetreibers, dessen Einhaltung nicht mehr überprüft werden kann.” Ein weiteres Problem ist die Datenmitnahme durch KI. Selbst gelöschte Eingaben verbleiben in den mathematischen Modellen – ein Verstoß gegen DSGVO-Grundsätze wie Datenminimierung, Zweckbindung und das Recht auf Vergessenwerden. Für die Praxis bedeutet die Konstellation, dass Krankenhäuser bei Datenpannen oder unautorisiertem Zugriff allein haften – auch wenn der Cloud-Anbieter vertraglich als Auftragsverarbeiter eingebunden ist. Der Ärztetag drückt das so aus: “Die Ärzteschaft steht vor jeder Datenweitergabe in der Verantwortung.” Eine Nutzung ist faktisch stark eingeschränkt: Wer die DSGVO ernst nimmt und seine Schweigepflicht wahren will, kommt an US-basierten Hyperscalern derzeit nicht vorbei, ohne erhebliche Rechtsrisiken einzugehen.
Haftungslage bei KI-gestützter Dokumentation
Die Haftungslage ist hochgradig unsicher – ein Problem, das die Beschlüsse aufgreifen, ohne endgültige Antworten zu liefern. Dennoch lassen sich konkrete Handlungsempfehlungen ableiten.
Die zentrale Frage ist die Verantwortlichkeit. Wer KI-generierte Texte nicht validiert, riskiert Behandlungsfehler mit strafrechtlicher Relevanz. Die Lösung: ein verbindliches Vier-Augen-Prinzip. Jeder KI-Entwurf muss vor der digitalen Signatur Zeile für Zeile von einem Arzt geprüft und freigegeben werden. Blinde Übernahme ist als Pflichtverletzung zu definieren, Korrekturen sollten nachvollziehbar protokolliert werden.
Zur Risikominimierung gehört ferner:
KI-Agenten deaktivieren. Bis zur regulatorischen Klärung durch die zuständigen Behörden sollten autonome Systeme in der Dokumentation nicht eingesetzt werden.
Cloud-Verträge prüfen. Bestehende Verträge mit US-Hyperscalern müssen aufgelöst oder umgestaltet werden. Empfohlen sind europäische Anbieter ohne US-Muttergesellschaft, On-Premise-Lösungen oder Hybrid-Modelle mit lokaler Datenverarbeitung.
Aufklärung dokumentieren. Die schriftliche Festhaltung der Patientenaufklärung ist Pflicht, bei sensiblen Diagnosen besonders sorgfältig.
Datenflüsse inventarisieren. Kliniken müssen nachweisen können, wo Patientendaten verarbeitet werden – von Arztpraxen über Apotheken bis zum Forschungsdatenzentrum.
Auf regulatorische Klärung warten. Investitionen in neue KI-Systeme sollten zurückgestellt werden, bis die geforderten Durchführungsbestimmungen vorliegen.
Für die praktische Umsetzung empfiehlt sich ein mehrstufiges System aus Inventarisierung aller KI-Prozesse, Risikobewertung nach Automatisierungsgrad, Einführung verbindlicher Dienstanweisungen, regelmäßigen Personalschulungen zu typischen KI-Schwachstellen, sowie fortlaufender Überwachung der Fehlerraten. Die Dokumentation aller Prüf- und Korrekturschritte schafft im Haftungsfall die notwendige Beweissicherung.
Beim Datenschutz gilt es, die DSGVO-Konformität zu wahren. Die KI-Software sollte idealerweise lokal auf Klinikservern laufen oder in einer nachweislich DSGVO-konformen, zertifizierten medizinischen Cloud mit Auftragsverarbeitungsvertrag nach Art. 28 DSGVO betrieben werden. Sollen Klinikdaten zum Training der KI genutzt werden, müssen diese vorab vollständig und unumkehrbar anonymisiert werden. Je nach Systemkonfiguration und Zweck – reines Diktat versus diagnostische Textanalyse – ist zudem zu prüfen, ob eine explizite datenschutzrechtliche Patienteneinwilligung erforderlich ist.
Im Bereich Qualitätsmanagement und Software-Auswahl verlangt der EU AI Act sowie die Medical Device Regulation besondere Sorgfalt. Ausschließlich Software mit CE-Kennzeichnung nach der MDR (insbesondere bei KI-Systemen mit klassifizierender/diagnostischer Funktion) sollte zum Einsatz kommen, sofern die KI klinische Bewertungen oder strukturierte Dokumentationen vornimmt. Die IT- und Qualitätsmanagement-Abteilung muss die Fehlerrate der Software in einer Testphase systematisch validieren, während das System fortlaufend auf Cyber-Sicherheit und Updates zu überwachen ist, um ein Organisationsverschulden auszuschließen.
Nicht zuletzt kommt dem Schulungs- und Risikobewusstsein des Personals zentrale Bedeutung zu. Ärzte und Pflegekräfte müssen gezielt geschult werden, wo die typischen Schwachstellen der eingesetzten KI liegen – etwa im Auslassen verneinter Befunde wie “kein Fieber”. Gleichzeitig gilt es, das Personal im Umgang mit Prompts zu schulen, um die Fehlerquote der KI von vornherein zu minimieren.
Der 130. Deutsche Ärztetag hat den Spagat zwischen Innovation und Datenschutz zugunsten des Patientenschutzes entschieden. Die Gesamtlage ist eindeutig: KI in der Dokumentation birgt derzeit ein erhebliches Haftungsrisiko. Wer vor der regulatorischen Klärung aktiv wird, trägt das volle Risiko – strafrechtlich, zivilrechtlich und berufsrechtlich. Diejenigen, die diese Standards ignorieren, riskieren nicht nur rechtsstaatliche Konsequenzen, sondern vor allem eines – den Vertrauensverlust der Patienten, auf dem das gesamte Gesundheitssystem ruht.
