Welche neuen Pflichten zur KI-Kompetenz gelten für Kliniken durch die EU-KI-Verordnung?

Mit der EU-KI-Verordnung (AI Act) gelten ab 2026 verbindliche Anforderungen an die sogenannte KI-Kompetenz für alle Einrichtungen, die KI-Systeme einsetzen, darunter ausdrücklich auch Krankenhäuser und Medizinische Versorgungszentren. Konkret bedeutet das: Kliniken sind verpflichtet, sicherzustellen, dass ihr Personal KI-Systeme sicher, sachgemäß und kritisch beurteilen kann. Die folgenden Abschnitte beantworten die wichtigsten Fragen, die Entscheider im Gesundheitswesen jetzt kennen müssen.

Welche Einrichtungen im Gesundheitswesen fallen unter die EU-KI-Verordnung?

Alle Einrichtungen im Gesundheitswesen, die KI-Systeme einsetzen oder betreiben, fallen unter die EU-KI-Verordnung, unabhängig von ihrer Größe. Das betrifft Krankenhäuser, Universitätskliniken, Medizinische Versorgungszentren (MVZ) und Rehabilitationseinrichtungen gleichermaßen, sofern sie KI-gestützte Anwendungen im klinischen oder administrativen Betrieb nutzen.

Die Verordnung unterscheidet dabei zwischen Anbietern, die KI-Systeme entwickeln, und Betreibern, die diese Systeme einsetzen. Kliniken agieren in der Regel als Betreiber. Als solche tragen sie die Verantwortung dafür, dass der Einsatz der Systeme den Anforderungen der Verordnung entspricht, insbesondere in Bezug auf Transparenz, Risikomanagement und die Qualifikation des eingesetzten Personals. Die Verordnung gilt für alle Einrichtungen, die im europäischen Wirtschaftsraum tätig sind, unabhängig davon, wo das KI-System ursprünglich entwickelt wurde.

Was genau bedeutet KI-Kompetenz nach der EU-KI-Verordnung?

KI-Kompetenz im Sinne der EU-KI-Verordnung bezeichnet die Fähigkeit von Mitarbeitenden, KI-Systeme in ihrem Einsatzbereich zu verstehen, kritisch zu bewerten und sicher anzuwenden. Sie umfasst technisches Grundverständnis, Risikobewusstsein und die Fähigkeit, Systemgrenzen zu erkennen.

Artikel 4 der EU-KI-Verordnung verpflichtet Betreiber ausdrücklich dazu, bei ihren Mitarbeitenden ein ausreichendes Maß an KI-Kompetenz sicherzustellen. Das bedeutet konkret: Wer im klinischen Alltag mit KI-Systemen arbeitet, muss verstehen, wie diese Systeme funktionieren, welche Fehlerquellen sie haben und wann menschliches Urteilsvermögen zwingend erforderlich ist. KI-Kompetenz ist dabei kein einmaliges Wissen, sondern ein fortlaufend zu entwickelndes Qualifikationsniveau, das an den tatsächlich eingesetzten Systemen ausgerichtet sein muss.

Für Kliniken bedeutet das: Die Anforderungen an KI-Kompetenz sind nicht pauschal für alle Mitarbeitenden identisch. Sie richten sich nach der jeweiligen Rolle und dem Grad der Interaktion mit KI-Systemen. Ein Arzt, der ein KI-gestütztes Diagnosesystem nutzt, benötigt ein anderes Kompetenzniveau als ein Verwaltungsmitarbeiter, der lediglich mit einem automatisierten Terminplanungssystem arbeitet.

Welche konkreten Schulungspflichten gelten ab wann für Klinikpersonal?

Die Schulungspflichten für KI-Kompetenz nach der EU-KI-Verordnung gelten für Betreiber von Hochrisiko-KI-Systemen ab dem 2. August 2026. Kliniken, die solche Systeme einsetzen, müssen bis zu diesem Datum sicherstellen, dass betroffene Mitarbeitende nachweislich über ausreichende KI-Kompetenz verfügen.

Die Verordnung schreibt keine einheitliche Schulungsform vor. Entscheidend ist das Ergebnis: Mitarbeitende müssen in der Lage sein, das eingesetzte KI-System sachgemäß zu bedienen, seine Ausgaben kritisch zu hinterfragen und bei Fehlfunktionen angemessen zu reagieren. Kliniken sind verpflichtet, diesen Kompetenznachweis zu dokumentieren. Empfehlenswert ist eine rollenbasierte Schulungsstruktur, die zwischen klinischem Personal mit direktem Systemkontakt und administrativem Personal mit indirektem Kontakt differenziert.

Für Systeme, die nicht als Hochrisiko eingestuft sind, gelten die Anforderungen weniger streng, dennoch empfiehlt sich auch hier eine strukturierte Einweisung, da die Haftungsfrage im Schadensfall immer auf den Betreiber zurückfällt.

Welche KI-Systeme im Klinikalltag gelten als hochriskant?

KI-Systeme im Gesundheitswesen gelten nach der EU-KI-Verordnung als hochriskant, wenn sie zur Diagnose, Behandlung oder Überwachung von Patienten eingesetzt werden. Anhang III der Verordnung listet medizinische Geräte und KI-Systeme im Gesundheitsbereich ausdrücklich als Hochrisikokategorie auf.

Im klinischen Alltag betrifft das unter anderem folgende Systeme:

• KI-gestützte Bildauswertung in der Radiologie und Pathologie
• Klinische Entscheidungsunterstützungssysteme, die Diagnose- oder Therapieempfehlungen ausgeben
• Systeme zur automatisierten Risikostratifizierung von Patienten
• KI-Anwendungen in der Intensivmedizin zur Überwachung von Vitalparametern
• Automatisierte Auswertung von EKG- oder EEG-Daten

Nicht als hochriskant eingestuft werden hingegen rein administrative KI-Anwendungen, etwa zur Terminplanung oder Ressourcensteuerung, sofern sie keine direkten Auswirkungen auf die Patientenversorgung haben. Die Einordnung eines Systems obliegt zunächst dem Anbieter, jedoch trägt die Klinik als Betreiber die Verantwortung dafür, diese Einstufung zu prüfen und entsprechend zu handeln.

Welche Sanktionen drohen Kliniken bei Verstößen gegen die KI-Verordnung?

Bei Verstößen gegen die EU-KI-Verordnung drohen Kliniken als Betreiber Bußgelder von bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist. Für den Einsatz verbotener KI-Systeme sind die Sanktionen noch höher.

Die Sanktionshöhe richtet sich nach der Schwere des Verstoßes. Konkret unterscheidet die Verordnung zwischen:

• Verstößen gegen Verbote (z. B. Einsatz von KI-Systemen mit unzulässigen Praktiken): bis zu 35 Millionen Euro oder 7 Prozent des Jahresumsatzes
• Verstößen gegen Pflichten für Hochrisiko-Systeme (z. B. fehlende Schulungsnachweise, mangelndes Risikomanagement): bis zu 15 Millionen Euro oder 3 Prozent des Jahresumsatzes
• Falschangaben gegenüber Behörden: bis zu 7,5 Millionen Euro oder 1 Prozent des Jahresumsatzes

Neben den finanziellen Sanktionen drohen Reputationsschäden und zivilrechtliche Haftungsansprüche, insbesondere wenn ein KI-Systemfehler zu einem Patientenschaden geführt hat und nachgewiesen werden kann, dass die Klinik ihre Schulungspflichten vernachlässigt hat.

Wie sollten Kliniken die Umsetzung der KI-Kompetenzpflichten jetzt angehen?

Kliniken sollten die Umsetzung der KI-Kompetenzpflichten in drei Schritten angehen: zunächst eine Bestandsaufnahme aller eingesetzten KI-Systeme und deren Risikoeinstufung, dann eine rollenbasierte Kompetenzanalyse des betroffenen Personals und schließlich die Implementierung dokumentierter Schulungsmaßnahmen vor dem Stichtag im August 2026.

In der Praxis bedeutet das konkret:

1. KI-Inventar erstellen: Alle im Einsatz befindlichen KI-Systeme erfassen und prüfen, ob sie als hochriskant einzustufen sind.
2. Betroffene Rollen identifizieren: Festlegen, welche Mitarbeitenden direkt mit Hochrisiko-Systemen interagieren und daher nachweislich KI-Kompetenz benötigen.
3. Schulungskonzept entwickeln: Rollenspezifische Schulungen planen und durchführen, die auf die tatsächlich eingesetzten Systeme zugeschnitten sind.
4. Dokumentation sicherstellen: Schulungsnachweise und Kompetenzbelege systematisch archivieren, um im Prüfungsfall nachweisbar zu sein.
5. Prozesse verankern: KI-Kompetenz als fortlaufende Anforderung in das interne Qualitätsmanagement integrieren, nicht als einmalige Maßnahme behandeln.

Kliniken, die bereits jetzt handeln, schaffen nicht nur regulatorische Sicherheit, sondern stärken auch das Vertrauen ihres Personals in den verantwortungsvollen Umgang mit KI-gestützten Systemen. Das Bundesministerium für Gesundheit stellt ergänzende Informationen zur digitalen Transformation im Gesundheitswesen bereit, die bei der strategischen Planung unterstützen können.

Wie DEPVA Kliniken bei personalrelevanten Herausforderungen unterstützt

Die Einführung der EU-KI-Verordnung stellt Kliniken nicht nur vor regulatorische, sondern auch vor personelle Herausforderungen. Wenn Schulungsmaßnahmen laufende Kapazitäten binden oder Stellen durch Krankheit, Urlaub oder strukturelle Engpässe unbesetzt bleiben, brauchen Einrichtungen schnelle und verlässliche Lösungen.

Wir bei DEPVA sind seit mehr als 15 Jahren auf die Personalvermittlung im Gesundheitswesen spezialisiert und vermitteln bundesweit qualifiziertes medizinisches Fachpersonal für temporäre Vertretungen und Festanstellungen. Unser Geschäftsführer ist selbst approbierter Arzt, das verschafft uns eine fachliche Einschätzungskompetenz, die andere Agenturen nicht bieten können. Was wir für Kliniken leisten:

• Schnelle Besetzung von Vertretungsstellen bei kurzfristigen Personalausfällen
• Vermittlung von Fachärzten und leitenden Positionen für mittel- und langfristige Bedarfe
• Zugriff auf eine umfangreiche Ärzte-Datenbank für passgenaue Kandidatenvorschläge
• Begleitung des gesamten Vermittlungsprozesses, für Arbeitgeber und Arbeitnehmer gleichermaßen
• Einsätze in Form von Arbeitnehmerüberlassung oder befristeter Festanstellung

Wenn Ihre Klinik aktuell Personalengpässe überbrücken muss oder qualifiziertes medizinisches Personal sucht, sprechen Sie uns an. Wir stellen Ihnen schnell geeignete Kandidaten vor.