EU AI Act: Regulierung
Verantwortungsvoller Einsatz von KI im Gesundheitswesen
Themen
EU AI Act & Medizin
Risikobasierter Ansatz der Verordnung
Pflichten für Entwickler & Nutzer
Umsetzung in deutsches Recht
Unsere Aktivitäten im Bereich Regulierung
EU AI Act: Regulierung von KI in der Medizin
Der EU AI Act ist das weltweit erste umfassende KI-Gesetz und legt einheitliche Regeln für die Entwicklung und Nutzung von KI-Systemen in Europa fest. KIMED möchte bei der Umsetzung des EU AI Act Einfluss auf die Umsetzung in deutsches Recht nehmen – um Innovation und klinische Anwendung von KI-Werkzeugen verantwortungsvoll zu fördern.
Der risikobasierte Ansatz der Verordnung unterscheidet zwischen minimalem, begrenztem, hohem und inakzeptablem Risiko. Während hochriskante KI-Systeme, darunter viele medizinische Anwendungen, strenge Sicherheits- und Transparenzanforderungen erfüllen müssen, sind verbotene KI-Technologien wie manipulative Systeme oder biometrische Massenüberwachung nicht zulässig. Für die Gesundheitsbranche bedeutet dies neue Anforderungen an Zertifizierung, Datenqualität und Risikomanagement.
Pflichten für Entwickler, Anbieter und Nutzer
✹ Umfangreiche Dokumentations-, Transparenz- und Sicherheitsmaßnahmen für Hochrisiko-KI
✹ Risikobewertungen, CE-Kennzeichnungen und kontinuierliche Überwachung
✹ Menschliche Aufsicht über automatisierte Entscheidungen sicherstellen
✹ Nur zertifizierte KI-Systeme in Kliniken und Praxen einsetzen
✹ Schulungen für medizinisches Personal durchführen
✹ Systemleistung aktiv überwachen – Verstöße können zu hohen Bußgeldern führen
Umsetzung in deutsches Recht
Als EU-Verordnung gilt der AI Act direkt in Deutschland, doch nationale Anpassungen sind notwendig. Die Bundesnetzagentur wird als zentrale Aufsichtsbehörde für KI fungieren, während sich bestehende Medizinprodukt-Regularien mit den neuen KI-Vorgaben überschneiden.
Unternehmen, Fachgesellschaften und Wissenschaftler können über Standardisierungsgremien, Verbände und Stellungnahmen Einfluss auf die praktische Umsetzung nehmen. Eine zentrale Herausforderung bleibt, Innovation und Regulierung in Einklang zu bringen – um sowohl Patientensicherheit als auch den Fortschritt in der KI-gestützten Medizin zu fördern.
✹ Aktive Mitgestaltung bei der Umsetzung des EU AI Act in deutsches Recht
✹ Beratung von Kliniken, Herstellern und Entscheidungsträgern zu Compliance-Anforderungen
✹ Entwicklung von Leitlinien für den rechtskonformen Einsatz von KI-Medizinprodukten
✹ Vernetzung mit europäischen Fachgesellschaften und Regulierungsbehörden
[Schwerpunkte]
