Cybersicherheit in der Gesundheitsversorgung: FIZ Karlsruhe an BMFTR-Projekt „SecureNeuroAI“ beteiligt

Karlsruhe, den 31. Juli 2025 – Künstliche Intelligenz (KI) soll künftig bei der Erkennung medizinischer Notfälle in Echtzeit helfen – doch der Einsatz solcher Technologien bringt neue Sicherheitsrisiken mit sich. Um diese zu adressieren, fördert das Bundesministerium für Forschung, Transfer und Raumfahrt (BMFTR) das Projekt „SecureNeuroAI“ in den kommenden drei Jahren mit knapp 2,5 Millionen Euro. Beteiligt sind die Universität Bonn, das Universitätsklinikum Bonn und FIZ Karlsruhe.

Ziel des Projekts ist die Entwicklung cybersicherer, KI-gestützter Verfahren zur Erkennung epileptischer Anfälle auf Basis multimodaler Daten – darunter Vitaldaten aus Wearables sowie klinische Messwerte. Die gewonnenen Informationen sollen von manipulationssicheren KI-Modellen analysiert werden, um Patientensicherheit und Verlässlichkeit der Systeme zu gewährleisten.

Die Universität Bonn bringt umfangreiche Expertise in den Bereichen KI und IT-Sicherheit ein. Das Universitätsklinikum Bonn übernimmt die klinische Validierung der Modelle und stellt realitätsnahe Daten für die Entwicklung zur Verfügung.

Eine zentrale Rolle bei der rechtlichen Bewertung übernimmt FIZ Karlsruhe: Der von Prof. Dr. Franziska Boehm geleitete Forschungsbereich Immaterialgüterrechte (IGR) untersucht die datenschutzrechtlichen und regulatorischen Rahmenbedingungen für den KI-Einsatz in der medizinischen Praxis. Daraus sollen konkrete Empfehlungen für die rechtssichere Nutzung digitaler Gesundheitsanwendungen und den Schutz sensibler Patientendaten abgeleitet werden.

Die Ergebnisse von „SecureNeuroAI“ sollen weit über den Bereich der Epilepsieerkennung hinaus Anwendung finden – und langfristig zur Stärkung der Cybersicherheit im Gesundheitswesen beitragen.

Link zur Projektbeschreibung: https://www.fiz-karlsruhe.de/de/projekte/secureneuroai