Wie Europas vertrauenswürdigste Branchen die Zukunft der künstlichen Intelligenz sichern.  

KI ist nicht nur ein weiteres Werkzeug im Cyber-Arsenal, sondern sowohl ein Beschleuniger als auch ein Risikofaktor. Diese Botschaft war auf Cloud & Cyber Security Expo 2025, die im Rahmen Tech Show Frankfurt stattfand, deutlich zu spüren. Dort diskutierten führende Experten für Sicherheit und Daten aus stark regulierten Branchen über eine neue Realität: Während KI die Finanz-, Gesundheits- und Energiebranche verändert, definiert sie auch die Begriffe Risiko und Widerstandsfähigkeit neu.  

Wie ein CSO aus dem Bankensektor feststellte: „KI hilft uns dabei, Anomalien in Echtzeit zu erkennen – doch jedes Modell, das wir einsetzen, ist eine weitere Angriffsfläche, die es zu schützen gilt.“

Risiko und Resilienz: zwei Seiten derselben Medaille

KI stärkt die Widerstandsfähigkeit, wenn sie dazu eingesetzt wird,

• Cyber-Bedrohungen schneller erkennen und darauf reagieren.

• Automatisieren Sie die Überwachung der Compliance und von Anomalien.

• Unterstützen Sie schnelle, faktengestützte Entscheidungen in Krisensituationen.

Es erhöht jedoch das Risiko, wenn:

• Die Modelle werden auf nicht verifizierten oder nicht hoheitlichen Daten trainiert.

• Die Ergebnisse lassen sich den Aufsichtsbehörden nicht erklären.

• Angreifer nutzen KI, um Einbrüche oder Social-Engineering-Angriffe zu automatisieren.

Ein Diskussionsteilnehmer formulierte es so: „Dieselben Algorithmen, die Systeme intelligenter machen, können auch Angriffe intelligenter machen.“

 

In regulierten Branchen

Gesundheitswesen: Patienten schützen und gleichzeitig innovativ sein

Für Gesundheitsdienstleister verspricht KI bessere Ergebnisse – doch der sensible Umgang mit Daten hat oberste Priorität. Führungskräfte von Fresenius Medical Care beschrieben die Herausforderung wie folgt: „Wir sehen ein enormes Potenzial in der KI, doch beim Datenschutz dürfen wir keine Kompromisse eingehen. Die Speicherung von Patientendaten muss vorschriftsmäßig, nachvollziehbar und vertretbar sein.“

Gemäß dem EU-KI-Gesetz gelten solche medizinischen Anwendungen als risikoreich und erfordern Rückverfolgbarkeit, menschliche Aufsicht sowie eine entsprechende Dokumentation. Krankenhäuser richten derzeit KI-Prüfpfade und Dashboards zur Erklärbarkeit ein, damit die Aufsichtsbehörden die Entscheidungen der einzelnen Modelle überprüfen können.

Finanzen: Mehrstufige Sicherheitsvorkehrungen und Rechenschaftspflicht

Im Bankwesen bildet KI die Grundlage für die Betrugserkennung und die Bonitätsbewertung, doch müssen dieselben Tools in robuste Kontrollstrukturen eingebettet sein.
Ein CSO der Deutschen Bank erklärte: „Jedes KI-System, das wir einsetzen, ist in ein dreistufiges Schutzmodell eingebettet – Verschlüsselung auf jeder Ebene, Echtzeit-Überwachung durch das SOC und Zero-Trust-Segmentierung.“

Finanzinstitute behandeln KI-Modelle zunehmend wie Kerninfrastruktur und wenden strenge Rahmenbedingungen in Bezug auf Eigentumsverhältnisse, Änderungskontrolle und aufsichtsrechtliche Berichterstattung an.

Luftfahrt und Fertigung: Erklärbarkeit ist gleichbedeutend mit Sicherheit

Im „Digital Transformation Theatre“ erläuterten Experten von Boeing, wie vorausschauende KI Ausfälle von Ausrüstung verhindert, wobei Vertrauen jedoch von Transparenz abhängt:
„Wenn die KI den Ausfall eines Bauteils vorhersagt, können wir diese Aussage nicht einfach so hinnehmen. Wir müssen wissen, warum. Erklärbarkeit bedeutet Sicherheit.“

 

Die Vorschriften verlangen Transparenz

In ganz Frankfurt waren sich die Experten einig: Die Aufsichtsbehörden wollen Beweise, keine Versprechungen. Das EU-KI-Gesetz schreibt nun vor, dass risikoreiche Modelle transparent, nachvollziehbar und überprüfbar sein müssen – von den Datenquellen bis hin zur Entscheidungslogik.

Dies veranlasst Unternehmen dazu, Folgendes umzusetzen:

• Dashboards zur Erklärbarkeit, die aufzeigen, wie Ergebnisse erzielt werden.

• Modellregister, in denen alle Versionen und Eingaben protokolliert werden.

• Prüfungsfähige Dokumentation für interne und externe Überprüfungen.

Ein Rechtsberater aus der Automobilbranche brachte es auf den Punkt:
„Wenn Sie nicht erklären können, wie sich Ihr Modell verhält, können Sie es auch nicht verteidigen.“

 

KI-Modelle als kritische Vermögenswerte behandeln

Resilienz bedeutet heute, die Unternehmensführung auf die KI-Ebene auszuweiten. Führende Unternehmen sind:

• Modellkatalogisierung und Zuständigkeiten – Zuordnung aller KI-Ressourcen zu den zuständigen Teams.

• Sicherung von Pipelines – Durchsetzung von Verschlüsselung, Zugriffskontrolle und Laufzeitüberwachung.

• Gewährleistung der Nachvollziehbarkeit – Visualisierung von Entscheidungspfaden mithilfe von Dashboards und Protokollen.

• Erstellung von Leitfäden für KI-Störfälle – für Datenvergiftung, Verzerrungen oder Modelldrift.

• Kontinuierliche Tests – Durchführung von Adversarial-Simulationen, um Schwachstellen aufzudecken.

Dieser Ansatz orientiert sich an klassischen Rahmenwerken für die Informationssicherheit, ist jedoch speziell auf den Schutz lebender, sich weiterentwickelnder KI-Systeme ausgerichtet.

 

Von der Einhaltung der Vorschriften zum Vertrauen

Trotz der Herausforderungen herrschte bei den Veranstaltungen in Frankfurt Optimismus. Viele betrachten KI-Governance mittlerweile als Chance für Unternehmen und nicht als Hindernis. Transparente und rechenschaftspflichtige Systeme schaffen Vertrauen bei Aufsichtsbehörden, Partnern und der Öffentlichkeit.

Dr. Swantje Westpfahl vom Institut für Sicherheit und Gefahrenabwehr hat es treffend formuliert:
„KI darf nicht als Blackbox betrachtet werden, sondern als Teil der kritischen Infrastruktur, auf der Vertrauen beruht. Wenn wir die KI sichern, sichern wir die Zukunft.“

 

Die zentrale Frage für Vorstände

Da künstliche Intelligenz in den vertrauenswürdigsten Branchen Europas eine zentrale Rolle einnimmt, bestimmt eine Frage den weiteren Weg:

Kann Ihr Unternehmen die KI schützen, die alles andere schützt?