FINMA warnt: Ist die nächste KI-Generation ein Systemrisiko?

Ein neues Vokabular für KI-Risiken

Bisher wurde in den Schweizer Führungsetagen über Künstliche Intelligenz vor allem in den Dimensionen Effizienz, Innovation und Wettbewerbsfähigkeit diskutiert. Doch in den letzten Tagen hat die Eidgenössische Finanzmarktaufsicht FINMA eine neue, deutlich schärfere Tonart angeschlagen. In einer vielbeachteten Stellungnahme warnte die Aufsichtsbehörde davor, dass die unkontrollierte und sofortige Verfügbarkeit von KI-Grenzmodellen der nächsten Generation als "systemisches Risiko" einzustufen wäre.

Dieser Begriff ist im Finanzsektor stark verankert und bezeichnet eine Gefahr, die das gesamte System – in diesem Fall den Schweizer Finanzplatz – destabilisieren könnte. Es ist das erste Mal, dass eine Schweizer Schlüsselbehörde KI in eine ähnliche Risikokategorie wie eine Bankenkrise oder einen Börsencrash rückt. Für Fach- und Führungskräfte ist dies ein Weckruf: Die strategische Auseinandersetzung mit KI muss dringend um eine robuste Risikoperspektive erweitert werden.

Die konkrete Gefahr: KI als digitaler Generalschlüssel

Was genau befürchtet die FINMA? Die Sorge gilt nicht primär fehlerhaften Kreditentscheidungen oder halluzinierenden Chatbots. Die Gefahr liegt tiefer und ist technischer Natur. Die Aufsicht skizziert ein Szenario, in dem ein extrem leistungsfähiges KI-Modell – im Artikel wird das hypothetische Modell "Mythos" von Anthropic als Beispiel genannt – die Fähigkeit besitzt, in praktisch allen bestehenden Softwaresystemen gleichzeitig eine Vielzahl bisher unbekannter Sicherheitslücken (sogenannte "Zero-Day-Vulnerabilities") zu finden und diese unmittelbar auszunutzen.

Stellen Sie sich vor, ein solches Modell würde öffentlich zugänglich. Angreifer mit weniger Ressourcen könnten plötzlich hochkomplexe Attacken auf kritische Infrastrukturen ausführen, die bisher nur staatlichen Akteuren vorbehalten waren. Das Nationale Zentrum für Cybersicherheit (NCSC) bestätigt diese Einschätzung und sieht KI weniger als eine völlig neue Art von Risiko, sondern als "Beschleuniger bestehender Bedrohungen". Angriffe werden einfacher, schneller und skalierbarer.

Was das für Sie in der Praxis bedeutet

Diese Warnung hat direkte Konsequenzen für verschiedene Rollen in Schweizer Unternehmen:

• Für CFOs und Risikoverantwortliche: KI-Risiko ist kein reines IT-Thema mehr, sondern ein zentrales Unternehmensrisiko. Es gehört auf die Agenda des Verwaltungsrats. Die Business-Continuity-Planung muss um KI-spezifische Szenarien erweitert werden. Wie widerstandsfähig sind unsere Kernsysteme, wenn unser Hauptsoftwarelieferant durch eine KI-gestützte Attacke kompromittiert wird?

• Für Engineering- und IT-Teams: Der Druck, die neuesten und leistungsfähigsten KI-Modelle zu integrieren, muss mit einer neuen Stufe der Sicherheitsüberprüfung einhergehen. Die Empfehlung der Schweizerischen Bankiervereinigung, IT- und Risikomanagementsysteme zu stärken, muss konkret umgesetzt werden. Das bedeutet: Strikte Validierung von Modellen, Einsatz von Sandbox-Umgebungen für KI-Anwendungen und eine lückenlose Überwachung der von KI-Systemen durchgeführten Aktionen.

• Für Führungskräfte in KMU: Auch wenn Sie keine eigenen KI-Grenzmodelle entwickeln, sind Sie Teil der Lieferkette. Ihre CRM-, ERP- oder Buchhaltungssoftware wird zunehmend KI-Komponenten von Drittanbietern enthalten. Das Management von Drittparteien-Risiken wird damit zur entscheidenden Disziplin. Sie müssen von Ihren Lieferanten Transparenz und Garantien bezüglich deren KI-Sicherheitsarchitektur einfordern.

Vom Experiment zur Governance: Der Weg zur KI-Reife

Die Warnung der FINMA ist kein Plädoyer gegen KI-Innovation. Im Gegenteil: Sie ist ein Aufruf zur Professionalisierung. Die Phase des unbeschwerten Experimentierens weicht der Notwendigkeit einer institutionalisierten KI-Governance. Jedes Schweizer Unternehmen, das KI einsetzt oder plant, dies zu tun, muss sich jetzt mit den gleichen Fragen auseinandersetzen, die die FINMA für den Finanzsektor aufwirft.

Ein positiver Aspekt darf nicht übersehen werden: Leistungsfähige KI-Modelle können auch zur Verteidigung eingesetzt werden, um Sicherheitslücken schneller zu finden und zu schliessen, als es menschlichen Experten je möglich wäre. Der Schlüssel liegt in der Kontrolle und im verantwortungsvollen Einsatz.

Die Botschaft aus Bern ist klar: Wer die Chancen der KI nutzen will, muss zuerst die Risiken beherrschen. Eine fundierte KI-Strategie ist daher nicht nur ein Innovations-, sondern vor allem ein Risikomanagement-Instrument.