KI-Agenten: Wenn Autonomie auf Governance trifft

Der Wandel von Assistenz zu Autonomie

In den letzten Monaten hat sich die Diskussion um künstliche Intelligenz in Unternehmen fundamental verschoben. Gestern sprachen wir noch über KI als «Copilot» oder Assistent, der Aufgaben auf Anweisung erledigt. Heute, befeuert durch Ankündigungen von Plattform-Anbietern wie Snowflake, Microsoft und Databricks, steht die nächste Evolutionsstufe im Fokus: der autonome KI-Agent.

Diese Agenten sind nicht mehr nur passive Werkzeuge. Sie sind darauf ausgelegt, komplexe, mehrstufige Aufgaben eigenständig zu planen, zu entscheiden und auszuführen. Ein Agent könnte beispielsweise selbstständig Abweichungen in Finanzdaten identifizieren, die Ursache in verschiedenen Systemen recherchieren, einen Korrekturvorschlag erarbeiten und diesen zur finalen Freigabe vorlegen – oder im schlimmsten Fall sogar direkt ausführen.

Für Schweizer Fach- und Führungskräfte, insbesondere in den Bereichen Finanzen und Technologie, bedeutet dies eine Zäsur. Das Potenzial für Effizienzsteigerung ist enorm. Doch mit der Autonomie wächst auch das Risiko.

Die neue Governance-Lücke

Die Kernfrage, die sich jedes Schweizer KMU und jeder Konzern jetzt stellen muss, lautet: Wie stellen wir sicher, dass diese autonomen Agenten innerhalb der strengen regulatorischen und unternehmerischen Leitplanken agieren? Was passiert, wenn ein KI-Agent eine Zahlung auslöst, die nicht konform ist, oder Kundendaten auf eine Weise modifiziert, die gegen das DSG verstösst?

Genau hier klafft eine neue Governance-Lücke. Traditionelle IT-Sicherheits- und Compliance-Frameworks sind auf menschliche Akteure oder regelbasierte Software ausgelegt. Sie sind oft nicht dafür gerüstet, die probabilistische und teils unvorhersehbare Natur von KI-Agenten zu überwachen und zu steuern.

Analysten von Gartner und McKinsey warnen bereits, dass Governance und Risikomanagement die grössten Hürden für die Skalierung von KI in Unternehmen darstellen. Die Technologie schreitet schneller voran als die Kontrollmechanismen.

Wie Plattformen reagieren: Ein Kontroll-Layer für KI

Die grossen Technologieanbieter haben diese Herausforderung erkannt und positionieren ihre Produkte entsprechend. Ihre jüngsten Ankündigungen sind weniger ein Feature-Feuerwerk als vielmehr der Versuch, eine Antwort auf die Governance-Frage zu geben:

• Snowflake treibt die Vision der «Agentic Enterprise» voran und betont, dass Aktionen von KI-Agenten auf einer einheitlichen, kontrollierten Datenplattform stattfinden müssen. Nur so könne sichergestellt werden, dass jede Aktion nachvollziehbar und im Einklang mit den Daten-Policies des Unternehmens steht.

• Microsoft erweitert seine Fabric-Plattform um «Microsoft IQ». Die Idee ist, allen KI-Agenten einen zentralen, freigegebenen Wissens- und Kontext-Layer zur Verfügung zu stellen. So soll verhindert werden, dass jeder Agent in einem eigenen Silo agiert und unkontrollierte «Schatten-Entscheidungen» trifft.

• Databricks fokussiert mit seinen neuen Mosaic-AI-Funktionen auf die sichere Erstellung und Verwaltung von «Compound AI Systems». Ein zentraler «AI Gateway» soll dabei als Schleuse dienen, um zu steuern, welche Modelle und Tools ein Agent überhaupt nutzen darf.

Diese Entwicklungen zeigen einen klaren Trend: Die Zukunft der Unternehmens-KI liegt nicht im isolierten Einsatz einzelner Modelle, sondern in deren sicherer Orchestrierung auf zentralen, governance-starken Plattformen.

Was das für Schweizer Unternehmen bedeutet

Für Führungskräfte in der Schweiz ergeben sich daraus konkrete Handlungsfelder:

1. Strategie vor Werkzeug: Bevor Sie Lizenzen für die neuesten KI-Agenten-Frameworks erwerben, müssen Sie Ihre Governance-Strategie definieren. Welche Prozesse dürfen automatisiert werden? Wo ist eine menschliche Freigabe zwingend erforderlich («Human-in-the-Loop»)?

1. Plattform-Entscheidung ist Governance-Entscheidung: Die Wahl Ihrer Daten- und KI-Plattform wird zur zentralen Weichenstellung für Ihre Risikokontrolle. Evaluieren Sie Anbieter nicht nur nach deren KI-Fähigkeiten, sondern vor allem nach den gebotenen Kontroll-, Audit- und Sicherheitsmechanismen. Der Schweizer Kontext (FINMA, DSG) ist hierbei entscheidend.

1. Zentralisierung statt Wildwuchs: Verhindern Sie, dass einzelne Abteilungen unkontrolliert eigene KI-Agenten entwickeln und einsetzen. Ein zentrales Kompetenzzentrum (Center of Excellence) kann helfen, Standards zu setzen, Wissen zu bündeln und die Einhaltung der Governance sicherzustellen.

1. Audit-Fähigkeit als K.o.-Kriterium: Jede von einem KI-Agenten getroffene Entscheidung und durchgeführte Aktion muss lückenlos protokollierbar und nachprüfbar sein. Dies ist nicht nur für interne Revisionen, sondern auch im Dialog mit Aufsichtsbehörden wie der FINMA unerlässlich.

Die Ära der autonomen KI-Agenten hat gerade erst begonnen. Sie bietet immense Chancen, erfordert aber auch eine neue Stufe der unternehmerischen Reife und Kontrolle. Wer jetzt die richtigen Weichen in Sachen Governance stellt, wird die Potenziale sicher heben können.