Künstliche Intelligenz zwischen Innovation und Verantwortung: Chancen nutzen, Risiken beherrschen

Kaum eine Technologie hat in den letzten Jahren so viel Euphorie und gleichzeitig so viel Unsicherheit ausgelöst wie generative künstliche Intelligenz. Sprachmodelle schreiben Code, fassen Verträge zusammen, moderieren Meetings und unterstützen Fachexpert*innen bei komplexen Analysen. Gleichzeitig häufen sich die Schlagzeilen über Datenlecks, Fehlentscheidungen auf Basis halluzinierter Fakten und Deepfake-Betrug in Millionenhöhe. Die Frage ist längst nicht mehr, ob Unternehmen KI einsetzen, sondern wie sie die zugehörigen Risiken meistern. 

Eine zentrale Erkenntnis aus Forschung und Praxis lautet: KI wird nicht allein durch die Technologie zum Wettbewerbsvorteil, sondern durch die Fähigkeit eines Unternehmens, Chancen systematisch zu nutzen und Risiken professionell zu steuern. Wer sich nur auf das Modell konzentriert und die Organisation vernachlässigt, wird enttäuscht werden. Wer Risiken in den Vordergrund stellt und nichts ausprobiert, vergibt wertvolle Chancen. Beides ist in der Praxis zu beobachten, selten gelingt der Mittelweg.

Chancen: Was Unternehmen heute tatsächlich gewinnen

Produktivität ist der unbestrittene Nutzen von KI. Die Automatisierung repetitiver Tätigkeiten, intelligente Assistenzsysteme und eine schnellere Informationsverarbeitung sind in vielen Unternehmen Teil des Alltags. Eine grossangelegte Google-Studie zu KI-gestützter Softwareentwicklung (Brown, A., D'Angelo, S. et al., 2024) kommt zum Schluss, dass die Akzeptanz von KI-Vorschlägen stark vom Kontext abhängt. Bei Tests und kleinen Änderungen ist sie niedriger als bei grösseren Aufgaben. Vertrauen entsteht vor allem durch die Qualität der Modelle, transparente Konfidenzwerte und die Möglichkeit zur Personalisierung. Rund 46 Prozent der befragten 33'000 Entwickler*innen misstrauten der Genauigkeit von GenAI-Tools zumindest teilweise. Produktivitätsgewinne sind also realistisch, aber nicht automatisch. Sie werden dort realisiert, wo ein Unternehmen Vertrauen schafft und Kontrolle ermöglicht.

Wissensmanagement ist der zweite grosse Hebel. Enterprise Knowledge Assistants, die auf internen Dokumenten basieren, Dokumentenanalyse und intelligente Suche verändern, wie Fachexpert*innen arbeiten. Entscheidend ist hier ein Prinzip, das in der KI-Agents-Forschung als Best Practice gilt: Jede Aussage eines Agents sollte auf eine Quelle rückführbar sein. Ein Agent, der Trends und Risiken zu einem Unternehmen analysiert, ist nur dann nützlich, wenn er auch transparent macht, wenn eine Frage aus den verfügbaren Daten keine Antwort zulässt. Genau dieses «wissen, wann man aufhören muss» unterscheidet einen produktiven Assistenten von einer Blackbox.

Neue Geschäftsmodelle entstehen dort, wo Unternehmen KI nicht nur nutzen, sondern in ihr Angebot integrieren. Ein Fallbeispiel aus dem portugiesischen Rechtswesen verdeutlicht das Muster: Eine auf Verbraucherrecht spezialisierte Plattform kombiniert ein fein abgestimmtes Sprachmodell mit einem kuratierten Fall-Datensatz und verkauft die daraus entstehende Lösung als Abonnement an Schlichtungsstellen. Der eigentliche Wert liegt nicht im Modell selbst, das über eine API verfügbar ist, sondern in der Domänenexpertise, der Datenbasis und der Integration in bestehende Arbeitsprozesse.

In Gruppenprozessen zeigt sich ein drittes, weniger offensichtliches Potenzial: KI-Moderation kann festgefahrene Diskussionen öffnen, ohne die Eigendynamik einer Gruppe zu ersticken. Eine Studie zu KI-gestützter Moderation von Brainstorming-Sitzungen (Halfar B., 2026) an der Universität Zürich zeigt, dass unstrukturierte Diskussionen häufig an der ersten genannten Idee «kleben bleiben». Ein Muster, das ein unaufdringlicher KI-Moderator gezielt aufbrechen kann.

Risiken: Wo die gleiche Technologie zum Problem wird

Wer nur die Chancenseite liest, erhält ein falsches Bild. Die Risiken sind real, in der Praxis gut dokumentiert und verdienen dieselbe Aufmerksamkeit.

Qualität und Verlässlichkeit bleiben ein strukturelles Problem, kein vorübergehendes. Der DORA-Report 2026 zeigt, dass Organisationen mit einer breiten Einführung von KI-Tools zwar einen Rückgang der Delivery-Stabilität um 7,2 Prozent verzeichneten, mit einem entscheidenden Unterschied: «gesunde» Organisationen mit starken organisatorischen und technischen KI-Praktiken meldeten 50 Prozent weniger kundenrelevante Incidents, «ungesunde» Organisationen mit weniger ausgereiften Praktiken dagegen 200 Prozent mehr. Die zentrale Erkenntnis lautet: KI verstärkt vorhandene organisatorische Reife oder Schwäche, sie schafft sie nicht aus dem Nichts. Nicht-Determinismus und fehlende Erklärbarkeit bleiben dabei technische Konstanten, mit denen jedes Team umgehen muss.

Sicherheitsrisiken sind konkreter geworden, als viele annehmen. Zwei Entwicklungen verdienen besondere Beachtung:

Erstens sind synthetische Video- und Audioinhalte inzwischen technisch nicht mehr zuverlässig von realen zu unterscheiden. Ein pragmatischer Lösungsansatz liegt weniger in der technischen Erkennung als in organisatorischem Verhalten: Plausibilitätsprüfung und Kontext-Checks bei sensiblen Transaktionen, unabhängig vom Kommunikationskanal.

Zweitens sinkt die Einstiegshürde für Missbrauch generell: Anthropic dokumentierte 2026 im Rahmen von Sicherheitsforschung, dass fortgeschrittene Modelle in der Lage sind, tausende Zero-Day-Schwachstellen zu identifizieren. Diese «Demokratisierung von Expertise» wirkt in beide Richtungen: Sie senkt die Hürde, Gutes zu tun, ebenso wie die Hürde, Schaden anzurichten. Red-Teaming, die systematische Prüfung von Modellen auf Missbrauchspotenzial vor dem produktiven Einsatz ist deshalb kein «Nice-to-have», sondern in vielen regulierten Kontexten Voraussetzung.

Bei generativem Code treffen rechtliche und Sicherheitsrisiken aufeinander. Studien zur KI-gestützten Softwareentwicklung nennen drei wiederkehrende Problemfelder: die versehentliche Übernahme urheberrechtlich geschützten oder lizenzinkompatiblen Codes, die Offenlegung von API-Schlüssel oder internem geistigem Eigentum, sowie die generelle Gefahr, KI-generierten Output ungeprüft zu übernehmen. Aufgrund des nicht-deterministischen Verhaltens generativer Modelle bleibt eine sorgfältige Validierung des Outputs unverzichtbar.

Ob Unternehmen diese Risiken beherrschen, entscheidet sich jedoch häufig weniger an der Technologie, sondern an der Organisation. Eine Meta-Studie zu KI-Integration in Organisationen (Bankins et al., 2024) identifiziert vier Faktoren, die für eine erfolgreiche KI-Integration besonders relevant sind:

• eine Kultur, die Experimentieren ermöglicht und Scheitern nicht sanktioniert;

• sichtbare Führungsunterstützung;

• angepasste HR-Praktiken bei Rekrutierung, Training und Anreizen;

• und eine Organisationsarchitektur, in der Rollen, Prozesse und Datenflüsse gezielt auf den KI-Einsatz ausgerichtet werden.

Fehlt einer dieser Pfeiler, bleibt KI-Adoption oberflächlich, unabhängig davon, wie leistungsfähig das eingesetzte Modell ist.

Generative KI und Agents: Von der Textgenerierung zum zielgerichteten Handeln

«KI-Agent» ist zum Sammelbegriff für unterschiedliche Systeme von Chatbot-Erweiterung bis hin zu weitgehend autonomen Anwendungen geworden. Eine Unschärfe, die für Unternehmen problematisch ist, weil sich Risiko und Nutzen mit dem Autonomiegrad grundlegend verändern. Der entscheidende Unterschied zu klassischer generativer KI liegt nicht in der Modellgrösse, sondern in der Funktion. Anders als ein einzelner Prompt verfolgt ein Agent ein Ziel über mehrere Schritte hinweg: Er beobachtet, plant, handelt, bewertet das Ergebnis und passt sein Vorgehen laufend an. Ein Compliance-Monitoring-Agent im Finanzsektor kann beispielsweise Transaktionen kontinuierlich überwachen, bei Auffälligkeiten die Beweislage analysieren und Fälle nach Dringlichkeit priorisieren. Aufgaben, für die ein Team Tage benötigen würde, erledigt der Agent in Minuten. Der eigentliche Wert liegt dabei nicht in der Geschwindigkeit, sondern darin, dass Fachexpert*innen sich auf die Beurteilung konzentrieren können, statt Zeit mit dem Zusammentragen der Grundlagen zu verlieren.

Sicherheit ist bei Agenten kein Nebenthema, sondern der eigentliche Bruch mit klassischer Software. Ein Agent löst pro Anfrage oft fünf bis zwanzig einzelne Modellaufrufe aus. Jeder zusätzliche Schritt erhöht das Risiko für Fehler, die sich unbemerkt akkumulieren und bringt eine Kosten- und Latenzstruktur mit sich, die ein einzelner Prompt schlicht nicht kennt. Besonders kritisch ist jedoch die sogenannte «lethal trifecta»: Sobald ein Agent gleichzeitig Zugriff auf private Daten hat, mit nicht vertrauenswürdigen Inhalten in Berührung kommt und autonom Aktionen ausführt, entsteht ein Angriffsvektor. Bereits heute gibt es reale Vorfälle, bei denen Prompt-Injections über gefälschte Systemnachrichten oder manipulierte Dateien aus der Wissensbasis sich unbemerkt einnisteten und den Agenten auch in späteren Sitzungen weiter steuerten. Die Konsequenz für Unternehmen ist klar: Autonomie verdient man sich mit Evidenz, nicht mit Zuversicht. Ein Agent sollte erst dann eigenständig handeln dürfen, wenn er nachweislich auch feindseligen, nicht nur wohlwollenden Eingaben standhält. Bei irreversiblen Handlungen bleibt die menschliche Freigabe jedoch unverzichtbar.

Governance ist kein Bremsklotz, sondern Voraussetzung

Ein Muster aus der Forschung zu autonomen und teilautonomen Systemen lässt sich direkt auf den Einsatz von KI in Unternehmen übertragen: Auch die fortschrittlichste automatisierte Entscheidung braucht weiterhin Antworten auf vier Fragen:

1. Was kann verändert werden?

2. Wer darf es verändern?

3. Welchem Prozess folgen die Änderungen?

4. Wer trägt das Risiko, wenn die Automatisierung versagt?

Diese Fragen verschwinden nicht, weil ein System auf KI basiert. Im Gegenteil: Sie müssen noch klarer beantwortet werden als bei klassischer Software, weil KI-Entscheidungen oft weniger nachvollziehbar sind.

Für Schweizer Unternehmen kommt eine weitere Dimension hinzu: Neben dem Schweizer Datenschutzrecht entwickelt sich der EU AI Act zum faktischen Standard für Unternehmen, die auch im EU-Raum tätig sind. Gleichzeitig gelten insbesondere in Branchen wie Finanzdienstleistungen, Gesundheitswesen und öffentlicher Verwaltung ein grundsätzlich höheres Anspruchsniveau an Datenhoheit. Das ist jedoch nicht primär ein Standortnachteil. Unternehmen, die glaubwürdig nachweisen können, dass sie KI kontrolliert und nachvollziehbar einsetzen, verschaffen sich gerade in regulierten Branchen einen Vertrauensvorsprung gegenüber Organisationen, die auf schnelle, aber unkontrollierte Einführung setzen.

Schweizer Perspektive: KI zwischen Innovation und Datensouveränität

Der Schweizer Markt stellt eigene, teils höhere Anforderungen an Datenschutz und Sicherheit. Was das Innovationstempo bremsen kann, entwickelt sich strategisch genutzt zum Differenzierungsmerkmal. Für Unternehmen mit sensiblen Daten, insbesondere in der Finanzbrache-, im Versicherungswesen oder Gesundheitssektor und in der öffentlichen Verwaltung, gewinnt die Frage an Bedeutung, wo und wie Daten verarbeitet werden. Entsprechend wachsen lokale Anbieter und Schweizer Cloud-Infrastrukturen als Ergänzung zu globalen Hyperscalern. Viele Schweizer Unternehmen verfolgen dabei einen pragmatischen und hybriden Ansatz zwischen Innovationsgeschwindigkeit und Kontrolle: Weniger kritische Anwendungen werden auf globalen Plattformen betrieben, während sensible Daten in lokalen Umgebungen verbleiben.

Fazit: Es gibt keine Blaupause, nur eine Haltung

Nicht jede Organisation sollte dieselbe KI-Strategie verfolgen. Ein Unternehmen mit hoher Risikotoleranz und geringem regulatorischem Druck kann schneller experimentieren als eine Bank oder ein Spital. Die Chancen und Risiken entstehen aus denselben Eigenschaften der Technologie: ihrer Skalierbarkeit, ihrer Zugänglichkeit und ihrer Fähigkeit, aus grossen Datenmengen Muster abzuleiten. Wer die Chancen nutzen will, muss deshalb auch die Risiken mitdenken.

Die Unternehmen, die in den nächsten Jahren einen Wettbewerbsvorteil aus KI erzielen, werden vermutlich nicht jene mit dem grössten Modellzugang sein. Es werden die sein, die früh verstanden haben, dass Governance, Organisationskultur und eine ehrliche Fehlerkultur den grösseren Teil der Arbeit ausmachen. Die Technologie selbst ist mittlerweile fast überall gleich gut verfügbar.