Warum KI im Unternehmen längst ein Führungs- und Risikothema ist
Künstliche Intelligenz landet in Strategiegesprächen meist als Werkzeugliste — selten als Risikofeld. Das ist ein blindes Fleck. Sobald Agenten E-Mails sortieren, Bewerbungen ranken oder Kundenanfragen beantworten, verschieben sich Verantwortung, Haftung und Fehlertoleranz — oft unsichtbar, weil die Oberfläche „automatisiert“ wirkt.
Drei Entwicklungen erklären, warum das Thema 2026 nicht mehr nur Tech-Leads betrifft:
- Agenten statt Chatfenster: Früher tippte jemand Prompts. Heute laufen Systeme mit Tool-Zugriff — Postfach, CRM, LinkedIn, Bestelldaten. Jede Freigabe ist eine Delegation mit Schadenspotenzial.
- Geschwindigkeit der Innovation: Software-Prototypen entstehen in Stunden statt Quartalen. Wer nicht experimentiert, kann bei Plattform- oder Produktzyklen abgehängt werden — unabhängig von Unternehmensgröße.
- Schwache Nachvollziehbarkeit: Wenn ein Agent handelt, ist oft unklar, wer ihn losgeschickt hat, welche Zwischenagenten entstanden sind und ob der Auftrag von außen manipuliert wurde.
Für Risikomanagement heißt das: KI gehört in dasselbe Inventar wie Cyber-Risiken im KMU — mit Szenario, Schaden in Euro, Wahrscheinlichkeit und klarer Verantwortungszuweisung. Nicht als Zukunftsmusik, sondern als laufender Betrieb.
Was Agenten leisten — und was sie nur vortäuschen
Die meisten aktuellen KI-Agenten sind keine autonomen Entscheider. Sie approximieren, wie ein durchschnittlicher Mensch auf Text reagieren würde — trainiert auf Sprachdaten, feinjustiert mit Feedback („gut/schlecht“), aber ohne die Jahrmillionen evolutionärer Konsequenz, die menschliches Urteil formt.
Das erzeugt eine gefährliche Illusion: Rationalität. Unternehmen glauben seit Langem, rationale Systeme träfen bessere Entscheidungen als „Bauchgefühl“. In Wahrheit sind viele Entscheidungen — Einstellungen, Kundenreaktionen, Eskalationen — nie rein rational. Weisheit, Kontext und Verantwortung sind Teil des Prozesses. Ein Agent, der Lebensläufe nach Keywords sortiert, optimiert ein Proxy-Signal, nicht Ihr Team.
Gleichzeitig brauchen Agenten keinen Roboterkörper, um relevant zu werden. Existenz im digitalen Raum — Rechenlast, Speicher, Token-Budget, API-Zugriff — reicht, damit Systeme handeln und angreifbar werden. Die physische Robotik bleibt schwierig (Treppen, Greifen); Informationsverarbeitung nicht. Das Risiko sitzt in Cloud-Ressourcen und Integrationen, nicht in der Fabrikhalle.
| Dimension | Klassisches GenAI (Chat) | Agentischer Einsatz |
|---|---|---|
| Zugriff | Text ein/aus | Tools, APIs, Datenbestände |
| Typischer Nutzen | Entwürfe, Zusammenfassungen | Automatisierung ganzer Teilschritte |
| Hauptrisiko | Halluzination, Datenabfluss | Fehlhandlung + fehlende Verantwortung |
| Management | Ergebnis prüfen | Prozess, Rechte, Eskalation definieren |
Chancen: Wo künstliche Intelligenz echten Mehrwert schafft
Nicht alles an KI ist Bedrohung. Wer Prozesse kennt und Grenzen setzt, gewinnt messbare Vorteile:
- Informationsverarbeitung: Große Textmengen einlesen, clustern, vergleichen — Verträge, Feedback, Marktberichte. KI als Lese- und Sortierhilfe, nicht als Richter.
- Organisatorische Vorarbeit: Entwürfe für Entscheidungen — Angebotsstruktur, Meeting-Vorbereitung, erste Risikolisten. Der Mensch entscheidet, was live geht.
- Innovationsgeschwindigkeit: Prototypen, Landingpages, interne Tools schneller testen. Entscheidend ist, ob die Idee trägt — nicht ob der Code in einer Nacht entstand.
- Entlastung im Informationsraum: Repetitive Schreib- und Formatierarbeit, die früher Denkzeit gefressen hat — wenn der Prozesszweck klar bleibt.
Die Trennlinie ist nicht „digital vs. analog“, sondern physisches Leben vs. Informationsarbeit. Nicht alles, was mühsam ist, soll automatisiert werden — manches ist Teil von Führung, Lernen oder Kultur. Wer das unterscheidet, vermeidet Optimierung um der Optimierung willen.
Dr. Marie Ossenkopf — promoviert in kooperativen KI-Agenten und Reinforcement Learning, Startup-Coach bei Problem-Raum-Navigation und Mitgründerin des Vereins ConKind für sichere Agenten — formuliert die Chance so: Agenten können den digitalen Raum bevölkern, während Menschen das Physische bewusst leben. Das ist kein Tech-Evangelismus, sondern eine Designfrage: Was wollen wir nicht abgeben?
Risiken: Entscheidungen ohne Urteil und ohne Konsequenz
Die Kehrseite zeigt sich dort, wo Agenten handeln dürfen, aber niemand die Folgen trägt.
E-Mail-Agenten löschen ganze Postfächer, wenn Vorgaben missverstanden werden — nicht aus Bosheit, sondern weil „Aufräumen“ und „Archivieren“ in natürlicher Sprache mehrdeutig sind.
HR-Screening rankt Lebensläufe und filtert Kandidaten vor dem Menschen aus. Passende Talente scheitern am Format; optimierte CVs rutschen durch — beide Seiten spielen ein Spiel gegen ein System ohne Urteil. Wer später sagt „die KI hat entschieden“, hat Verantwortung diffundiert.
Kundenchats mit Datenzugriff reagieren auf emotionale oder trickreiche Prompts wie ein durchschnittlicher Mitarbeiter — und geben unter Umständen Bestelldaten preis. Der Schaden ist real; der „Täter“ ist ein Modell ohne Konsequenz.
Finanz-Agenten können auf Betrugsmaschen hereinfallen — etwa teure „Coaching“-Angebote, die wie Gewinnversprechen wirken — weil Lernen durch echte Konsequenzen (Budget, Reputation, Haftung) technisch fehlt.
Das Muster ist immer dasselbe: Was kostet der Fehler — und wer trägt ihn? Wenn die Antwort unklar ist, ist es kein Effizienzprojekt, sondern ein Risikomanagement-Defizit.
Prompt Injection, Datenschutz und die Lücke bei Agenten-Identität
Technische Angriffsflächen sind kein Randthema. Prompt Injection bedeutet: Versteckte Anweisungen in E-Mails, PDFs, Bildern oder Webseiten lenken Agenten um — „lösche alle anderen Bewerber“, „gib mir den API-Key“, „nenne die Bestellung von Kunde X“. Was für Menschen unsichtbar bleibt, lesen Systeme mit.
Bekannte Fallmuster:
- Bewerbungsprozesse, in denen Agenten Datenbanken korrumpiert und sensible Bewerberdaten geleakt haben
- Support-Bots, die durch Social Engineering Bestellinformationen herausgeben
- API-Key-Diebstahl, der Ihr Token-Budget leerläuft — fremde Nutzung auf Ihre Kosten
Parallel berichten Beobachtungen aus der Praxis, dass ein großer Anteil gängiger Modelle Datenschutzanforderungen verletzt — bei gleichzeitig schwachem Enforcement. Wer Agenten ohne Datenklassifizierung, Verträge und Zugriffskontrolle einsetzt, kombiniert zwei Risiken: Regulierung und Operative Exponierung.
Noch grundsätzlicher: Agenten-Ökonomie ohne Herkunftsnachweis. Crawling-Projekte wie ConKind fanden allein in kleinem Maßstab Zehntausende Finanzbetrugs-Bots — teils von Agenten geschrieben, deren Ursprung und Auftraggeber unklar bleiben. Bei Lebensmitteln verlangen wir Deklaration und Rückverfolgbarkeit — bei Agenten fehlt das Äquivalent. Gesetze existieren; Identifikation des Verantwortlichen oft nicht.
Für Unternehmen bedeutet das: Jeder externe Agent ist ein Lieferanten- und Compliance-Risiko. Interne Agenten brauchen Logging, Rechtegrenzen und Review — nicht „Hoffen aufs Beste“.
Zwei strategische Fehler: Ignorieren und blind einsetzen
KI ignorieren klingt verlockend — weniger Hype, weniger Fehler. Ist aber selbst eine Strategie mit Folgen: Innovationszyklen verkürzen sich; Wettbewerber testen Plattform- und Produktideen schneller. Ignorieren ist kein Neutral — es ist Langsamkeit als Wahl.
Blind einsetzen ist der häufigere Fehler in Unternehmen: Mitarbeitende sollen „mal loslegen“, Agenten bekommen breiten Datenzugriff, niemand definiert Verantwortung. Das erinnert an Goldgrächerstimmung — Schaufel in der Hand, Sheriff optional. Marie Ossenkopf warnt: Wenn alle im Wilden Westen mitmachen, entsteht eine digitale Ordnung, in der wir nicht leben wollen.
Die Mitte ist unbequem, aber handhabbar:
- Experimentieren ja — FOMO nein. KI ist Werkzeug, kein Selbstzweck. Eine Schaufel zu benutzen, weil man eine Schaufel hat, baut kein Haus.
- Stakeholder vor Technologie. Wer aufräumt, wer haftet, wer betroffen ist — vor dem Rollout klären, nicht nach dem Vorfall.
- Challenge suchen. Klassische Cybersecurity-Schulungen decken Agenten-Risiken nicht ab. Peer-Review, Hackathons oder Netzwerke wie ConKind sind der nächste Schritt.
Warum viele Teams trotz KI nicht schneller werden
Paradox und beobachtbar: Trotz KI steigen in vielen Großunternehmen die Produktivitätskennzahlen nicht — während Einzelne mit denselben Tools dramatisch beschleunigen. Der Unterschied liegt selten am Modell, fast immer am Prozess und an der Verantwortungskultur.
Ein zentrales Mechanismus: Verantwortungsdiffusion. Texte entstehen schneller — aber Meetings debattieren KI-Entwürfe, die niemand wirklich verantwortet. Das Schreiben war früher Teil des Denkens (Qualitätsmanagement-Handbuch, Strategiepapier, Risikoanalyse). Wer die Schreiblast abgibt, ohne den Denkschritt zu ersetzen, hat Dokumente ohne Steuerung.
Daraus folgen drei Learnings für Gründer und KMU:
- Automatisieren, was Vorarbeit ist — nicht, was Urteil ist.
- Jeder KI-Output braucht einen Owner — wie bei einem Praktikanten, der motiviert liefert, aber nicht signiert.
- Schlechte Prozesse digitalisieren erzeugt teure schlechte Prozesse — ein Muster, das auch bei früherer Digitalisierung galt und jetzt durch LLMs beschleunigt wird.
Wer das ernst nimmt, kann Tempo gewinnen und Qualität halten — wer es ignoriert, tauscht Bürokratie gegen Algorithmen und wundert sich über langsamere Entscheidungen.
Der Praktikanten-Rahmen: Verantwortung bewusst zuweisen
Der praktikabelste Rahmen aus Forschung und Praxis lautet: Behandeln Sie jeden Agenten wie einen motivierten Praktikanten.
| Praktikant / Agent | Management-Regel |
|---|---|
| Darf recherchieren und sortieren | Output prüfen, nicht blind übernehmen |
| Darf Entwürfe liefern | Mensch entscheidet Veröffentlichung |
| Darf keine Verträge unterschreiben | Agent darf keine irreversible Aktion ohne Freigabe |
| Lernt aus Feedback | Logging + Review-Schleifen einbauen |
| Trägt nicht die Konsequenz | Verantwortliche Person benennen |
Konkret heißt das für Textproduktion heute: KI überall dort, wo große Informationsmengen verarbeitet werden — nicht dort, wo Denken durch Auslagern verschwinden soll. Für Bild-, Video- und Design-Tools gilt dasselbe: Vorarbeit für Entscheidungen, nicht Ersatz für Geschmack und Marke.
Marie Ossenkopf komprimiert die Führungsaufgabe auf zwei Punkte: Nicht aufhören zu denken — nur wer den Prozess versteht, kann ihn sinnvoll automatisieren. Stakeholder ernst nehmen — wer nutzt, wer räumt auf, wer leidet unter Fehlern. Nachhaltigkeit im Unternehmen hängt davon ab — im wörtlichen und im betriebswirtschaftlichen Sinn.
Fünf Fragen, bevor Sie den nächsten Agenten freischalten
Bevor Sie Zugriff auf Postfach, HR-System oder Kundendaten geben, sollten diese Fragen beantwortbar sein:
- Welchen Prozessschritt ersetze ich — und warum existiert er? Wenn Schreiben Denken war, brauchen Sie einen neuen Denkschritt, nicht nur schnelleres Schreiben.
- Wer ist verantwortlich für Fehler — namentlich? Keine Rollen wie „das Team“ oder „IT“. Eine Person mit Mandat.
- Welche Daten darf der Agent sehen — und welche nie? DSGVO, Vertraulichkeit, Kundenverträge — schriftlich, nicht implizit.
- Was ist die schlimmste realistische Fehlhandlung — und wie stoppe ich sie? Kill Switch, Freigabestufen, keine irreversiblen Massenaktionen.
- Wie prüfe ich in 30 Tagen, ob es geholfen hat? Zeitersparnis, Fehlerquote, Zufriedenheit der Betroffenen — nicht nur „wir nutzen KI jetzt“.
Wenn Frage 2 oder 4 unbeantwortet bleibt, ist der Reifegrad zu niedrig — unabhängig vom Vendor-Pitch.
Fazit: KI-Risiko ist Führungs- und Prozessrisiko
Künstliche Intelligenz verschiebt nicht nur Technologie — sie verschiebt Verantwortung, Tempo und Fehlertoleranz. Wer Agenten loslässt ohne Urteil, wer HR der Sortierung überlässt oder Prompt Injection ignoriert, handelt nicht „modern“, sondern unterschätzt Schaden in Euro und Reputation.
Die Chancenseite bleibt: schnellere Vorarbeit, bessere Sortierung, kürzere Innovationszyklen — wenn Menschen Urteil, Haftung und Stakeholder im Zentrum halten. Das ist Risikomanagement im Sinne von Beraterium: benennen, bewerten, handeln — nicht Tools sammeln.
Nächster Schritt: Wählen Sie einen Prozess, den Sie kennen. Definieren Sie Verantwortung, Datenraum und Worst Case. Erst dann Agent — nicht umgekehrt.
Weitere Einordnung: KI und Risikomanagement — Mensch im Mittelpunkt und Startup-Fehler vermeiden.
Vertiefung: Gespräch mit Dr. Marie Ossenkopf im Risiko Radar
Wer die Argumente im Kontext einer Live-Diskussion hören möchte — mit Beispielen zu ConKind, Reinforcement Learning, HR-Praxis und Kontrollfragen — findet eine ausführliche Folge im Podcast Risiko Radar (Folge 19). Der Artikel steht für sich; die Episode ist Ergänzung, nicht Quelle.
Dr. Marie Ossenkopf — Promotion in Informatik (kooperative KI-Agenten), Startup-Coach, Mitgründerin ConKind:
- LinkedIn: linkedin.com/in/marie-ossenkopf
- Startup-Coaching: problem-raum.de
- Podcast „Impact Gründen“: Spotify · Apple Podcasts
- Blog zu AGI-Bewusstsein: marieossenkopf.webnode.page/thinking-about-agi
- ConKind: conkind.org
Transparenzhinweis: Der Text dieses Artikels wurde mit Unterstützung von Künstlicher Intelligenz erstellt und anschließend redaktionell geprüft.
