Inhalt5
Vor zwei Jahren wurde der autonome KI-Agent als selbstverständlicher nächster Schritt präsentiert: eine Software, die ein Ziel erhält, ihre Aktionen wählt und sie ausführt, ohne zu fragen. Seitdem sind die Führungskräfte, die es ausprobiert haben, vorsichtiger geworden. Die Umfragen zeigen es, und es wäre falsch, das als Scheitern zu lesen.
Ein Vertrauen, das nach den ersten Versuchen sinkt, ist oft ein Vertrauen, das realistisch wird. Es drängt dazu, das zu tun, was von Anfang an nötig gewesen wäre: die Kontrollen setzen, bevor man Autonomie gewährt.
Kurz gesagt
- In den von Capgemini befragten großen Unternehmen ist das Vertrauen in vollständig autonome Agenten binnen eines Jahres von 43 % auf 27 % gefallen.
- Laut der BCG erwarten 42 % der befragten Führungskräfte autonome Agenten bis 2030, aber nur 5 % haben die passenden Kontrollen.
- Die menschliche Freigabe der Ergebnisse von Agenten nimmt in großen US-Unternehmen stark zu.
- Für ein Team mit 20 bis 500 Personen wird Autonomie Aufgabe für Aufgabe eingestellt, mit einer benannten verantwortlichen Person und der Möglichkeit, Aktionen zurückzunehmen.
Was die Umfragen zeigen
Alle hier zitierten Umfragen betreffen große Unternehmen, oft mit mehr als einer Milliarde Dollar Umsatz, und stammen von Beratungshäusern, die KI-Beratung und -Integration verkaufen. Sie beschreiben kein Unternehmen mit 80 Mitarbeitenden. Sie beschreiben aber, was diejenigen erleben, die es als Erste versucht haben, und das ist lehrreich.
Capgemini, das KI-Beratung, -Integration und -Outsourcing verkauft, hat im April 2025 1.500 Führungskräfte von Organisationen mit mehr als einer Milliarde Dollar Umsatz in 14 Ländern, darunter Frankreich, befragt (Pressemitteilung von Capgemini).
der befragten Führungskräfte vertrauen vollständig autonomen Agenten, gegenüber 43 % ein Jahr zuvor
setzen KI-Agenten im großen Maßstab ein, und 14 % haben mit der Umsetzung begonnen
halten die Einbindung von Menschen in Agentenprozesse für kostenmäßig positiv oder neutral
Die letzte Zahl ist die interessanteste. Fast drei Viertel derselben Führungskräfte sagen, dass der Nutzen der menschlichen Aufsicht ihre Kosten übersteigt. Anders gesagt: Wer einen Menschen in die Schleife eingebunden hat, bereut es nicht.
In den USA weist die vierteljährliche Umfrage von KPMG, das Wirtschaftsprüfung, Beratung und KI-Dienste verkauft, in dieselbe Richtung: Im ersten Quartal 2026 verlangen 63 % der befragten großen Unternehmen eine menschliche Freigabe der Ergebnisse ihrer Agenten, gegenüber 22 % ein Jahr zuvor (KPMG US, 31. März 2026). Fragen und Stichproben ändern sich von Welle zu Welle, daher zeigt der Abstand eher einen Trend als eine genaue Messung. Im dritten Quartal hatten 49 % die Hochrisikofälle definiert, in denen der Agent nicht allein entscheidet (KPMG US, 24. September 2026).
Der Schritt in die Produktion bleibt selten: Laut Deloitte, das Beratung, Wirtschaftsprüfung und KI-Dienste verkauft, haben 11 % der befragten Organisationen Agenten in Produktion, und 38 % testen sie; die Stichprobe umfasst 500 US-Technologieverantwortliche (Deloitte, Tech Trends 2026).
Die Lücke zwischen Ehrgeiz und Kontrollen
Die BCG, die KI-Beratung verkauft, hat am 30. September 2026 eine Studie unter 1.330 Führungskräften veröffentlicht, von denen mehr als die Hälfte in Unternehmen mit über 5 Milliarden Dollar Umsatz arbeitet. Sie stellt fest, dass 42 % autonome Agenten bis 2030 erwarten, aber nur 5 % die passenden Kontrollen haben (BCG, The Formula for Agentic AI Value, S. 12 bis 15).
Dasselbe Dokument listet sechs Kontrollen auf, die es für nötig hält, geordnet nach ihrem Gewicht in seinem Modell: Gedächtnis und Kontext des Agenten, sein Umfang und seine Aufsicht, Bewertung und Rücknahme, Werkzeuge und Integration, eine benannte verantwortliche Person, dann Sicherheit, Audit-Spuren und Kostenschranken. Seine Regel passt in einen Satz: Jeder Agent, der zählt, muss eine benannte verantwortliche Person haben.
Das Wichtigste
Die Autonomie eines Agenten wird nicht verordnet. Sie wird verdient, Kontrolle für Kontrolle: eine verantwortliche Person, ein Umfang, eine Bewertung, eine mögliche Rücknahme.
Warum das eine gute Nachricht ist
Eine Technologie, die blindes Vertrauen weckt, endet schlecht: Man vertraut ihr zu viel zu schnell an, und der erste ernste Vorfall bringt alles zum Stillstand. Eine Technologie, deren Grenzen man misst, setzt sich langsamer durch, aber sie bleibt.
Das sinkende Vertrauen zwingt zu drei Fragen, die man sich von Anfang an hätte stellen sollen. Was darf der Agent tun, ohne zu fragen? Wer steht für das ein, was er tut? Wie nimmt man etwas zurück, wenn er sich irrt? Diese Fragen sind nicht KI-spezifisch: Man stellt sie jedem neuen Mitarbeiter. Ein Agent ist weder mehr noch weniger als eine ausführende Kraft, an die man delegiert, und Delegation wird geregelt.
Diese Vorsicht nimmt den Teams nichts von ihrer Arbeit. Sie verlagert sie: Die Menschen verbringen weniger Zeit mit wiederkehrenden Aufgaben und mehr damit, freizugeben, abzuwägen und die Fälle zu bearbeiten, die der Agent nicht entscheiden kann. Ihr Urteil wird zur Kontrolle.
Autonomie Prozess für Prozess einstellen
Die richtige Frage ist nicht „Braucht es autonome Agenten?“, sondern „Für welche Aufgabe, mit welchem Grad an Autonomie?“. Die Antwort ändert sich von Prozess zu Prozess.
Drei Autonomiestufen für dieselbe Aufgabe
- Der Agent schlägt vor
Er bereitet einen Entwurf vor, eine Person entscheidet und handelt.
- Der Agent handelt unter Freigabe
Er führt aus, was sicher ist, und legt einer Person vor, was riskant ist.
- Der Agent handelt allein
In einem engen Umfang, mit Spuren und Rücknahmemöglichkeit.
Das Sortieren eingehender E-Mails kann schnell auf die dritte Stufe gelangen: Ein Fehler lässt sich mit einem Klick korrigieren. Eine Buchung, eine Überweisung oder eine an einen Kunden gesendete Nachricht bleiben auf der zweiten Stufe, solange sich der Agent nicht bewährt hat, und manchmal für immer. Viele Aufgaben brauchen schließlich gar keine KI: Eine feste Regel genügt, und sie irrt sich nie zweimal auf dieselbe Weise. Darüber sprechen wir in unserem Artikel über Automatisierung ohne KI.
Aus der Praxis
Unser Ausgabenagent bucht nichts allein
Unser Agent für die Erfassung von Ausgaben läuft seit Juli 2026 in Produktion auf Telegram. Er liest das Foto eines Belegs und entnimmt die Angaben, schreibt aber erst nach einer menschlichen Freigabe ins Buchhaltungssystem. Er steht auf der zweiten Stufe und wird dort bleiben, solange ein Buchungsfehler mehr kostet als der Klick zur Freigabe.
Konkret, für ein Team mit 20 bis 500 Personen:
- Einen Prozess wählen, keinen Agenten.
Eine präzise, häufige Aufgabe, deren Ergebnis man messen kann.
- Eine verantwortliche Person benennen.
Jemand, der für das einsteht, was der Agent tut, und ihn stoppen kann.
- Den Umfang aufschreiben.
Was der Agent lesen darf, was er allein tun darf, was er vorlegen muss.
- Die Rücknahme vorsehen.
Jede Aktion hinterlässt eine Spur, und ein Fehler lässt sich rückgängig machen, ohne alles neu aufzubauen.
- Eine Stufe höher gehen, wenn die Zahlen es erlauben.
Nach einigen Wochen Freigaben ohne Korrektur, nicht vorher.
Um zu verstehen, was ein Agent wirklich ist und was nicht, beginnen Sie mit unserem Definitionsartikel. Was sich mit einem Agenten ändert, der mehrere Stunden am Stück arbeitet, lesen Sie in unserer Analyse über stundenlang autonome Agenten. Und wenn Sie Ihre ersten Prozesse mit diesen Schutzvorkehrungen einrichten möchten, geht unser Automatisierungsangebot von einem gemessenen Prozess aus, mit menschlicher Freigabe dort, wo sie zählt; unsere Telegram- und WhatsApp-Bots sind oft der Einstieg.
Häufige Fragen
Was ist ein autonomer KI-Agent?
Eine Software, die ein Ziel erhält, die Schritte selbst wählt und sie mit Werkzeugen ausführt (eine Nachricht senden, in eine Software schreiben, Daten abfragen), ohne bei jedem Schritt eine Freigabe einzuholen. Ihr Autonomiegrad lässt sich einstellen: Sie kann auch nur vorschlagen oder unter Freigabe handeln.
Warum vertrauen Führungskräfte autonomen Agenten weniger?
Weil die ersten Einführungen ihre Grenzen gezeigt haben: schwer erkennbare Fehler, mitunter schwer erklärbares Verhalten, fehlende Kontrollen. Die Umfragen von Capgemini und der BCG betreffen große Unternehmen, aber die Lehre gilt für jede Größe: Ein Agent ohne verantwortliche Person und ohne schriftlichen Umfang beunruhigt zu Recht.
Braucht es immer eine menschliche Freigabe?
Nein, nicht für alles. Eine Aufgabe, deren Fehler sich leicht korrigieren lässt, kann in die Autonomie übergehen. Eine kostspielige oder unumkehrbare Aktion, etwa eine Zahlung oder eine Nachricht an einen Kunden, behält eine Freigabe, solange sich der Agent nicht bewährt hat, manchmal dauerhaft.
Womit beginnt man bei KI-Agenten?
Mit einem präzisen und messbaren Prozess, einer benannten verantwortlichen Person und einem schriftlichen Umfang. Der Agent beginnt mit Vorschlägen, handelt dann unter Freigabe und gewinnt erst angesichts der über einige Wochen gemessenen Ergebnisse an Autonomie.
Quellen
- Pressemitteilung von Capgemini (neuer Tab)capgemini.com
- KPMG US, 31. März 2026 (neuer Tab)kpmg.com
- KPMG US, 24. September 2026 (neuer Tab)kpmg.com
- Deloitte, Tech Trends 2026 (neuer Tab)deloitte.com
- BCG, The Formula for Agentic AI Value, S. 12 bis 15 (neuer Tab)web-assets.bcg.com
Jim · Gründer von Brain Plus AI
Ebenfalls lesenswert zu automatisierung und bots
Auswählen und kalkulieren9 Min.
Automatisierung ohne KI: wann eine Regel genügt
Nicht jede Automatisierung braucht KI. Eine feste Regel kostet weniger und liefert immer dasselbe Ergebnis: So erkennen Sie die Schritte, an denen KI sich wirklich auszahlt, und die, an denen sie nur Kosten verursacht.
Verstehen5 Min.
Stundenlang autonomer KI-Agent: was sich für ein Team ändert
Google Cloud hat am 8. Oktober 2026 einen Agenten vorgestellt, der ein Ziel erhält, eigene Unteragenten erzeugt und stundenlang läuft. Die Frage ist nicht mehr, was die KI kann, sondern wer sie ist, was sie anfassen darf und wer ihre Arbeit freigibt.
Praxisleitfaden12 Min.
KI-Governance im Unternehmen: Wer hat Zugriff auf was?
Ein KI-Assistent liest, was Ihre Zugriffsrechte ihn lesen lassen, Freigabefehler eingeschlossen. So teilen Sie Ihre Wissensbasen nach Abteilungen auf, behalten eine gemeinsame Grundlage und entscheiden, wer in das gemeinsame Gedächtnis schreibt.