Die Rolle des Menschen neben der KI: urteilen können

Die Frage wird oft in der Form gestellt: „Wird KI diesen Beruf ersetzen?“ Die seit 2023 durchgeführten Experimente legen eine andere nahe: Welche Rolle hat der Mensch neben der KI, und welcher Teil des Berufs gewinnt an Wert, wenn eine Maschine produzieren kann? Ihre Antwort ist ziemlich eindeutig. Die Produktion verliert an Wert, die Rahmensetzung, die Prüfung und die Verantwortung gewinnen. Den Unterschied macht nicht die Person, die die besten Anweisungen schreibt. Es ist die, die ihr Fach gut genug kennt, um zu sehen, wann sich die Maschine irrt.

Kurz gesagt

• Bei geeigneten Aufgaben steigert KI Menge, Tempo und Qualität; bei einer benachbarten Aufgabe jenseits ihrer Fähigkeiten führt sie zu mehr falschen Antworten.
• Sie hilft vor allem Anfängern. Bei den Erfahrensten ist der Gewinn gering, und eine Studie von 2025 hat sogar einen Zeitverlust gemessen.
• Wer die Aufgabe delegiert, die er lernen soll, lernt sie nicht, außer wenn die KI als Tutor konzipiert ist.
• Das Gesetz beginnt zu verlangen, dass ein Mensch für verpflichtende Entscheidungen einsteht und dass Unternehmen ihrem Personal helfen, diese Werkzeuge zu beherrschen.

Die gezackte Grenze

Das aufschlussreichste Experiment wurde mit 758 Fachleuten durchgeführt, an Beratungsaufgaben, die mit der Boston Consulting Group entwickelt wurden, und im März 2026 nach Präregistrierung in Organization Science veröffentlicht. Es vergleicht Teilnehmende mit KI und solche, die ohne arbeiten.

Die Autoren sprechen von einer „jagged technological frontier“, einer gezackten technologischen Grenze. Die Linie, die trennt, was KI gut kann und was sie schlecht kann, folgt nicht der scheinbaren Schwierigkeit der Aufgaben. Zwei Aufgaben, die benachbart wirken, können auf verschiedenen Seiten liegen. Und von außen kann das Ergebnis in beiden Fällen gleich aussehen: ein gut geschriebener, selbstsicherer Text.

Das Können besteht also darin zu wissen, auf welcher Seite man steht. Dieses Wissen steckt nicht im Werkzeug. Es steckt in der Kenntnis des Fachs.

KI hilft vor allem Anfängern

Eine im Quarterly Journal of Economics veröffentlichte Studie, auf Grundlage realer Daten von 5 172 Mitarbeitenden eines Kundenservice, misst einen durchschnittlichen Anstieg von 15 % bei den pro Stunde gelösten Problemen dank eines KI-Assistenten. Der Gewinn ist sehr ungleich verteilt: Die am wenigsten erfahrenen und qualifizierten Mitarbeitenden werden schneller und besser, während die Erfahrensten etwas an Tempo gewinnen und etwas an Qualität verlieren.

Eine Lesart: Das Werkzeug hat einen Teil des Könnens der Besten aufgenommen und verteilt es an die Neuen. Das ist eine gute Nachricht für den Kompetenzaufbau. Es macht Fachwissen nicht überflüssig, im Gegenteil. Es braucht immer jemanden, der die richtigen Antworten entwirft, die abdriftenden erkennt und die Nächsten ausbildet. Der Experte verbringt weniger Zeit mit Produzieren und mehr Zeit mit Entwerfen, Kontrollieren und Weitergeben.

Bei den Erfahrensten hat KI sogar Zeit kosten können. Im Juli 2025 maß eine randomisierte Studie der Organisation METR mit sechzehn Entwicklern an Projekten, die sie im Schnitt seit fünf Jahren kannten, dass sie mit KI 19 % länger brauchten, obwohl sie im Nachhinein schätzten, 20 % gewonnen zu haben. Die Stichprobe ist klein, und METR erklärt diese Ergebnisse inzwischen für überholt: Seine Aktualisierung vom Februar 2026 hält den Effekt Anfang 2026 für wahrscheinlich günstiger, ohne ihn verlässlich beziffern zu können. Je nach Aufgabe und Person kann KI viel, wenig oder gar nicht helfen.

Das Risiko: mit der Aufgabe auch das Urteil delegieren

Wenn der Wert im Urteil liegt, lautet die Frage: Pflegt die Nutzung von KI dieses Urteilsvermögen oder höhlt sie es aus?

Eine auf der Konferenz CHI 2025 vorgestellte Studie von Microsoft Research und Carnegie Mellon mit 319 Wissensarbeitern beobachtet: Je mehr man der KI vertraut, desto weniger denkt man kritisch, und je mehr man sich selbst vertraut, desto mehr tut man es. Zwei Vorbehalte: Es ist eine Umfrage auf Selbstauskunft, also eine Korrelation und kein Beweis, dass KI das Urteilsvermögen verkümmern lässt; und Microsoft verkauft KI-Werkzeuge, was den Befund umso bemerkenswerter macht.

Ein Feldexperiment geht weiter. Im Juni 2025 in PNAS veröffentlicht, betrifft es fast 1 000 Schüler eines großen türkischen Gymnasiums, in Mathematik. Einige haben Zugang zu einem allgemeinen Assistenten, andere zu einer als Tutor konzipierten Version, die anleitet, ohne die Antwort zu geben. Ihre Noten werden mit denen der Schüler verglichen, die nie KI hatten.

Die Tutor-Version begrenzt diesen Effekt weitgehend. (Im August 2025 wurde eine Korrektur veröffentlicht: Sie betrifft nur die Zugehörigkeit eines Autors, nicht die Ergebnisse.)

Diese Ergebnisse betreffen Schüler, die lernen, nicht Fachleute bei der Arbeit, und lassen sich nicht unverändert auf Unternehmen übertragen. Aber die Idee, die sie veranschaulichen, gilt über die Schule hinaus: Wer die Aufgabe delegiert, die er lernen soll, lernt sie nicht. Für ein Unternehmen ist die Frage konkret: Wie bildet man Berufseinsteiger aus, wenn die KI alle Aufgaben erledigt, an denen man den Beruf lernte? Wir behandeln sie in unserem Artikel über KI und den Berufseinstieg junger Menschen.

Man liest auch viele Studien, die behaupten, KI mache uns dumm. Die am meisten verbreiteten sind entweder korrelativ oder Preprints mit einigen Dutzend Personen, nicht von Fachkollegen begutachtet, die wir nicht als Beweise ansehen. Wir gehen sie mit ihren Grenzen in unserem Artikel zur Frage, ob KI dumm macht, durch.

Für das Ergebnis einstehen: Das Gesetz mischt sich ein

Das menschliche Urteil ist nicht mehr nur gute Praxis. Die Texte beginnen, es zu verlangen, in Europa und in Kalifornien.

1. 2. Februar 2025

   In Europa wird Artikel 4 der KI-Verordnung anwendbar. Er verlangt von Unternehmen, die KI einsetzen, Maßnahmen zu ergreifen, damit ihr Personal diese Werkzeuge beherrscht.

2. Oktober 2025

   In Kalifornien legt der Gouverneur sein Veto gegen einen ersten Text ein, SB 7.

3. 27. Juli 2026

   Der europäische Artikel 4 gilt in der durch die Verordnung (EU) 2026/1744 neu gefassten Version.

4. 30. September 2026

   In Kalifornien wird das Gesetz SB 947 unterzeichnet.

5. 1. Juli 2027

   SB 947 tritt in Kraft.

In Europa ändert die Neufassung das Ziel: Wo der Text von 2024 darauf abzielte, nach besten Kräften ein ausreichendes Maß an KI-Kompetenz sicherzustellen, geht es nun darum, den Aufbau von KI-Kompetenz zu fördern, ohne Verpflichtung, für jede Person ein bestimmtes Niveau zu garantieren. Maßnahmen zu ergreifen bleibt Pflicht, aber die Anforderung wurde gelockert.

In Kalifornien verbietet SB 947 einem Arbeitgeber, sich ausschließlich auf ein automatisiertes Entscheidungssystem zu stützen, um einen Mitarbeiter zu sanktionieren oder zu entlassen; stützt er sich hauptsächlich auf ein solches System, muss ein Mensch die Entscheidung bestätigen. Sein Autor, der schon hinter SB 7 stand, stellt es unter dem Namen „No Robo Bosses Act“ vor, in einer politischen Pressemitteilung, die man als solche lesen sollte.

Die Richtung ist klar: Die Maschine darf vorschlagen, der Mensch unterschreibt. Er wird verantwortlich für das, was die Maschine produziert, und er muss es erklären können. Für Entscheidungen, die eine Person betreffen, wie eine Kündigung oder einen Kredit, beschreibt unser Artikel über automatisierte Entscheidungen durch KI, was die DSGVO und die KI-Verordnung vorsehen.

Was das im Alltag ändert

Bei uns folgt die Regel aus allem Vorangehenden: Die Maschine produziert, ein Mensch gibt frei, was verpflichtet.

• Was verpflichtet, geht durch eine menschliche Freigabe. Unser Agent zur Erfassung von Ausgaben, seit Juli 2026 auf Telegram im Einsatz, geht vom Foto des Belegs aus, liest die Angaben aus und wartet dann auf eine menschliche Freigabe, bevor er ins Buchhaltungssystem schreibt.
• Kein generierter öffentlicher Inhalt geht ohne menschliches Gegenlesen hinaus. Das ist bei uns eine nicht verhandelbare Regel. Auch in diesem Blog entsteht ein generierter Artikel als Entwurf, und das menschliche Gegenlesen entscheidet über seine Veröffentlichung.
• Mengen werden per Stichprobe kontrolliert. Für eine Website, die von einem Modell in Serie übersetzt wird, sieht unsere Methode vor, eine Stichprobe pro Sprache gegenzulesen, mit einem Prüfmodell und einem Menschen, beim ersten Durchlauf und dann stichprobenartig.

Für ein Team, das KI einführt, fügen wir zwei Ratschläge hinzu, abgeleitet aus den oben zitierten Experimenten. Das Fach mit dem Werkzeug schulen, nicht nur das Werkzeug: bei welchen Aufgaben es zuverlässig ist, wo es sich irrt, wie man es prüft. Und Anfängern Aufgaben lassen, an denen sie lernen, bei denen die KI begleitet, ohne die Arbeit für sie zu erledigen, wie der Tutor im türkischen Experiment.

Das ist unserer Ansicht nach auch einer der Gründe, warum sich so viele KI-Projekte noch nicht rechnen: Man kauft das Werkzeug und vergisst, neu festzulegen, wer was prüft.

Was wir davon halten

Unsere Position, gezeichnet Jim: KI ersetzt nicht die Fachkraft, sie verlagert ihre Arbeit hin zu Rahmensetzung, Prüfung und Verantwortung. Das ist kein Trost, sondern ein anderer Beruf, und ein anspruchsvollerer. Er verlangt, sein Gebiet besser zu kennen als zuvor, weil der Fehler der Maschine oft besser verpackt ist als der menschliche Fehler.

In zwei Punkten bleiben wir vorsichtig. Im Oktober 2026 sind die Studien zum kritischen Denken noch schwach, und nichts beweist, dass eine gut gerahmte unterstützende Nutzung das Urteilsvermögen schädigt. Und die Gewinne je nach Erfahrung schwanken stark von Aufgabe zu Aufgabe. Wir würden unsere Meinung ändern, wenn kontrollierte Experimente zeigten, dass eine unbeaufsichtigte KI ebenso gut abschneidet wie eine Fachkraft, die sie kontrolliert, bei Aufgaben, bei denen Fehler teuer sind. Das sagen die hier zitierten Studien nicht.

Dieselbe Frage stellt sich bei der Kreativität, mit einem ähnlichen Schluss: KI produziert den Durchschnitt, der Mensch bringt die Abweichung. Wählen Sie für eine erste Anwendung ein Werkzeug, das Ihrem Team das Urteil überlässt, zum Beispiel einen KI-Assistenten, der auf Ihre Dokumente antwortet und seine Quelle nennt: Jede Antwort lässt sich prüfen. Auch die Wahl des Modells ist eine Frage des Urteils: Unser Angebot KI zum fairen Preis vergleicht die Modelle an Ihren eigenen Inhalten, mit gemessenen Kosten und beurteilter Qualität, bevor pro Aufgabe eines gewählt wird. Unser Leitfaden zur Einführung von KI im Unternehmen beschreibt, wie man diese erste Anwendung rahmt, von der Aufgabe bis zu den Regeln.

Häufige Fragen

Quellen

1. In Organization Science veröffentlicht (neuer Tab)doi.org
2. Eine im Quarterly Journal of Economics veröffentlichte Studie (neuer Tab)doi.org
3. Eine randomisierte Studie der Organisation METR (neuer Tab)arxiv.org
4. Erklärt diese Ergebnisse inzwischen für überholt (neuer Tab)metr.org
5. Seine Aktualisierung vom Februar 2026 (neuer Tab)metr.org
6. Eine auf der Konferenz CHI 2025 vorgestellte Studie (neuer Tab)doi.org
7. Im Juni 2025 in PNAS veröffentlicht (neuer Tab)doi.org
8. Artikel 4 der KI-Verordnung (neuer Tab)eur-lex.europa.eu
9. SB 7 (neuer Tab)leginfo.legislature.ca.gov
10. Die Verordnung (EU) 2026/1744 (neuer Tab)eur-lex.europa.eu
11. SB 947 (neuer Tab)leginfo.legislature.ca.gov
12. „No Robo Bosses Act“ (neuer Tab)sd05.senate.ca.gov
13. Artikel 22 der DSGVO (neuer Tab)eur-lex.europa.eu