Anthropic-Studie: Warum Analysten in 86 % der Fälle die Zufalls-Meinung ihres KI-Agenten übernehmen – und wer das Urteil wirklich fällt

Stellen Sie sich vor, Ihr Controller bereitet mit Hilfe eines KI-Agenten eine Entscheidungsvorlage vor: Soll das Angebot auf Basis der Marge je Auftrag oder der Marge je Arbeitsstunde bewertet werden? Soll der Vergleich nur die Bestandskunden umfassen oder alle? Der Agent schlägt eine Variante vor, begründet sie sauber, und am Ende steht eine Empfehlung, die Ihr Controller als „seine Analyse“ an Sie weitergibt. Alles wirkt professionell. Die entscheidende Frage lautet: Wessen Urteil haben Sie da eigentlich gelesen?

Genau diese Frage hat die Alignment-Gruppe von Anthropic in einer Studie untersucht, die am 27. Oktober 2026 unter dem Titel „How AI agents shape experts' judgment calls“ erschienen ist. Autoren sind Amaç Herdağdelen, Hailey Joren und Alex Tamkin. Das Ergebnis ist unbequem, aber nützlich: Erfahrene Fachleute übernahmen die Vorliebe ihres Agenten in 86 Prozent der Fälle, ohne es zu merken, und sie fühlten sich dabei nicht weniger sicher als sonst.

In diesem Artikel ordnen wir ein, was die Studie belegt, was die Autoren selbst einschränken und was daraus für ein Unternehmen mit 10 bis 250 Mitarbeitenden folgt. Wir bleiben bei der Primärquelle, nennen das Datum und trennen konsequent zwischen dem, was in der Studie steht, und unserer eigenen Einordnung. Vorweg die wichtigste Klarstellung: Es handelt sich um eine Forschungsstudie, nicht um ein Produkt oder eine Funktion, die Sie ein- oder ausschalten können. Der Befund gilt deshalb unabhängig von Anbieter, Region und Werkzeug überall dort, wo ein Mensch einem Agenten bei einer Entscheidung zuarbeiten lässt.

Was Anthropic am 27. Oktober 2026 veröffentlicht hat

Die Studie arbeitet mit einem Experiment, das sich leicht erzählen lässt. Anthropic hat 61 berufserfahrene Analystinnen und Analysten angeworben, die alle Erfahrung mit Kausalanalyse mitbrachten. Ihre Aufgabe: Sie sollten eine fiktive landwirtschaftliche Genossenschaft beraten und empfehlen, ob ein freiwilliges Beratungsprogramm ausgebaut oder eingestellt werden sollte. Dafür durften sie einen KI-Agenten nutzen, konkret Claude Opus 4.8 mit hohem Rechenaufwand („High effort“), der in Claude Code innerhalb von VS Code lief. Elf der 61 Personen entschieden sich dafür, den Agenten nicht zu verwenden. Ausgewertet wurden daher die übrigen 50.

Im Verlauf der Analyse standen vier offene Entscheidungen an, bei denen es keine eindeutig richtige Antwort gab:

• Kennzahl: Ertrag je Hektar oder Ertrag je Betriebskosten.
• Vergleichsmethode: Differenz-von-Differenzen oder eine statistische Anpassung.
• Stichprobe: nur die teilnehmenden Betriebe oder die gesamte Mitgliedschaft.
• Gewichtung: gleich gewichtet oder nach Größe der Erzeuger gewichtet.

Der Kniff des Experiments: Ein verdeckter Münzwurf legte für jede dieser vier Entscheidungen fest, welche Option der Agent bevorzugen sollte. Die Vorliebe wurde über versteckte Anweisungen im System-Prompt eingebracht, die Teilnehmenden erfuhren davon nichts. Der Agent hatte also keine fachliche Begründung für seine Neigung, sie war reiner Zufall. Wenn der Agent die Entscheidung der Analysten nicht beeinflusst hätte, wäre zu erwarten, dass sich die Analysten in rund der Hälfte der Fälle für dieselbe Option entscheiden, einfach weil es zwei Möglichkeiten gibt.

Die Zahlen im Einzelnen

Die Hauptzahl lautet 86 Prozent. Über die vier Entscheidungen hinweg wählten die Analysten, die den Agenten nutzten, die Option, die der Agent per Münzwurf bevorzugte. Je nach Entscheidung lag der Wert zwischen 81 und 92 Prozent. Der Erwartungswert bei reinem Zufall liegt bei etwa 50 Prozent.

„Went with their agent's lean 86% of the time.“ – Anthropic, „How AI agents shape experts' judgment calls“, 27. Oktober 2026

Drei weitere Angaben aus der Studie helfen bei der Einordnung:

• Wer schon eine Meinung hatte: Analysten, die vor der Agentennutzung bereits eine Präferenz geäußert hatten, wechselten in 60 Prozent der Fälle auf die Option des Agenten, wenn dieser anderer Meinung war. Stimmte der Agent ohnehin zu, lag der Wechselwert bei 6 Prozent. Die Autoren betonen selbst, dass diese Zahl nur auf 38 Fällen beruht.
• Das Sicherheitsgefühl: Wer bei allen vier Entscheidungen der Vorliebe des Agenten folgte, gab im Mittel ein Vertrauen von 71 an, die übrigen 73. Der Unterschied ist praktisch nicht vorhanden. Man merkt dem eigenen Gefühl also nicht an, dass man beeinflusst wurde.
• Das Gefühl der Urheberschaft: 52 Prozent der Teilnehmenden bewerteten die Empfehlung als eher ihre eigene als die des Agenten, und diese Gruppe war trotzdem ähnlich stark beeinflusst wie die anderen. 77 Prozent wiederholten in ihren Begründungen die Argumente des Agenten, aber nur 15 Prozent nannten den Agenten als Quelle.

Besonders der letzte Punkt verdient Aufmerksamkeit. Er beschreibt keinen Betrug und keine Nachlässigkeit, sondern etwas sehr Menschliches: Ein gut formuliertes Argument wird übernommen, und nach kurzer Zeit fühlt es sich an wie das eigene. In einem Unternehmen heißt das: Wenn in einer Vorlage steht „Ich empfehle Variante B“, ist nicht erkennbar, ob die Person Variante B gewählt hat oder ob der Agent sie ihr nahegelegt hat.

Was die Autoren selbst einschränken

Eine seriöse Einordnung nennt auch die Grenzen der Studie, und die Autoren tun das selbst ausdrücklich. Wir geben sie hier wieder, damit Sie die Zahl nicht größer machen, als sie ist:

• Die Autoren haben die Neigung der Agenten bewusst verstärkt: „We deliberately strengthened the agents' lean.“ Im Alltag können die Effekte deshalb kleiner ausfallen.
• Die Studie deckt eine Aufgabe in einem Fachgebiet mit einem Modell ab: „We studied one task, in one field, with one model.“
• Die Ergebnisse sind Durchschnittswerte über alle Teilnehmenden. Die Meinung jeder einzelnen Person vor dem Kontakt mit dem Agenten wurde nicht durchgängig erfasst.
• Erfasst wurde, welche Option gewählt wurde, aber nicht, wie stark die Präferenz war.
• Der Vergleich zwischen Gruppen mit und ohne KI ist nicht unmittelbar, weil die Gruppe ohne KI weniger erfahren war.

Für uns folgt daraus eine nüchterne Lesart: Die Studie beweist nicht, dass Ihr Team in 86 Prozent aller Entscheidungen von einem Agenten gesteuert wird. Sie zeigt, dass unter Laborbedingungen mit einer künstlich verstärkten Neigung ein sehr deutlicher Effekt auftreten kann, den die Betroffenen selbst nicht bemerken. Das reicht als Anlass, die eigenen Abläufe zu prüfen, aber nicht als Beleg für ein bestimmtes Ausmaß im eigenen Betrieb.

Verfügbarkeit: Eine Studie, kein Produkt

Bei den meisten Agenten-Themen stellt sich die Frage, ob etwas schon nutzbar ist oder erst angekündigt wurde. Hier ist die Antwort ungewöhnlich einfach:

• Die Studie: frei lesbar auf der Seite von Anthropic, veröffentlicht am 27. Oktober 2026.
• Ein Produkt oder Feature: gibt es nicht. Es wird nichts ausgerollt, nichts in Beta getestet, und es gibt keine regionale Einschränkung. Für die DACH-Region ist die Frage nach der Verfügbarkeit schlicht nicht einschlägig.
• Die Gültigkeit des Befunds: unabhängig vom Anbieter. Getestet wurde ein Modell von Anthropic, aber der Mechanismus, dass ein überzeugend auftretender Assistent die Urteile von Fachleuten verschiebt, ist nicht an dieses eine Werkzeug gebunden. Ob andere Modelle gleich stark wirken, belegt die Studie nicht.

Wir beschreiben deshalb nichts als „jetzt nutzbar“, das es nicht gibt. Was auf Unternehmen zukommt, ist keine neue Funktion, sondern eine Verantwortung: Je selbstverständlicher Agenten bei Analysen, Angeboten und Entscheidungsvorlagen mitarbeiten, desto wichtiger wird die Frage, wo die letzte Entscheidung bewusst bei einer Person liegt.

Was das für ein Unternehmen mit 10 bis 250 Mitarbeitenden heißt

Im Mittelstand sind die Entscheidungswege kurz. Das ist eine Stärke, aber es bedeutet auch, dass eine einzelne Vorlage oft direkt zu einer Investition, einem Angebot oder einer Einstellung führt. Drei Beispiele zeigen, wo die Studie praktisch relevant wird:

• Angebotskalkulation: Ein Agent bereitet die Kalkulation vor und wählt dabei, ob Gemeinkosten pauschal oder nach Aufwand verteilt werden. Beide Wege sind vertretbar, führen aber zu unterschiedlichen Preisen. Wer die Vorlage nur liest, sieht das Ergebnis und nicht die Weggabelung.
• Controlling und Reporting: Ein Agent fasst Kennzahlen zusammen und entscheidet, welchen Zeitraum er vergleicht und welche Ausreißer er herausnimmt. Auch das sind Urteile, keine Rechenschritte.
• Lieferanten- oder Kundenauswahl: Ein Agent gewichtet Kriterien wie Preis, Lieferzeit und Zahlungsmoral. Die Gewichtung entscheidet über das Ranking, und sie ist genau die Art von offener Entscheidung, die in der Studie beeinflusst wurde.

Die Gemeinsamkeit: In allen drei Fällen gibt es mehrere vertretbare Wege, und die Wahl des Weges ist eine fachliche Entscheidung. Genau dort, wo es keine eindeutig richtige Antwort gibt, wirkte der Einfluss des Agenten am stärksten. Bei Rechenaufgaben mit einer klaren Lösung ist das Risiko ein anderes, nämlich schlicht ein Fehler, den Sie über Stichproben erkennen können.

Wichtig ist uns die Gegenrichtung: Die Autoren argumentieren nicht gegen den Einsatz von KI. Sie schreiben, es könne eine bewusste Entscheidung sein, welche Teile der Arbeit bei Menschen und welche bei Maschinen liegen, statt dass man in eine Verteilung hineinrutscht („That split can be something we choose, instead of something we drift into“). Für einen Geschäftsführer ist das eine hilfreiche Haltung: Es geht nicht um weniger Agenten, sondern um eine klare Zuordnung.

Welcher Agent: der Daten-Analyst

Auf amazing-agents.com beschreiben wir mit dem Daten-Analysten einen der acht Agenten, der Dashboards und Alerts bei Anomalien bereitstellt und Kennzahlen ohne Excel-Handarbeit aktuell hält. Genau diese Rolle liegt an der Schnittstelle, die die Studie betrifft: Ein Agent, der Daten aufbereitet, trifft unvermeidlich Vorentscheidungen darüber, was gezeigt wird und wie es verglichen wird.

Auf der Seite beschreiben wir als allgemeinen Grundsatz: Jeder Agent läuft in einem definierten Rahmen, und kritische Aktionen brauchen Ihre Freigabe. Für den Daten-Analysten bedeutet das in der Praxis, dass er Ergebnisse vorbereitet und sichtbar macht, die Entscheidung aber bei Ihnen oder Ihrem Fachbereich bleibt. Was die Studie darüber hinaus nahelegt, ist unsere eigene Folgerung und nicht Teil der Produktbeschreibung: Eine Freigabe ist nur dann wirksam, wenn die freigebende Person sieht, welche Optionen es gab und welche der Agent bevorzugt hat.

Fünf Schritte, die Sie diese Woche vorbereiten können

Die Studie nennt selbst einige Ansatzpunkte: Agenten könnten die beste Begründung für jede Option liefern oder zuerst nach der eigenen Einschätzung der Fachperson fragen, wobei die Autoren einräumen, dass dies Nutzer auch überfordern kann. Übersetzt in praktische Schritte für einen Betrieb ohne eigene Forschungsabteilung ergibt sich diese Reihenfolge:

1. Entscheidungen inventarisieren. Listen Sie die fünf bis zehn Entscheidungen auf, bei denen ein Agent oder KI-Assistent heute schon zuarbeitet: Angebote, Berichte, Auswahlverfahren, Prioritäten. Notieren Sie je Entscheidung, wer sie am Ende verantwortet.
2. Weggabelungen sichtbar machen. Legen Sie fest, dass jede Vorlage die offenen Methodenfragen nennt, zum Beispiel „Kennzahl A oder B gewählt, weil …“. Wer eine Gabelung nicht sieht, kann sie nicht bewusst entscheiden.
3. Erst die eigene Einschätzung, dann der Agent. Bitten Sie die verantwortliche Person, ihre Einschätzung kurz festzuhalten, bevor sie den Vorschlag des Agenten liest. Das ist genau der Ansatz, den die Autoren als möglichen Weg nennen, und er kostet fünf Minuten.
4. Alternativen verlangen. Weisen Sie den Agenten an, für jede offene Entscheidung die stärkste Begründung für beide Seiten zu liefern, statt nur eine Empfehlung auszusprechen.
5. Entscheidungen festlegen, die ein Mensch selbst fällt. Bestimmen Sie bewusst, welche Entscheidungen immer ein informiertes menschliches Urteil brauchen, etwa bei hohen Beträgen, Personalfragen oder Vertragsbedingungen. Die Autoren formulieren sinngemäß, Organisationen müssten bewusst entscheiden, welche Entscheidungen das eigene informierte Urteil einer Person erfordern.

Keiner dieser Schritte setzt eine bestimmte Software voraus. Sie lassen sich mit den Werkzeugen umsetzen, die Sie heute einsetzen, und sie verlangen vor allem, dass Sie die Spielregeln einmal sauber aufschreiben.

So gehen wir im Audit vor

Wenn Sie uns für einen Audit zum Thema Agenten und Entscheidungen einladen, gehen wir in einer festen Reihenfolge vor. Wir beschreiben hier unser Vorgehen und unser Angebot, keine Ergebnisse bei anderen Unternehmen.

• Bestandsaufnahme: Wir sprechen mit den Verantwortlichen und listen auf, wo Agenten oder KI-Assistenten Vorlagen, Berichte oder Auswahlentscheidungen vorbereiten.
• Entscheidungskarte: Wir ordnen jede dieser Stellen ein: reine Rechenaufgabe, vertretbare Methodenwahl oder strategische Entscheidung. Nur die beiden letzten Gruppen brauchen eine besondere Behandlung.
• Freigabe-Regeln: Wir legen mit Ihnen fest, welche Vorlagen mit Optionsübersicht erscheinen, wer freigibt und was die freigebende Person vor sich sehen muss.
• Stichproben-Routine: Wir schlagen eine kleine, wiederkehrende Prüfung vor, bei der eine Person eine Vorlage ohne Agentenvorschlag nachrechnet oder gegenliest, um zu sehen, ob sich Ergebnisse systematisch verschieben.

Das Ziel ist keine Bürokratie, sondern Transparenz an wenigen entscheidenden Stellen. Der Aufwand liegt in der Regel in der Vorbereitung der Regeln, nicht im laufenden Betrieb.

Ein Agent mit Grenzen und Freigabe-Schritt

Der Unterschied, auf den es am Ende ankommt, lässt sich in einem Satz sagen: Ein Agent ohne Grenzen liefert Ergebnisse, bei denen Sie nicht wissen, wessen Urteil Sie lesen. Ein Agent mit Grenzen und Freigabe-Schritt liefert dieselben Ergebnisse, zeigt aber die Weggabelungen, benennt seine Vorliebe und überlässt die Entscheidung einer Person, die sie bewusst trifft.

Das ist keine Bremse für den Einsatz von KI. Im Gegenteil: Erst wenn klar ist, wo die Verantwortung liegt, können Sie Agenten auf mehr Aufgaben loslassen, ohne dass sich im Hintergrund Entscheidungen verschieben. Die Anthropic-Studie liefert dafür keinen Grund zur Sorge, sondern einen konkreten Anlass, die Zuordnung einmal bewusst vorzunehmen.

Quelle: Anthropic, „How AI agents shape experts' judgment calls“, Amaç Herdağdelen, Hailey Joren, Alex Tamkin, 27. Oktober 2026, anthropic.com/research/agents-judgment-calls. Alle Zahlen und Zitate stammen aus dieser Quelle; die Einordnung für den Mittelstand ist unsere eigene.