Anthropic hat am 27. Oktober 2026 eine Studie unter dem Titel „How AI Agents Shape Experts' Judgment Calls" veröffentlicht, die in Fachkreisen für Aufmerksamkeit sorgt. 50 professionelle Analysten nutzten Claude Code, um eine statistische Auswertung durchzuführen. Bei jeder kritischen Entscheidung gab es zwei gleich vertretbare Optionen — welche der KI-Agent bevorzugte, wurde zufällig zugeteilt. Ergebnis: Die Analysten folgten in der überwiegenden Mehrheit dem Agenten, ohne ihn im Nachhinein als Einflussfaktor zu benennen. heise.de bezifferte die Übernahmequote auf 86 Prozent.
Was die Studie gemessen hat
Der Versuchsaufbau war präzise: 50 ausgebildete Analysten bekamen eine Datenanalytik-Aufgabe, bei der an mehreren Entscheidungspunkten zwei Vorgehensweisen gleich gut begründbar waren. Welche Option der eingesetzte Claude-Code-Agent bevorzugte, wurde per Zufallsverfahren bestimmt — die Analysten wussten also nicht, ob der Agent ihnen eine zufällige oder eine methodisch begründete Präferenz zeigte.
Das Ergebnis: Die Analysten folgten der vom Agenten angedeuteten Option in rund 86 Prozent der Fälle. Auffälliger noch: Wer nachträglich nach den Gründen für seine Entscheidung gefragt wurde, nannte den KI-Agenten kaum als Faktor. Das Muster beschreibt die Forschung seit Jahren als Automation Bias — die unbewusste Übernahme maschineller Empfehlungen auch dort, wo keine rationale Grundlage besteht.
Warum das für den Mittelstand zählt
Für Unternehmen, die KI-Systeme in operative Abläufe integrieren, ist dieser Befund direkt relevant. Die Frage lautet nicht, ob Mitarbeitende dem KI-Agenten trauen — sondern ob sie merken, wann sie ihm unbewusst folgen. Genehmigungsworkflows, in denen eine KI eine Empfehlung vorbereitet und ein Mensch nur noch bestätigt, können diesen Effekt systematisch verstärken.
Das betrifft besonders Bereiche, in denen Entscheidungen Konsequenzen haben: Kreditbewilligungen, Personalentscheidungen, Lieferantenauswahl, rechtliche Einschätzungen. In all diesen Feldern ist die Verantwortung klar beim Menschen — auch wenn eine KI die Grundlage liefert. Die Studie zeigt, dass dieser Anspruch und die gelebte Praxis auseinanderfallen können.
Konkrete Risikoszenarien
Kreditbewilligungen und Zahlungsfreigaben
In Unternehmen, die KI-gestützte Kreditwürdigkeitsprüfungen oder automatisierte Zahlungsfreigaben einsetzen, besteht das Risiko, dass Sachbearbeiter eine KI-Einschätzung weitgehend ungeprüft bestätigen. Besonders wenn die Darstellung des KI-Systems eine klare Empfehlung suggeriert — grünes Häkchen, hoher Score — sinkt die Hemmschwelle zur Gegenfrage. Eine bewusste Abweichung erfordert dann mehr kognitive Energie als das Durchwinken.
Personalentscheidungen bei Bewerbungsauswahl
KI-gestützte Vorauswahl im Recruiting ist in mittelständischen Unternehmen verbreitet. Wenn das System eine Rangliste oder eine Ampelbewertung zeigt, wirkt diese auf nachfolgende menschliche Entscheidungen ein — selbst wenn die Person dies nicht beabsichtigt. Laut der Anthropic-Studie könnte das dazu führen, dass HR-Entscheider eine KI-Vorauswahl bestätigen, die auf zufälligen oder verzerrten Merkmalen basiert.
Rechtliche und steuerliche Einschätzungen
Kanzleien und Steuerberater setzen zunehmend KI-Assistenten ein, die Sachverhalte vorstrukturieren und Handlungsoptionen vorschlagen. Für die Fachkraft bedeutet das eine Versuchung zur Vereinfachung: den vorgeschlagenen Weg zu nehmen, statt unabhängig zu analysieren. Das ist besonders dort heikel, wo es keine eindeutige richtige Antwort gibt — gerade bei komplexen Auslegungsfragen.
„Wer Entscheidungen an KI delegiert, trägt trotzdem die volle Verantwortung. Nur wer das weiß und aktiv dagegensteuert, kann damit umgehen."
warning
Automation Bias: Was er ist und warum er auftrittAutomation Bias beschreibt die Tendenz, maschinellen Empfehlungen zu folgen — auch wenn keine rationale Grundlage besteht und selbst wenn die Person sich der KI-Empfehlung bewusst ist. Die Anthropic-Studie zeigt, dass dieser Effekt auch bei ausgebildeten Fachleuten unter Laborbedingungen auftritt. Für Unternehmen bedeutet das: Eine Freigabe-Schaltfläche allein stellt keine echte menschliche Kontrolle sicher. Notwendig sind strukturelle Gegenmaßnahmen — etwa bewusste Pflicht zur Alternativbegründung oder regelmäßige Stichproben.
| Entscheidungsbereich | Automation-Bias-Risiko | Empfohlene Gegenmaßnahme |
|---|
| Kredit- / Zahlungsfreigaben | Hoch | Vier-Augen-Prinzip, Ablehnungspflicht begründen |
| Personalauswahl (Recruiting) | Sehr hoch | KI als Filter definieren, nicht als Entscheidungsträger |
| Einkauf / Lieferantenauswahl | Mittel | Alternativen aktiv einfordern, Protokoll führen |
| Rechtliche / steuerliche Einschätzung | Hoch | KI-Ausgabe als Entwurf kennzeichnen, nicht als Ergebnis |
Was Unternehmen jetzt einrichten sollten
Die Studie gibt Anlass, bestehende KI-gestützte Entscheidungsprozesse zu überprüfen. Drei konkrete Maßnahmen helfen, Automation Bias strukturell zu begrenzen:
- Pflicht zur Alternativbegründung: In kritischen Workflows sollten Mitarbeitende nicht nur „Zustimmen" klicken können, sondern kurz dokumentieren, warum sie der KI-Empfehlung folgen oder abweichen.
- Regelmäßige Stichproben: Führungskräfte sollten in Abständen Entscheidungen nachverfolgen, bei denen die KI eine Empfehlung geliefert hat. Zeigt sich ein Muster ungeprüfter Übernahmen, ist das ein Warnsignal.
- Bewusste Schulung: Mitarbeitende, die mit KI-Systemen arbeiten, sollten über Automation Bias informiert sein — nicht als Warnung, sondern als strukturelles Wissen über das eigene Entscheidungsverhalten.
Fazit
Die Anthropic-Studie liefert den bislang präzisesten empirischen Beleg dafür, dass Automation Bias kein theoretisches Problem ist — er tritt bei Experten auf, unter kontrollierten Bedingungen, bei Aufgaben, für die sie ausgebildet sind. Für Mittelständler, die KI zunehmend in operative Entscheidungen einbetten, ist das ein direkter Anlass zur Überprüfung bestehender Prozesse.
Bei ATLAS Consulting empfehlen wir, bei jedem KI-gestützten Entscheidungsprozess eine einfache Kontrollfrage zu stellen: Könnte hier dem Agenten unbewusst gefolgt werden, ohne dass die Person sich dessen bewusst ist? Wenn die Antwort „ja" lautet, gehört eine strukturelle Gegenmaßnahme dazu — keine Warnung, sondern ein fester Prozessschritt.
Anthropic published a study on October 27, 2026, titled "How AI Agents Shape Experts' Judgment Calls," drawing significant attention in professional circles. Fifty trained analysts used Claude Code to run a statistical analysis. At each critical decision point, there were two equally defensible options — which one the AI agent preferred was assigned randomly. Result: the analysts followed the agent's choice in the vast majority of cases without naming it as an influence afterward. Heise.de reported the adoption rate at 86 percent.
What the Study Measured
The experimental setup was precise: 50 trained analysts were given a data analysis task with multiple decision points where two approaches were equally justifiable. Which option the Claude Code agent preferred was determined randomly — so the analysts did not know whether the agent was showing them a random or methodologically grounded preference.
The result: analysts followed the option suggested by the agent in approximately 86 percent of cases. More striking still: when asked afterward about the reasons for their decisions, they rarely cited the AI agent as a factor. Researchers have described this pattern for years as automation bias — the unconscious adoption of machine recommendations even when no rational basis exists.
Why This Matters for SMEs
For companies integrating AI systems into operational workflows, this finding is directly relevant. The question is not whether employees trust the AI agent — but whether they notice when they are unconsciously following it. Approval workflows in which an AI prepares a recommendation and a human simply confirms can systematically amplify this effect.
This particularly affects areas where decisions have consequences: credit approvals, personnel decisions, supplier selection, legal assessments. In all these fields, responsibility clearly lies with the human — even when an AI provides the basis. The study shows that this principle and lived practice can diverge.
Concrete Risk Scenarios
Credit Approvals and Payment Authorizations
In companies using AI-supported credit assessments or automated payment approvals, there is a risk that employees confirm an AI assessment largely unchecked. When the AI system presents a clear recommendation — green check, high score — the threshold for questioning drops. A conscious deviation then requires more cognitive effort than simply approving.
Personnel Decisions in Recruitment
AI-supported pre-selection in recruiting is widespread in mid-sized companies. When the system shows a ranking or traffic-light rating, this influences subsequent human decisions — even when the person does not intend it. According to the Anthropic study, this could lead HR decision-makers to confirm an AI pre-selection based on random or biased features.
Legal and Tax Assessments
Law firms and tax advisors are increasingly using AI assistants that pre-structure situations and suggest courses of action. For professionals, this creates a temptation toward simplification: taking the suggested path rather than analyzing independently. This is particularly risky where there is no single correct answer — especially in complex interpretation questions.
"Those who delegate decisions to AI still bear full responsibility. Only those who know this and actively counteract it can manage it."
warning
Automation Bias: What It Is and Why It OccursAutomation bias describes the tendency to follow machine recommendations — even when no rational basis exists and even when the person is aware of the AI recommendation. The Anthropic study shows that this effect occurs even in trained professionals under controlled conditions. For companies, this means: an approval button alone does not ensure genuine human oversight. Structural countermeasures are needed — such as a mandatory alternative justification or regular spot checks.
| Decision Area | Automation Bias Risk | Recommended Countermeasure |
|---|
| Credit / payment approvals | High | Four-eyes principle, require documented rejection rationale |
| Personnel selection (recruiting) | Very high | Define AI as filter, not decision-maker |
| Procurement / supplier selection | Medium | Actively request alternatives, maintain audit trail |
| Legal / tax assessments | High | Label AI output as draft, not as conclusion |
What Companies Should Put in Place Now
The study provides grounds to review existing AI-supported decision processes. Three concrete measures help structurally limit automation bias:
- Mandatory alternative justification: In critical workflows, employees should not only be able to click "Approve" but should briefly document why they follow or deviate from the AI recommendation.
- Regular spot checks: Leaders should periodically review decisions where the AI provided a recommendation. If a pattern of unchecked adoption emerges, that is a warning signal.
- Conscious training: Employees working with AI systems should be informed about automation bias — not as a warning, but as structural knowledge about their own decision-making behavior.
Conclusion
The Anthropic study delivers the most precise empirical evidence to date that automation bias is not a theoretical problem — it occurs in experts, under controlled conditions, on tasks for which they are trained. For SMEs embedding AI more deeply into operational decisions, this is a direct prompt to review existing processes.
At ATLAS Consulting, we recommend asking a simple control question for every AI-supported decision process: could the agent be followed unconsciously here, without the person being aware of it? If the answer is yes, a structural countermeasure belongs in the process — not a warning, but a fixed process step.