Thought Leadership

LLM-Wrapper vs. Agentic Workflows: Warum Architektur wichtiger ist als Modellgröße

TG Dr. Tobias Grüning, Chief Research Officer
März 2026 4 Min. Lesezeit IDP Agentic AI

Wrapper vs. Workflow

Eine Behörde evaluiert drei KI-Lösungen für ihre Dokumentenprozesse. Alle werben mit „KI-gestützter Dokumentenverarbeitung“ und „Agentic AI“. Im technischen Deep Dive stellt sich heraus, dass alle drei lediglich GPT-Aufrufe mit Prompt-Templates verwenden, ohne Feedback-Schleifen, Validierung oder Lernfähigkeit.

Gartner schätzt, dass von tausenden „Agentic AI“-Anbietern nur rund 130 echte agentenbasierte Fähigkeiten bieten. Gleichzeitig erreichen simple „LLM-Wrapper“ bei der Datenextraktion aus Dokumenten nur 66–77 % Genauigkeit, während spezialisierte IDP-Systeme 93–98 % liefern.

Die Fähigkeit, echte agentische Architekturen von API-Kosmetik zu unterscheiden, wird zur Kernkompetenz für technische Entscheider:innen im IDP-Umfeld. Denn der Unterschied ist keine Nuance, sondern entscheidet über die Produktionsreife einer Lösung.

Wrapper vs. Workflow: Der technische Unterschied

Hinter einfachen API-Aufrufen stecken LLM-Wrapper, eine Architektur, bei der Anwendungen im Kern aus einem einzigen Muster bestehen: Eingabe, Prompt-Template, API-Aufruf, Ausgabe. Es gibt keine Planung, keine Tool-Verwendung, kein Gedächtnis und keine Selbstkorrektur. Die gesamte Intelligenz liegt damit im externen Modell selbst, nicht in der Anwendung.

Agentic Workflows funktionieren fundamental anders. Andrew Ng definiert vier zentrale Design-Patterns, die echte agentenbasierte Systeme ausmachen: Reflection bedeutet, das System kritisiert und verbessert seine eigene Ausgabe iterativ. Tool Use ermöglicht Zugriff auf externe Werkzeuge wie Datenbanken, APIs oder Code-Ausführung. Planning zerlegt komplexe Aufgaben in Teilschritte mit dynamischer Anpassung. Multi-Agent Collaboration lässt spezialisierte Agenten arbeitsteilig koordinieren.

Andrew Ngs Benchmark macht den Unterschied greifbar: Ein kleineres, günstigeres Modell erreichte im Zero-Shot-Modus rund 48 % Genauigkeit auf dem HumanEval-Coding-Benchmark. Das damals leistungsfähigste verfügbare Modell kam auf 67 %. Doch das kleinere Modell mit Agentic Workflow erreichte 95,1 % und übertraf damit das größere Modell deutlich. Die Erkenntnis ist modellunabhängig und hat sich seitdem in zahlreichen weiteren Benchmarks bestätigt: Architektur schlägt Modellgröße.

0
Anbieter mit echten agentenbasierten Fähigkeiten (Gartner)
0%
Genauigkeit von LLM Wrappers bei der Datenextraktion aus Dokumenten
0%
Genauigkeit spezialisierter IDP Systeme

Die Schwächen der LLM-Wrapper

Das ist mehr als eine akademische Debatte. In der Praxis haben diese Unterschiede echte Konsequenzen:

Halluzination ohne Sicherheitsnetz

LLMs erzeugen bei komplexer Extraktion in 5 bis 20 % der Fälle Daten, die plausibel aussehen, aber falsch sind. Arxiv-Forschung von 2024 belegt mathematisch, dass Halluzinationen aufgrund fundamentaler computationstheoretischer Grenzen nicht eliminierbar sind. Sie können nur durch externe Validierungsschichten abgefangen werden, die bei einfachen LLM-Wrappern vollständig fehlen.

Keine strukturierte Ausgabegarantie

LLMs liefern nicht-deterministische Ergebnisse. Ein Datum kann als „25. Dez. 2024″ oder „2024-12-25″ zurückkommen – in wechselnden Durchläufen desselben Dokuments. Selbst bei aktuellen Top-Modellen zeigen Audits einen „Data Drift“, der sich bei tausenden Dokumenten mit dutzenden Feldern zu signifikanten Fehlern kumuliert. Wenn KI-Projekte an Integrationsproblemen scheitern, geht dies häufig auf inkonsistente Modellantworten zurück.

Keine Datensouveränität

Cloud-basierte LLM-APIs senden Dokumenteninhalte an Drittanbieter-Server. Jede Prompt-Eingabe kann personenbezogene Daten enthalten: Kundennamen, Kontodaten, medizinische Informationen. Für regulierte Branchen in Europa ist die Abhängigkeit von US-Clouds ein strategisches Risiko, nicht nur ein Compliance-Thema.

„Agent Washing“ erkennen: Evaluierungs-Checkliste

Der IDP-Markt wächst mit über 25 % jährlich und erreichte 2024 ein Volumen von etwa 2,3 Milliarden USD. Dieses Wachstum beschleunigt einen Paradigmenwechsel: weg von passiver Datenextraktion, hin zu proaktiver Document-to-Decision-Automatisierung. Die Bausteine dafür sind unter anderem Agentic OCR mit Vision-Language-Modellen und agentenbasierte Workflows mit LLM-gestützten Reasoning-Pipelines.

Gartner prognostiziert, dass Unternehmen bis 2027 kleine, aufgabenspezifische KI-Modelle dreimal häufiger einsetzen werden als allgemeine Large Language Models. Ein klarer Hinweis darauf, dass spezialisierte Ansätze den generischen „Ein Modell für alles“-Lösungen überlegen sind.

Gleichzeitig warnt Gartner vor dem sogenannten „Agent Washing“, also dem Umetikettieren bestehender Chatbots, RPA-Tools und KI-Assistenten als „Agentic AI“ ohne substanzielle neue Fähigkeiten. Die Prognose ist eindeutig: Mehr als 40 % der Agentic-AI-Projekte werden bis Ende 2027 abgebrochen, weil Kosten eskalieren und der geschäftliche Nutzen unklar bleibt.

Diese Aspekte sollten Entscheider:innen deshalb bei der Evaluierung von IDP-Lösungen betrachten:

  • Kann die Lösung on-premises laufen oder ist sie auf US-Cloud-APIs angewiesen? Ist die Architektur modell-agnostisch?

  • Wie verhindert das System Halluzinationen? Gibt es Validierungsschichten wie Business Rules, Schema-Enforcement oder Kreuzreferenz-Prüfungen?

  • Sind Ergebnisse nachvollziehbar durch Quellenverweise, Konfidenzwerte und Audit-Trails?

  • Verwendet der Anbieter eigene Kerntechnologien oder integriert er nur eine API?

Darüber hinaus sollten Entscheider:innen folgende Nachweise fordern:

  • Autonome Aufgabenabschlüsse ohne permanente menschliche Steuerung
  • Nachweisbare Reasoning- und Planungsfähigkeiten (nicht nur Textgenerierung)
  • Klare ROI-Metriken, die an Geschäftsergebnisse gekoppelt sind

Wer als Entscheider:in diese Fragen konsequent stellt, wird schnell erkennen, welche Anbieter KI-Substanz mitbringen und welche primär das API-Dashboard eines LLM-Anbieters hinter einem neuen Frontend verbergen.

Fazit

Die Verfügbarkeit leistungsfähiger Foundation Models hat die Eintrittsbarriere für IDP-Lösungen gesenkt. Doch genau diese Einfachheit erzeugt eine Illusion von Reife. Andrew Ngs zentrale Erkenntnis zeigt: Ein kleineres Modell mit Agentic Workflow übertrifft ein größeres im Zero-Shot-Modus. Die Architektur um das Modell herum ist wichtiger als das Modell selbst. Feedback-Schleifen, Validierung, domänenspezifische Optimierung und persistentes Gedächtnis sind keine optionalen Features. Sie sind die Voraussetzung für produktionstaugliche Dokumentenverarbeitung.

Die Anbieter, die in den nächsten Jahren den IDP-Markt prägen werden, verbinden eigene Kerntechnologie mit agentenbasierter Orchestrierung: proprietäre Erkennungsmodelle als hochwertige Datenbasis, spezialisierte Agenten für verschiedene Verarbeitungsschritte, vollständige Datensouveränität für europäische Compliance-Anforderungen und forschungsgetriebene Weiterentwicklung statt reiner API-Integration. Die entscheidende Frage ist deshalb nicht mehr „welches LLM läuft im Backend“, sondern „welche Intelligenz wurde darum herum gebaut“.

Die entscheidende Frage ist deshalb nicht mehr „welches LLM läuft im Backend“, sondern „welche Intelligenz wurde darum herum gebaut“.

Dr. Tobias Grüning, Chief Research Officer, PLANET AI

Dr. Tobias Grüning — Chief Research Officer, PLANET AI

  • Der ausgebildete Mathematiker promovierte im Bereich der KI-basierten Handschrifterkennung für historische Dokumente. Seit 2018 leitet er die Forschungsabteilung bei PLANET AI. Das Team widmet sich von Beginn an der KI-gestützten Dokumentenverarbeitung und konzentriert sich zunehmend auf die Nutzung von LLM-basierten Technologien für die Dokumentenanalyse.

Neueste Artikel

Automatisierung starten

Erleben Sie IDA live im Einsatz. Eigene KI-Modelle, automatisierte Workflows, volle Datensouveränität – testen Sie es mit Ihren eigenen Dokumenten.

Während IDA Ihre Dokumentenberge in strukturierte Daten verwandelt, macht JAIDE dieses Wissen für Ihre Mitarbeitenden nutzbar. Gemeinsam bilden sie die komplette Lösung: Von der präzisen Erfassung über die automatische Klassifikation bis zur KI-gestützten Wissensnutzung und Beantwortung komplexer Fragen.

2026-03-26T15:26:39+01:00März 26, 2026|Categories: IDP, JAIDE|
Go to Top