Structured Output: Strukturierte Antworten von Sprachmodellen

Beispiel aus der Praxis

Im Recruiting Jobs Sync liest ein LLM Stellenanzeigen aus bereinigtem HTML aus. Die Extraktion ist an ein Schema gebunden, und ein Enum begrenzt die möglichen Werte für die Seniorität. So landen nicht „Senior“, „Sr.“ und „erfahren“ als drei verschiedene Werte in der Datenbank, und die Stellen bleiben über mehrere Läufe konsistent gruppierbar.

Der Grounding Page Generator geht einen Schritt weiter. Der Generierungsschritt erzeugt Titel, Meta-Description, JSON-LD und HTML-Body gegen ein striktes Schema, das die Pflichtbausteine eines Standards abbildet und zusätzliche, nicht definierte Felder verhindert. Die inhaltliche Prüfung der Fakten übernimmt davor ein Mensch.

In beiden Fällen sorgt das Schema für die Form der Daten, nicht für ihre Richtigkeit. Diese Trennung ist der Kern von Structured Output.

Wie funktioniert Structured Output?

Die Anwendung übergibt dem Modell zusammen mit dem Prompt ein JSON-Schema. Es legt fest, welche Felder es gibt, welchen Typ sie haben, welche Pflicht sind und welche Werte ein Feld annehmen darf.

Bei echtem Structured Output prüft nicht erst die Anwendung das Ergebnis, sondern das Modell kann gar nicht anders antworten. Anthropic beschreibt, dass das Schema in eine Grammatik übersetzt wird, die die Ausgabe von Claude einschränkt; das Verfahren heißt Constrained Decoding (Anthropic, Structured Outputs). OpenAI formuliert das Ziel so, dass das Modell immer Antworten erzeugt, die dem übergebenen JSON-Schema entsprechen (OpenAI, Structured Outputs).

Auch lokale Modelle unterstützen das. Ollama nimmt über das Feld format ein JSON-Schema entgegen und erzwingt damit die Struktur der Antwort (Ollama-Dokumentation, Structured Outputs); mehr dazu unter lokales LLM.

Structured Output vs. JSON-Mode: Was ist der Unterschied?

OpenAI hält fest, dass der JSON-Mode nur gültiges JSON sicherstellt, Structured Outputs dagegen zusätzlich die Einhaltung des Schemas, und empfiehlt Structured Outputs, wo immer möglich (OpenAI, Structured Outputs).

Structured Output oder Tool Calling: Was passt wann?

Beide nutzen Schemas, beantworten aber unterschiedliche Fragen. Anthropic unterscheidet JSON-Ausgaben, die das Format der Antwort steuern, von Strict Tool Use, das die Parameter von Tool-Aufrufen validiert (Anthropic, Structured Outputs).

OpenAI gibt eine ähnliche Faustregel: Function Calling, wenn das Modell Tools oder Funktionen der Anwendung aufrufen soll; ein festes Antwortformat, wenn die Antwort selbst eine bestimmte Struktur haben soll (OpenAI, Structured Outputs). Ein KI-Agent braucht meist beides.

Wie nutzt man Structured Output in n8n?

In n8n gibt es dafür den Knoten Structured Output Parser. Er gibt Felder auf Basis eines JSON-Schemas zurück, das man entweder aus einem Beispiel-JSON erzeugen lässt oder selbst definiert (n8n-Dokumentation). Beim Erzeugen aus einem Beispiel behandelt n8n alle Felder als Pflichtfelder; Verweise per $ref werden nicht unterstützt (n8n-Dokumentation).

Wie sich Agenten in n8n aufbauen lassen und wann ein fester Workflow besser passt, beschreibt der Artikel n8n Agents vs. AI-Agent-Node.

Wo hat Structured Output Grenzen?

Das Schema garantiert die Form, nicht den Inhalt. Ein Feld „Datum“ kann ein gültiges, aber falsches Datum enthalten. Werte, die Folgen haben, sollten deshalb im Workflow geprüft oder per Human-in-the-Loop freigegeben werden.

Es gibt außerdem Sonderfälle. Anthropic nennt Ablehnungen aus Sicherheitsgründen und Antworten, die am Token-Limit abbrechen, als Fälle, in denen die Ausgabe nicht dem Schema entspricht; bei Enums können Werte in der Groß- und Kleinschreibung abweichen (Anthropic, Structured Outputs). OpenAI empfiehlt ebenfalls, vor dem Parsen auf Ablehnungen und unvollständige Antworten zu prüfen (OpenAI, Structured Outputs).

Nicht jede JSON-Schema-Funktion wird unterstützt. Anthropic schließt unter anderem rekursive Schemas sowie Zahlen- und Längenbeschränkungen wie minimum oder maxLength aus (Anthropic, Structured Outputs, Stand: Oktober 2026). Solche Regeln gehören dann in eine Prüfung nach der Antwort, zum Beispiel als Guardrails.