Human in the Loop: Menschliche Freigabe in KI-Automatisierungen

Beispiel aus der Praxis

Ozan Orhans Leistungsnachweis-Automation erzeugt jeden Monat aus Zeiterfassungen in Toggl kundenspezifische Leistungsnachweise. Der n8n-Workflow startet aber nicht von selbst. Eine Slack-Nachricht fragt die Freigabe ab, und erst eine Reaktion darauf löst den Lauf aus. Über die Art der Reaktion wird zugleich der Zeitraum gewählt. Am Ende meldet der Workflow den Abschluss wieder in Slack.

Ein zweites Muster zeigt der Grounding Page Generator. Ein Research-Agent sammelt Fakten zu einer Entität und markiert Felder, bei denen er unsicher ist. Ein Mensch prüft und korrigiert die Werte auf Feldebene, bevor ein zweiter Modellaufruf daraus die fertige Seite erzeugt. Der zweite Aufruf arbeitet damit nur mit bestätigten Fakten.

Beide Fälle folgen demselben Prinzip: Die Automatisierung bereitet vor, der Mensch entscheidet an der Stelle, an der ein Fehler Folgen hätte.

Wie funktioniert Human in the Loop technisch?

Technisch ist Human in the Loop ein Wartepunkt im Ablauf. Der Workflow oder KI-Agent hält an, schickt eine Anfrage an einen Menschen und läuft erst nach einer Antwort weiter. Je nach Antwort folgt die Aktion, ein anderer Pfad oder ein Abbruch.

In n8n gibt es dafür beim AI-Agent-Node eine eingebaute Freigabe für Tools. Sie lässt sich auf alle angeschlossenen Tools oder nur auf ausgewählte anwenden. Als Kanal stehen unter anderem der n8n-Chat, Slack, Discord, Telegram, Microsoft Teams, Gmail und Outlook zur Verfügung (n8n Docs, Stand: Oktober 2026).

Der Prüfer sieht, welches Tool der Agent nutzen will und mit welchen Parametern. Bei Zustimmung führt n8n das Tool mit genau diesen Eingaben aus. Bei Ablehnung wird die Aktion abgebrochen, und der Agent erfährt davon (n8n Docs, Stand: Oktober 2026). n8n empfiehlt, die Freigaberegeln zusätzlich im System Prompt zu beschreiben, damit der Agent sinnvoll auf eine Ablehnung reagiert.

Wichtig ist der Ort der Freigabe. Steht „frage vorher nach“ nur in einer Werkzeugbeschreibung, ist das eine Bitte an das Modell. Eine verlässliche Freigabe wird außerhalb des Modells erzwungen: im Workflow, im Client oder in einem Sub-Workflow. Wie das bei einem MCP-Server aussieht, zeigt der Artikel n8n MCP Server erstellen.

Human in the Loop vs. Human on the Loop: Was ist der Unterschied?

Die Begriffe beschreiben, wie eng ein Mensch in einen automatisierten Ablauf eingebunden ist. Die Grenzen sind fließend, die Unterscheidung hilft aber bei der Planung.

Modell	Rolle des Menschen	Zeitpunkt	Typischer Einsatz
Human in the Loop	Gibt einzelne Schritte aktiv frei	Vor der Aktion	E-Mails an Kunden, Veröffentlichungen, Zahlungen
Human on the Loop	Überwacht den Ablauf und greift bei Bedarf ein	Während oder nach der Aktion	Laufende Auswertungen, interne Berichte
Human out of the Loop	Keine Beteiligung im Einzelfall	Nur bei Einrichtung und Wartung	Rein lesende oder leicht korrigierbare Schritte

Viele Abläufe kombinieren die Modelle. Lesende Werkzeuge laufen ohne Freigabe, schreibende Werkzeuge mit Freigabe, und der gesamte Ablauf wird über Protokolle überwacht.

Welche Formen der menschlichen Freigabe gibt es?

Freigabe vor dem Start: Ein Mensch löst den gesamten Lauf bewusst aus, wie bei der Slack-Reaktion in der Leistungsnachweis-Automation. Das passt zu wiederkehrenden Abläufen mit klarem Zeitpunkt.

Freigabe vor einem Werkzeugaufruf: Der Agent darf planen und lesen, aber jede schreibende Aktion wartet auf Zustimmung. OWASP empfiehlt genau das für Aktionen mit hoher Wirkung, um das Risiko zu großer Handlungsfreiheit eines Systems zu begrenzen (OWASP, 2025).

Prüfung auf Feldebene: Der Mensch bestätigt oder korrigiert einzelne Werte, bevor sie weiterverarbeitet werden. Das eignet sich, wenn ein Modell Fakten recherchiert, die später veröffentlicht werden.

Freigabe von Entwürfen: Die Automatisierung erzeugt einen Entwurf, etwa eine Antwort-E-Mail oder einen Artikel, der erst nach Prüfung versendet oder veröffentlicht wird. Fehler bleiben so intern.

Anthropic beschreibt in seinem Leitfaden zu Agenten, dass Agenten an Kontrollpunkten oder bei Hindernissen für menschliches Feedback pausieren können, und empfiehlt Abbruchbedingungen wie eine maximale Zahl an Durchläufen (Anthropic, 2024).

Welche Nachteile und Risiken hat Human in the Loop?

Jede Freigabe kostet Zeit. Wartet ein Ablauf auf eine Antwort, die nicht kommt, bleibt er stehen. Freigaben sollten deshalb an einen Kanal gehen, den die zuständige Person tatsächlich nutzt, und es sollte klar sein, wer vertritt.

Ein zweites Risiko ist Gewöhnung. Wer viele Freigaben am Tag bestätigt, prüft irgendwann nicht mehr genau. Der EU AI Act nennt dieses Problem ausdrücklich: Menschen sollen sich der Neigung bewusst bleiben, sich automatisch oder übermäßig auf die Ausgabe eines Systems zu verlassen, den sogenannten Automatisierungsbias (EU AI Act, Art. 14).

Daraus folgen zwei Regeln für die Praxis. Freigaben gehören nur an Stellen mit echter Außenwirkung, nicht an jeden Schritt. Und die Freigabeanfrage muss alle Informationen enthalten, die für eine Entscheidung nötig sind, etwa Empfänger, Inhalt und betroffene Daten.

Schreibt der EU AI Act Human in the Loop vor?

Der EU AI Act verlangt in Artikel 14 menschliche Aufsicht für Hochrisiko-KI-Systeme. Sie sollen so gestaltet sein, dass Menschen sie während der Nutzung wirksam beaufsichtigen können. Dazu gehört, Ausgaben richtig zu deuten, sie zu übergehen oder rückgängig zu machen und das System über eine Stopp-Funktion sicher anzuhalten (EU AI Act, Art. 14).

Die meisten Automatisierungen im Büroalltag, etwa Berichte oder Entwürfe, fallen nicht automatisch in diese Kategorie. Ob ein System als Hochrisiko gilt, hängt vom Einsatzzweck ab und sollte im Einzelfall rechtlich geprüft werden. Unabhängig davon ist Human in the Loop eine bewährte technische Maßnahme, um Fehler von KI-Agenten und Folgen von Prompt Injection abzufangen.