Eine zentrale RAG-Wissensbasis, die Agenten über MCP als Retrieval-Tool nutzen können.
Fallstudie von Ozan Orhan, AI Engineer aus Hannover
Projekt 03 · RAG · Vector Retrieval · MCP
Interne Dokumente sollten mehreren AI-Assistenten zur Verfügung stehen, ohne Retrieval und Datenanbindung für jeden Agenten erneut aufzubauen.
Dafür habe ich die Wissensbasis als eigene Retrieval-Schicht umgesetzt, die über MCP von unterschiedlichen Clients genutzt werden kann.
Die Architektur besteht aus zwei getrennten Workflows. Der Ingest-Pfad lädt Dokumente, zerlegt sie in Chunks, erzeugt mehrsprachige Embeddings und speichert Text und Vektoren in PostgreSQL mit Vektor-Erweiterung.
Der Retrieval-Pfad stellt die Wissensbasis über einen MCP-Server als read-only Tool bereit. Eine Anfrage wird mit demselben Embedding-Modell verarbeitet und über eine dedizierte Match-Funktion gegen den Vector Store gesucht. Dadurch bleiben Dokumentverarbeitung und Serving voneinander getrennt.
Der MCP-Server stellt eine klar begrenzte Fähigkeit bereit: semantische Suche in der Wissensbasis. Agenten müssen dadurch weder Datenbankzugriff noch Retrieval-Logik selbst implementieren. Änderungen an Chunking, Embeddings oder Suche können zentral vorgenommen werden.
Dokumentverarbeitung und Retrieval laufen als getrennte Workflows. Ein neuer Ingest kann dadurch unabhängig von laufenden Anfragen ausgeführt und verändert werden.
Die Beschreibung des MCP-Tools erklärt dem Agenten, wann und wofür die Wissensbasis verwendet werden soll. Ich behandle Tool-Name, Beschreibung, Input-Schema und Rückgabeformat deshalb wie eine API-Schnittstelle und nicht nur als technische Metadaten.
Über MCP wird ausschließlich Retrieval angeboten. Schreiboperationen auf Dokumente oder Vector Store sind nicht Bestandteil des exponierten Tools. Datenbank- und Modellzugriffe laufen über den Credential Store.
Da Dokumente überwiegend deutsch sind, Anfragen aber auch auf Englisch erfolgen können, verwende ich ein mehrsprachiges Embedding-Modell. Die Similarity Search liegt als eigene Match-Funktion in PostgreSQL und kann unabhängig von den Clients angepasst werden.
Die Wissensbasis stellt internes Wissen zentral über MCP bereit.
Neue MCP-fähige Agenten können dieselbe Retrieval-Schicht verwenden, ohne jeweils eine eigene Dokumentpipeline oder Datenbankanbindung zu benötigen. Änderungen an Chunking, Embeddings oder Match-Logik wirken damit zentral für alle angebundenen Clients.
Fragen zur Umsetzung oder ein Gespräch über eine Rolle im AI Engineering? Zum Kontakt
