RAG-Wissensdatenbank: Übernahme, Umzug ins Rechenzentrum und Betrieb (Podman, pgvector, Claude Code)

Worum es geht

Eine RAG-Plattform für eine mittelständische Unternehmensgruppe: Mitarbeitende stellen Fragen an mehrere hunderttausend Dokumentabschnitte, die Antworten kommen mit Quellen. Die Plattform läuft mit offenen Modellen und ohne US-Cloud – das ist der Kern des Projekts. Der MVP ist in Betrieb, als Nächstes zieht das System in ein Rechenzentrum in Österreich um.

Das Einstiegspaket

- Übernahme: Übergabesessions mit dem MVP-Entwickler, Code und Betriebsdoku durchgehen, offene Punkte benennen

- Aufbau in der bereitgestellten Umgebung: Container rootless mit Podman und Quadlet (systemd), Reverse Proxy mit Caddy, Anmeldekette mit Authelia und LLDAP

- Übernahme des Datenbestands: PostgreSQL mit pgvector (HNSW-Indizes, rund ***** Abschnitte), Dump, Restore, Prüfung

- Anbindung der Sprachdienst-Schnittstelle: Chat-Modell aus der Qwen-Familie, Embeddings bge-m3, Reranker bge-reranker-v2-m3 über einen OpenAI-kompatiblen Endpunkt

- Benutzerverwaltung und Zugriffsbegrenzung, Nachweis, dass Suche und Antworten nach dem Umzug gleichwertig funktionieren

Was du mitbringst (Pflicht)

- Du hast ein RAG-System in Produktion gebracht oder betreut: Embeddings, Reranking, Vektorsuche (idealerweise pgvector)

- KI-assistiertes Coding mit Claude Code (Muss) sowie MCP (Model Context Protocol) und Agenten-Werkzeuge

- Sicherer Linux-Betrieb mit Containern; Podman/Quadlet oder Docker Compose mit systemd

- PostgreSQL-Administration: Backup, Restore, Extensions, Migrationen

- Anmeldung und Zugriff: OIDC, Reverse Proxy, LDAP-Grundlagen

- Deutsch für die Abstimmung mit dem Kunden; DSGVO-Verständnis (EU-Datenresidenz, Umgang mit personenbezogenen Daten)

Schön, aber kein Muss

- NestJS/TypeScript und Angular (Backend und Oberfläche der Plattform), Python (Konnektoren, OCR)

- Kubernetes/k3s (der bisherige Betrieb, der abgelöst wird)

- Erfahrung mit Umzügen in Colocation- oder souveräne Rechenzentren

Wie wir zusammenarbeiten

Wir arbeiten paketbasiert: Fixpreis pro Arbeitspaket mit klaren Abnahmekriterien, kein Stundentracking. Wie du arbeitest, entscheidest du, auch ob du parallel an Tickets arbeitest; KI-Werkzeuge im eigenen Arbeitsablauf setzen wir voraus und liefern dazu Konfigurationen und Standardisierungen. 100 % remote, Start ab sofort, Teilzeit möglich. Das Einstiegspaket ist bewusst klein geschnitten; wer es sauber liefert, bleibt für den Betrieb dabei.

Deine Rückmeldung

Bitte kurz und konkret: ein RAG-System, das du aufgebaut oder betrieben hast (Vektorsuche, Umgebung, deine Rolle), und deine Verfügbarkeit kurzfristig. Allgemeine Profiltexte beantworten wir nicht.