Machine Learning Engineer – LLM & Agentic AI (m/w/d)

HR Solutions GmbH
Ansprechpartner: HR Solutions GmbH
Hannover,  Deutschland
80% RemoteFreiberuflichDauer 12 Monate
Hochschulen und Behörden und VerbändeKünstliche IntelligenzLernmanagementsystemeMaschinensteuerungenMachine LearningOpenShiftAzure Machine LearningIntegration (Software)GrafanaBackendMachine Learning OperationsArtificial Intelligence Markup Language (AIML)Jenkins

Beschreibung

Für unseren Kunden suchen wir einen erfahrenen Machine Learning Engineer – LLM & Agentic AI (m/w/d).

Start: 16.11.2026
Dauer: bis 01.12.2027
Arbeitsort: 90 % remote, 10 % vor Ort in Hannover, Hamburg oder München
Auslastung: Vollzeit

Ziel
Entwicklung und Weiterentwicklung skalierbarer KI- und GenAI-Lösungen sowie deren Integration in bestehende Fachanwendungen. Schwerpunkte sind LLM-basierte Dialogsysteme, RAG-Systeme, agentische Architekturen sowie deren sichere und qualitativ hochwertige Produktivsetzung und Betrieb.

Aufgaben
  • Implementierung und Integration LLM-basierter Dialogsysteme und semantischer Suchlösungen
  • Aufbau und Pflege von RAG-Systemen einschließlich Wissensbasis-Management, Indexierung und Aktualisierung strukturierter und unstrukturierter Datenquellen sowie quellengetrennter Ablage
  • Konzeption und Weiterentwicklung graphenbasierter agentischer Dialogsysteme von der Intent-Erkennung über Wissensabruf und Extraktion bis zur deterministischen Dialogführung und Anbindung fachlicher Services
  • Produktivsetzung agentischer Systeme einschließlich Tool- und Function-Calling sowie Integration in bestehende Portalsysteme
  • Verantwortung für Betrieb, Deployment und Monitoring der KI-Lösungen und Infrastruktur im Rahmen von MLOps
  • Sicherstellung der Observability durch strukturiertes Logging, Fehleranalyse sowie Dashboards und Alerting (idealerweise Grafana)
  • Optimierung von Antwortqualität, Latenz und technologischer Basis anhand von Monitoring-Daten, Testergebnissen und Nutzerfeedback
  • Aufbau einer systematischen Qualitätsmessung mit versionierten Eval-Sets, Metrik-Katalogen und automatisierten Evaluationsläufen zur Erkennung von Qualitätsregressionen
  • Entwicklung von Datenpipelines zur Datenaufbereitung und Modellerstellung sowie Erprobung neuer KI-Anwendungsfelder bis zur Produktivsetzung
  • Absicherung durch Guardrails, Schutzmaßnahmen gegen Jailbreak- und Prompt-Injection-Angriffe sowie Filterung von Ein- und Ausgaben
  • Analyse von Penetrationstests und Umsetzung der Sicherheitsbefunde sowie datenschutzkonforme Gestaltung, insbesondere beim Umgang mit personenbezogenen Daten in Logging- und Observability-Prozessen
  • Deployment und Betrieb in produktionsnahen Umgebungen mit Kubernetes bzw. OpenShift, ArgoCD und Jenkins

Kenntnisse
  • Abgeschlossenes Studium der Informatik, Wirtschaftsinformatik oder vergleichbare Ausbildung
  • Mindestens 3 Jahre Berufserfahrung als Machine Learning Engineer mit praktischer Erfahrung in Entwicklung, Implementierung und Optimierung skalierbarer ML-Lösungen
  • Mindestens 2 Jahre Erfahrung in agilen Entwicklerteams
  • Deutschkenntnisse mindestens B2 (Sprachzertifikat oder Muttersprache)
  • Erfahrung in der Absicherung von LLM-Anwendungen mit Guardrails, Schutzmaßnahmen gegen Jailbreak- und Prompt-Injection-Angriffe sowie Ein- und Ausgabefiltern
  • Erfahrung mit agentischen Systemen, graphenbasierten Architekturen, Tool- und Function-Calling sowie deterministischer Dialogführung
  • Kenntnisse in Vektorsuche und semantischer Indexierung sowie praktische Erfahrung mit Milvus (Aufbau, Beladung und Wiederherstellung durchsuchbarer Wissensbasen)
  • Erfahrung in der Backend-Entwicklung mit FastAPI
  • Kenntnisse in LLM-Orchestrierungsframeworks wie LangChain und LangGraph
  • Erfahrung im produktiven KI-Betrieb (MLOps), insbesondere Monitoring, Logging, Observability, Fehleranalyse und Deployment
  • Erfahrung mit Dashboards und Alerting, idealerweise Grafana
  • Erfahrung in der Qualitätsmessung von GenAI-Lösungen mit versionierten Eval-Sets, Metriken, automatisierten Evaluationsläufen und Erkennung von Qualitätsregressionen
  • Erfahrung mit datenschutzkonformer Gestaltung von KI-Systemen, insbesondere im Umgang mit personenbezogenen Daten in Logging- und Observability-Prozessen
  • Gute Kenntnisse in Kubernetes bzw. OpenShift, ArgoCD und Jenkins
  • Erfahrung in agilen Lieferstrukturen, idealerweise SAFe, einschließlich Mitarbeit in einem SAFe-Zug und Teilnahme an PI-Planungen
  • Idealerweise Projekterfahrung in der öffentlichen Verwaltung, im regulierten Umfeld oder bei Trägern der gesetzlichen Sozialversicherung
Wir freuen uns auf Ihren CV mit Angaben zu relevanten Projekterfahrungen, Stundensatz und möglichem Startdatum.
Bei Rückfragen stehen wir Ihnen gerne zur Verfügung.


Bewerben