DevOps Engineer – AI / LLMOps (m/w/d)
SOMI Experts GmbH
Ansprechpartner: SOMI Experts
Frankfurt am Main, Deutschland
Verkehr und LogistikContinuous IntegrationDevOpsDataOpsVrealize Operations Manager (VROPS)Full Stack EntwicklungDevSecOps
Beschreibung
Für ein spannendes Projekt im Umfeld einer KI-gestützten Datenqualitätslösung suchen wir einen erfahrenen DevOps Engineer (m/w/d) mit Schwerpunkt auf AI-Architekturen, LLMOps, CI/CD und IT-Security.
Ziel des Projekts ist die Weiterentwicklung und produktionsreife Bereitstellung einer KI-basierten Anwendung zur automatisierten Messung und Sicherstellung von Datenqualität.
Deine Aufgaben
- Analyse und Weiterentwicklung einer bestehenden KI-/AI-Architektur hinsichtlich Skalierbarkeit, Integration und Betriebsfähigkeit
- Umsetzung von Maßnahmen für eine produktionsreife AI-Lösung, einschließlich Architektur-Hardening und API-Integration
- Beratung und Umsetzung von IT-Sicherheits-, Governance-, Datenschutz- und Compliance-Anforderungen
- Implementierung und Pflege von CI/CD-Pipelines mit Fokus auf LLMOps
- Aufbau und Nutzung von Prompt-/Model Registries, Evaluation Pipelines, Tracing und Feedback Loops
- Durchführung von Threat Modeling und Abuse-Case-Analysen, insbesondere hinsichtlich Prompt Injection, Tool Abuse, sensibler Daten und Datenexfiltration
- Entwicklung von Skripten und Tools zur Automatisierung wiederkehrender Prozesse
- Benchmarking und Bewertung von KI-Modellen hinsichtlich Qualität, Performance, Kosten und Robustheit
- Monitoring von Systemen und Anwendungen mittels Logging, Metrics, Tracing und LLM-/Agent-Telemetrics
- Unterstützung bei Incident Handling, Recovery und Betriebsübergaben
Dein Profil
- Mindestens 3 Jahre Erfahrung mit Implementierung und Wartung von AI-Architekturen
- Praktische Erfahrung in der Fullstack-Entwicklung und Zusammenarbeit mit Softwareentwicklern
- Erfahrung mit CI/CD und LLMOps
- Kenntnisse in Prompt-/Model Registry, Evaluation Pipelines, Tracing und Feedback Loops
- Erfahrung im Bereich AI Security, insbesondere Threat Modeling und Abuse-Case-Analyse
- Kenntnisse zu Risiken wie Prompt Injection, Datenexfiltration und Tool Abuse
- Erfahrung in der Entwicklung von Skripten und Automatisierungstools
- Sehr gute Deutschkenntnisse auf C2-Niveau
Von Vorteil
- Erfahrung in der Dokumentation von Prozessen, Systemen und Anwendungen
- Evaluierung und Einführung neuer DevOps-Technologien und -Tools
- Erfahrung mit Observability: Logging, Metrics, Tracing, SLOs und Telemetrie
- Kenntnisse in Zugriffssteuerung, Angriffserkennung und Cyber-Security
- Erfahrung mit agilen Methoden, Continuous Integration/Delivery und Testautomatisierung