AI-Plattform Engineer (m/w/d), remote/Pliezhausen (ID: 30616)
Contractor Consulting GmbH
Ansprechpartner: Lona Giernat
remotePliezhausen, Deutschland
Beschreibung
für unser Kundenprojekt suche ich aktuell eine/n AI-Plattform Engineer (m/w/d) (30616).
Ist dies ein passendes Projekt für Sie? Ich freue mich auf Ihre Rückmeldung!
Start: asap
Dauer: 3 Monate+
Einsatzort: remote/Pliezhausen
Aufgaben:
Für unseren Kunden suchen wir derzeit einen AI Plattform Engineer (m/w/d)
Ihre Aufgaben:
- (Weiter-)Entwicklung und Betreuung der LLM-Plattform (inkl. OpenAI-kompatiblem Gateway, Modell Serving und GPU-Infrastruktur)
- Implementierung kundenspezifischer Wissensanbindungen (RAG)
- Qualitätssicherung, inkl. Monitoring und Observability für Performance, Qualität und Nutzung der KI-Dienste
- (Weiter-)Entwicklung und Betrieb der containerbasierten Plattform
- Betrieb der Linux-, Cloud- und Datenbank-Infrastruktur hinsichtlich Stabilität, Sicherheit und Verfügbarkeit
- Aufbau von Monitoring-, Logging- und Alerting-Lösungen
- Dokumentation und Wissenstransfer
Anforderungen:
must-have:
-Erfahrung im DevOps-, Plattform-Engineering- oder Cloud-/Infrastruktur-Umfeld
-Fundierte Praxiserfahrung mit Kubernetes, Docker und Linux
-Kenntnisse mit CI/CD-Pipelines, Cloud-Plattformen (insb. Azure) sowie PostgreSQL
-Know-How im Aufbau und produktiven Betrieb von LLM- und KI-Diensten (LiteLLM. llm-d, vLLM)
-Praktische Erfahrung mit LLM-Gateways, RAG-Architekturen, Vector-Datenbanken und Modell-Serving-Lösungen
-Solide Python-Kenntnisse für Automatisierung und Integrationen
-Kenntnisse mit Grafana
Umfeld:
LLM, Kubernetes, Docker, Linux, Azure, PosrgreSQL, Python, Grafana
Für Ihre Bewerbung und weitere Informationen nutzen Sie bitte diesen Link:
https://experts.contractor.de/projektangebot-details/30616/?so=-1&ts=610cb683a65df7e4a48e79336a89e747&cr=RFQFLM&utm_source=newsletter&utm_medium=RFQFLM&utm_campaign=30616
Weitere interessante Projekte finden Sie in unserer LinkedIn Gruppe: https://www.linkedin.com/groups/*****/
Beste Grüße
Kirsten Wiehle
Senior Recruiterin
***** | ***@***.de
Contractor Consulting GmbH
Adams-Lehmann-Str. 56
80797 München
https://www.contractor.de - we consult | we create | we recruit
Datenschutzerklärung: https://www.contractor.de/datenschutz/
Geschäftsführer: Alexander Ulrich | Amtsgericht München, HRB 187777 | Sitz der Gesellschaft: München
Ist dies ein passendes Projekt für Sie? Ich freue mich auf Ihre Rückmeldung!
Start: asap
Dauer: 3 Monate+
Einsatzort: remote/Pliezhausen
Aufgaben:
Für unseren Kunden suchen wir derzeit einen AI Plattform Engineer (m/w/d)
Ihre Aufgaben:
- (Weiter-)Entwicklung und Betreuung der LLM-Plattform (inkl. OpenAI-kompatiblem Gateway, Modell Serving und GPU-Infrastruktur)
- Implementierung kundenspezifischer Wissensanbindungen (RAG)
- Qualitätssicherung, inkl. Monitoring und Observability für Performance, Qualität und Nutzung der KI-Dienste
- (Weiter-)Entwicklung und Betrieb der containerbasierten Plattform
- Betrieb der Linux-, Cloud- und Datenbank-Infrastruktur hinsichtlich Stabilität, Sicherheit und Verfügbarkeit
- Aufbau von Monitoring-, Logging- und Alerting-Lösungen
- Dokumentation und Wissenstransfer
Anforderungen:
must-have:
-Erfahrung im DevOps-, Plattform-Engineering- oder Cloud-/Infrastruktur-Umfeld
-Fundierte Praxiserfahrung mit Kubernetes, Docker und Linux
-Kenntnisse mit CI/CD-Pipelines, Cloud-Plattformen (insb. Azure) sowie PostgreSQL
-Know-How im Aufbau und produktiven Betrieb von LLM- und KI-Diensten (LiteLLM. llm-d, vLLM)
-Praktische Erfahrung mit LLM-Gateways, RAG-Architekturen, Vector-Datenbanken und Modell-Serving-Lösungen
-Solide Python-Kenntnisse für Automatisierung und Integrationen
-Kenntnisse mit Grafana
Umfeld:
LLM, Kubernetes, Docker, Linux, Azure, PosrgreSQL, Python, Grafana
Für Ihre Bewerbung und weitere Informationen nutzen Sie bitte diesen Link:
https://experts.contractor.de/projektangebot-details/30616/?so=-1&ts=610cb683a65df7e4a48e79336a89e747&cr=RFQFLM&utm_source=newsletter&utm_medium=RFQFLM&utm_campaign=30616
Weitere interessante Projekte finden Sie in unserer LinkedIn Gruppe: https://www.linkedin.com/groups/*****/
Beste Grüße
Kirsten Wiehle
Senior Recruiterin
***** | ***@***.de
Contractor Consulting GmbH
Adams-Lehmann-Str. 56
80797 München
https://www.contractor.de - we consult | we create | we recruit
Datenschutzerklärung: https://www.contractor.de/datenschutz/
Geschäftsführer: Alexander Ulrich | Amtsgericht München, HRB 187777 | Sitz der Gesellschaft: München