Senior AI Platform Engineer (LLM & Infrastructure) – Universitätsklinikum – hybrid München (m/w/d)

SThree GmbH
Ansprechpartner: Jessica Wächter
München,  Deutschland
60% RemoteFreiberuflichab sofort80% Auslastung
Medizin und PharmaAI AgentsRAGLLMTritonPlatform EngineeringMLOpsKünstliche IntelligenzInfrastrukturCloud PlatformLarge Language ModelsGpu ProgrammingInfrastructure as Code (IaC)Cloud IntegrationTerraformArtificial Intelligence Markup Language (AIML)

Beschreibung

Für ein Universitätsklinikum in München suche ich ab sofort einen erfahrenen freiberuflichen Senior AI Platform Engineer (LLM & Infrastructure) zur Unterstützung beim Aufbau einer zentralen KI-Plattform.
Im Fokus stehen die initiale Inbetriebnahme von GPU-/Server-Infrastruktur, der Aufbau erster LLM-/RAG-Komponenten sowie die technische Begleitung erster Forschungs- und KI-Projekte in einem regulierten Umfeld.


Ich freue mich auch sehr über Empfehlungen aus Ihrem Netzwerk!


Aufgaben:
  1. Unterstützung beim Aufbau und Betrieb einer AI-/LLM-Plattform im Klinik- und Forschungsumfeld
  2. Setup und Inbetriebnahme von GPU-Servern für erste KI- und LLM-Workloads
  3. Unterstützung beim Deployment erster Modelle sowie bei Zugängen und Nutzbarkeit für erste Forschungs- und Projektteams
  4. Aufbau bzw. Unterstützung bei RAG-Architekturen, Vektordatenbanken und Datenanbindungen
  5. Technische Beratung zu Hybrid-Architekturen (Cloud + On-Prem), Skalierung, Sicherheit und Betrieb
  6. Mitwirkung beim Aufbau technischer Standards, Templates und einer Basis für den weiteren Plattformausbau
  7. Wissenstransfer und Übergabe an das spätere interne Team

Anforderungen
Must-haves:
  1. Mehrjährige praktische Erfahrung im Aufbau und Betrieb von AI-/LLM-Plattformen oder vergleichbarer KI-Infrastruktur
  2. Erfahrung mit GPU-basierten Workloads, Server-Setups und produktivem LLM-Betrieb / Inference
  3. Sehr gute Kenntnisse in Docker, Linux, Networking, Storage und idealerweise Kubernetes
  4. Erfahrung mit Hybrid-Architekturen sowie mit mindestens einer Cloud-Plattform (z. B. Azure, AWS oder GCP)
  5. Erfahrung mit RAG-Systemen, Vektordatenbanken und der Anbindung relevanter Datenquellen
  6. Erfahrung im regulierten Umfeld, z. B. Healthcare, Forschung, Public Sector oder KRITIS-nahem Bereich
  7. Strukturierte, pragmatische und hands-on Arbeitsweise in einem Umfeld im Aufbau
  8. Sehr gute Deutsch- und gute Englischkenntnisse

Nice-to-haves:
  1. Erfahrung mit On-Prem-GPU-Clustern, GPU-Scheduling oder ähnlichen Infrastruktur-Setups
  2. Kenntnisse in LLM-Inference-Stacks wie z. B. vLLM, TGI, Triton oder Ray
  3. Erfahrung mit IaC / Infrastructure as Code (z. B. Terraform, Bicep) sowie LLMOps / MLOps

Rahmenbedingungen:
  1. Start: ab sofort / ASAP
  2. Einsatzort: hybrid, ca. 40% Onsite (München) & 60% Remote
  3. Auslastung: Vollzeit oder Teilzeit (mind. 3 Tage / Woche)
  4. Laufzeit: ca. 3-12 Monate, Option auf Verlängerung

Interesse?
Dann senden Sie mir Ihren aktuellen Lebenslauf und gehen bitte kurz darauf ein:
  1. Welche Erfahrungen haben Sie bereits mit dem Aufbau einer KI-Plattform im regulierten Umfeld gemacht?
  2. Ab wann sind Sie verfügbar?
  3. Welchen Stundensatz können Sie anbieten?

Ich freue mich auf Ihre Bewerbung!

Bewerben