AI Engineer / MLOps Spezialist mwd
Dietrich Spohr Personalagentur GmbH
Ansprechpartner: Lukas Jordan
Bonn, Deutschland
ITKünstliche IntelligenzInformationsarchitekturMessaging Application Programming InterfaceArtificial Intelligence Markup Language (AIML)
Beschreibung
Gesucht wird ein erfahrener AI Engineer / MLOps Spezialist (m/w/d), der den ganzheitlichen Aufbau einer lokalen, vollständig offline betriebenen KI-Umgebung begleitet und eigenständig umsetzt.
Die erforderliche Hardware ist mit zwei NVIDIA DGX Spark Systemen bereits vorhanden. Ein erstes Grobkonzept wurde intern entwickelt, ist bislang jedoch noch nicht erprobt. Ziel ist es, dieses gemeinsam mit dem Experten zu evaluieren, eine geeignete Zielarchitektur zu entwickeln und darauf aufbauend eine produktiv nutzbare KI-Lösung zu implementieren. Bisheriger cloudbasierter KI-Anwendungen sollen vollständig abgelöst werden.
Wichtig ist neben der technischen Umsetzung insbesondere der Wissenstransfer, sodass die interne IT die Lösung anschließend eigenständig betreiben und weiterentwickeln kann.
Aufgaben:
- Evaluierung und Weiterentwicklung des vorhandenen KI-Grobkonzepts
- Beratung hinsichtlich geeigneter Open-Source-Technologien, KI-Modelle und Architekturansätze
- Konzeption einer vollständig lokalen und möglichst offline betriebenen KI-Infrastruktur
- Eigenständige Installation, Konfiguration und Inbetriebnahme der vorhandenen NVIDIA DGX Spark SystemeAuswahl, Bereitstellung und Konfiguration geeigneter lokaler Large Language Models (LLMs)
- Aufbau einer internen KI-Chatoberfläche als Alternative zu bestehenden Cloud-Lösungen
- Konzeption und Umsetzung der Integration in bestehende Unternehmenssysteme (ERP, DMS etc.)
- Bereitstellung von KI-Funktionalitäten für die Softwareentwicklung, insbesondere als Alternative zu GitHub Copilot
- Prüfung geeigneter Ansätze zur Einbindung unternehmensinterner Daten und Wissensbestände (z. B. RAG)
- Berücksichtigung von Datenschutz, IT-Security und Berechtigungskonzepten
- Technische Implementierung und Überführung in einen produktiven Betrieb
- Dokumentation der Architektur und implementierten Lösungen
- Schulung und technische Befähigung der internen IT zur eigenständigen Administration, Wartung und Weiterentwicklung
Anforderungen:
- Fundierte Erfahrung im Bereich AI Engineering, MLOps und Aufbau produktiver KI-Infrastrukturen
- Praktische Erfahrung mit lokal betriebenen Large Language Models (LLMs)
- Erfahrung mit On-Premise- bzw. vollständig offline betriebenen KI-Umgebungen
- Sehr gute Kenntnisse im Umgang mit NVIDIA-GPU-Infrastrukturen, idealerweise NVIDIA DGX
- Erfahrung mit Open-Source-KI-Modellen und entsprechenden Frameworks
- Kenntnisse in der Bereitstellung und Integration lokaler KI-Anwendungen und Chatbot-Lösungen
- Erfahrung mit KI-gestützten Entwicklungswerkzeugen und deren Integration in bestehende Entwicklungsumgebungen
- Kenntnisse in RAG-Architekturen und der Anbindung unternehmensinterner Datenquellen
- Erfahrung mit API- und Schnittstellenintegration, idealerweise im ERP-/DMS-Umfeld
- Verständnis für IT-Security, Datenschutz und Zugriffsberechtigungen
- Fähigkeit, bestehende Konzepte kritisch zu evaluieren und geeignete technische Lösungsansätze vorzuschlagen
- Ausgeprägte Hands-on-Mentalität und Erfahrung in der eigenständigen technischen Umsetzung
- Fähigkeit zum strukturierten Wissenstransfer und zur Schulung interner IT-Mitarbeiter
- Sehr gute Deutschkenntnisse
Rahmenbedingungen:
- Start: Mitte/Ende Oktober 2026, unmittelbar nach den Expertengesprächen
- Laufzeit: zunächst mindestens bis Ende 2026, Verlängerung möglich
- Auslastung: projektabhängig, gemeinsam mit dem Experten anhand des Umsetzungskonzepts zu definieren
- Einsatzort: überwiegend remote, punktuelle Vor-Ort-Einsätze nach Bedarf
Bei Interesse freue ich mich über Ihre Bewerbungsunterlagen und eine Nachricht mit Ihren Kontaktdaten zur weiteren Verwendung an:
***@***.de
Für die Zusammenarbeit bedanke ich mich schon im Voraus, die besten Grüße aus Bonn.
Lukas Jordan
Wir operieren als Personalberatungsunternehmen. Keine der genannten Fachausdrücke sollen diskriminierend in Hinblick auf Alter oder Erfahrung sein. Wir bestätigen, dass wir alle Bewerbungen von Kandidaten jeden Alters und Erfahrungen gerne entgegennehmen.