Data Scientist, Management Consultant

Projektmanagement für das Deployment eines großen On-Prem Sprachmodells (Large Language Modell, LLM) sowie die Entwicklung eines Monitoringdashboards in einer Kubernetes-Umgebung auf Microsoft Azure

Aufgaben: Projektmanagement, um Anforderungen zu identifizieren und benutzerzentrierte AI-Lösungen zu entwickeln; SOTA-Analyse bzgl. Finetuning von LLMs; Dokumentation der Prozesse und Ergebnisse, um das Wissen innerhalb des Teams zu teilen und eine kontinuierliche Verbesserung zu fördern; Unterstützung des LLM-Deployments via Kubernetes; Implementierung der Datenvisualisierung von LLMs (Metriken, Traces und Logs) in Grafana

Programmiersprachen: Python, Shell-Scripting, Kubernetes, YAML

Tools: Prometheus, Tempo, Loki, Grafana, Jira, Confluence

AI/ML/Data Science: Maschinelles Lernen, Natural Language Processing (NLP), Large Language Models (LLMs), Modell-Optimierung, Modell-Deployment, Kubernetes-Orchestrierung, Cloud Computing

2B Advice ist ein weltweit aktives Beratungsunternehmen für integrierte Risikomanagement-Lösungen in den Bereichen Datenschutz, Compliance und Risiken mit Dritten. In einer Workshop-Serie werden verschiedene AI use cases analysiert und priorisiert, die für 2B Advice einen Mehrwert (hinsichtlich Markteffekt, Kosteneinsparung, etc.) bieten könnten.

Aufgaben: Beratung hinsichtlich möglicher AI-Anwendungsfälle und deren Anwendbarkeit auf ihre spezifischen Geschäftsmodelle; Leitung von Workshops zur Identifizierung, Priorisierung und detaillierten Planung der Implementierung von AI-Anwendungsfällen; Erarbeitung von Strategien für die Anwendung geeigneter Technologien in Zusammenhang mit den identifizierten AI-Anwendungsfällen in Zusammenarbeit mit Kollegen; Verfolgung aktueller Trends und Entwicklungen in den Bereichen AI, Maschinelles Lernen und Datascience, um Kunden die effektivsten Lösungen zu präsentieren; Anpassung der Beratungsstrategie und -methodik basierend auf Kundenfeedback und sich verändernden Anforderungen; Implementierung der relevantesten Usecases für den Kunden auf Basis von Langchain, OpenAI und On-Prem LLMs.

Programmiersprachen: Python

Tools: Langchain, Streamlit, Chainlit, Jira, Confluence, Git, GitLab CI/CD, Docker, Azure

Projektmanagement und Entwicklung eines Monitoringdashboards für große Sprachmodelle (Large Language Models, LLMs) in einer Kubernetes-Umgebung auf Microsoft Azure.

Aufgaben: Implementierung der Datenvisualisierung von LLMs (Metriken, Traces und Logs) in Grafana; Zusammenarbeit mit internen Teams, um Anforderungen zu identifizieren und benutzerzentrierte AI-Lösungen zu entwickeln; Dokumentation der Prozesse und Ergebnisse, um das Wissen innerhalb des Teams zu teilen und eine kontinuierliche Verbesserung zu fördern

Programmiersprachen: Python, Shell-Scripting, Kubernetes YAML

Tools: Prometheus, Tempo, Loki, Grafana, Jira, Confluence

AI/ML/Data Science: Maschinelles Lernen, Natural Language Processing (NLP), Large Language Models (LLMs), Modell-Optimierung, Modell-Deployment, Kubernetes-Orchestrierung, Cloud Computing