KI-Berater & LLM-Engineer | GenAI & KI-Plattformen

Neu Wulmstorf, Deutschland

Deutschland

B.Sc. Computer Science

Neu Wulmstorf, Deutschland

Deutschland

B.Sc. Computer Science

Profilanlagen

Skills

JavaAPIsKünstliche IntelligenzConfluenceAutomatisierungMicrosoft AzureBash ShellIdentitätsmanagementPythonOpenshiftPrototypingAnsibleMicrosoft SharepointScriptingChatbotsLarge Language ModelsGitlabDSGVORestful ApisGPTBenutzerverwaltung

Ich bin freiberuflicher KI-Berater mit technischem Schwerpunkt auf produktiven GenAI-Anwendungen, LLM-Integration und dem Betrieb moderner KI-Plattformen (OpenShift, IBM CP4D, Azure).
Ich begleite Unternehmen im Mittelstand bei der Identifikation und Umsetzung von KI-Use-Cases – von der Beratung und Schulung über Prototyping bis hin zur technischen Integration (z. B. RAG-Systeme, Embedding-Pipelines, Chatbots, Dokumenten-KI).

Tech-Stack & Tools :
LLM & GenAI: Azure OpenAI · GPT-4 · LangChain · Hugging Face · Azure KI Studio
Plattform & Automatisierung: IBM CP4D · OpenShift · Ansible · GitLab · JupyterLab · n8n
Programmierung & Scripting: Python · Java · Bash
Zugriffs- & Benutzerverwaltung: IAM · WinAD
APIs & Konnektoren: REST APIs · CP4D API · GitLab API · OpenShift API · MS Graph API · SharePoint API · Confluence API
OCR & NLP-Tools: OCR · NLP · ChromaDB · Vektordatenbanken · Semantische Suche

Anwendungsfelder & Themen:
Retrieval-Augmented Generation (RAG) · KI-Chatbots · Agentic AI · Dokumenten-KI · KI-Use-Case-Analyse · Technische KI-Integration · Plattformbetrieb & Mandantenmanagement · Data Enablement · KI-Workshops & Trainings · DSGVO-konforme KI-Anwendungen

Sprachen

DeutschMutterspracheEnglischgutFranzösischGrundkenntnisse

Projekthistorie

Betrieb und Weiterentwicklung - Kollaboratives Analyselabor (KoALa)

IT-Dienstleister für Finanzinstitute

Banken und Finanzdienstleistungen

5000-10.000 Mitarbeiter

KoALa ist eine KI-Plattform, die die IBM Cloud Pak for Data Tool-Suite integriert. Sie ermöglicht Banken und Finanzdienstleistern die Anwendung von Machine Learning-Algorithmen, datengetriebene Analysen sowie die Entwicklung von LLM-Lösungen. Die Umgebung umfasst Tools wie LLM-Service, Nvidia GPUs, Embedding-Modelle, Exasol-DB, Spectrum Scale, GitLab, Jupyter Notebooks, SPSS, AutoAI und RStudio und läuft als containerisierte Anwendung auf OpenShift (Kubernetes).

Aufgaben und Verantwortung:

Technischer Verantwortlicher für die KoALa-Umgebung.
Administration der Systeme sowie Analyse und Behebung von Fehlern.
KI-Use-Case-Begleitung
KI-Use Case Workshops
KI-Entwicklungen
Implementierung verschiedenster Automatisierungen (Testframework, Staging-Automatisierung,...)
Entwicklung verschiedener Monitoringlösungen
Unterstützung bei Plattform-Upgrades und Migrationen.
Bereitstellung von GPUs sowie eines LLM-Services.
Multi-Instance GPU Bereitstellung.

Techstack:

Python, SQL, Bash, PyTest, PyTorch, TensorFlow, LLM, Embedding-Modelle
Red Hat OpenShift, Kubernetes, Podman, Ansible Automation Platform, Linux, IAM, WinAD, Nexus
Cloud Pak for Data (CP4D), GitLab, Github, Exasol-DB, Spectrum Scale, JupyterLab, SPSS, RStudio, AutoAI, GPU, Multi-Instance GPU
CP4D-API, GitLab-API, OpenShift-API

Entwicklung Knowledge Information Retrieval Assistant (RAG)

ITGain

Internet und Informationstechnologie

50-250 Mitarbeiter

Hauptentwickler eines KI-gestützten Assistenzsystems nach dem RAG-Prinzip (Retrieval-Augmented Generation), das unternehmensinterne Datenquellen wie Confluence, SharePoint und Microsoft Teams integriert. Die Lösung ermöglicht eine ChatGPT-ähnliche Interaktion und beantwortet sowohl allgemeine als auch unternehmensspezifische Fragen, während die Datenhoheit und DSGVO-Konformität gewahrt bleiben. Die Implementierung erfolgte sowohl als On-Premises-Lösung als auch in der Azure Cloud.

Aufgaben und Verantwortung:

Hauptentwickler des Projekts.
Datenextraktion und Verarbeitung durch automatisiertes Scraping verschiedener Unternehmensquellen (Confluence, SharePoint, Teams).
Entwicklung und Implementierung einer skalierbaren Datenpipeline für das RAG-System.
Optimierung der Modellinteraktion durch gezieltes Prompt Engineering.
Generierung und Verwaltung von Embeddings zur effizienten Informationssuche.
Bereitstellung und Deployment von LLMs in der Azure Cloud.
Konzeption eines Evaluationsverfahrens zur Opti-mierung der Modellleistung.

Techstack:

Python, LangChain, Hugging Face, Ragas
Large Language Models (LLMs), Azure OpenAI, Azure AI Studio, Ollama, Llama
ChromaDB (Vektor-Datenbank), Embedding-Technologien
Terraform, Docker
Microsoft Graph API (SharePoint, Teams), Confluence API

Entwicklung Cloud Data Platform

ITGain

Internet und Informationstechnologie

50-250 Mitarbeiter

Mitwirkung bei der Entwicklung einer skalierbaren, cloudbasierten Datenplattform in Azure, die Unternehmen ermöglicht, Daten effizient zu verarbeiten und Business Intelligence mit Power BI anzuwenden. Die Plattform wurde als Produktlösung entwickelt und an Kunden verkauft, um Datenintegration, Transformation und Analyse zu automatisieren.

Aufgaben und Verantwortung:

Implementierung und Optimierung des ETL Prozesses.
Entwicklung eines Sicherheitskonzeptes zur Absicherung der Infrastruktur in Azure sowie Data Protection.
Nutzung von Terraform zur automatisierten Bereitstellung und Konfiguration der Azure-Infrastruktur.

Techstack:

Terraform, Azure Data Factory, Azure Blob Storage, Snowflake, SQL
Azure Virtual Network (VNETs), Azure Network Security Groups (NSGs), Azure Private Link, Azure Private Endpoint, Azure Key Vault

Zertifikate

exali Berufshaftpflicht-Siegel

Das original exali Berufshaftpflicht-Siegel bestätigt dem Auftraggeber, dass die betreffende Person oder Firma eine aktuell gültige branchenspezifische Berufs- bzw. Betriebshaftpflichtversicherung abgeschlossen hat.

Versichert bis: 01.07.2026

Mehr erfahren

Kontaktanfrage

Einloggen & anfragen.

Das Kontaktformular ist nur für eingeloggte Nutzer verfügbar.

Registrieren Anmelden