Senior AI Engineer, LLM Agents, Tool Calling, Evals, Vertex AI, Agentic AI, Produktion
Llamazing Digital Engineering GmbH
Ansprechpartner: Björn Froese
BerlinBrandenburg, Deutschland
Endkundenprojekt
ITRAGOpenAIGeminiVertex AILangChainKünstliche IntelligenzPythonMachine LearningNatural Language ProcessingWorkflowsLarge Language ModelsPrompt EngineeringGenerative AIArtificial Intelligence Markup Language (AIML)Beschreibung
Für Agentic-AI-Vorhaben in der industriellen Fertigung suchen wir erfahrene AI Engineers für LLM-Agenten (m/w/d) für unseren Expertenpool.
Ein typisches Vorhaben sieht so aus:
Ausgangslage
Ein Fertigungsunternehmen will Störungen in der Produktion mit einem agentischen Workflow bearbeiten. Fällt eine Maschine aus, tragen KI-Agenten Informationen aus MES, Produktionsplanung, Instandhaltung und Dokumentation zusammen, bewerten Handlungsoptionen (z. B. Reparatur abwarten oder Aufträge auf eine Alternativmaschine verlagern) und legen sie den verantwortlichen Rollen zur Freigabe vor. Erst nach menschlicher Freigabe werden Wartungsauftrag und Umplanung in den Zielsystemen ausgeführt. Entscheidungsrelevante Zahlen kommen aus nachvollziehbaren Regeln, nicht aus dem Sprachmodell; jeder Schritt ist unterbrechbar, wiederaufnehmbar und lückenlos protokolliert. Umsetzung auf Google Cloud mit Temporal als Workflow-Engine. Sie verantworten die Agenten: was sie abfragen dürfen, wie sie Befunde mit Quellen belegen und wie sie gegen eingeschleuste Anweisungen abgesichert sind.
Aufgaben
- Agenten für Instandhaltung und Produktionsplanung entwerfen: Rollen, Werkzeuge, Grenzen für Schritte, Laufzeit und Token
- Tool-Verträge mit typisierten, strukturierten Ein- und Ausgaben definieren; jeder Tool-Aufruf ist eine eigene, protokollierte Activity
- Strukturierte Modellausgaben mit Schemata, Quellenbezug und gekennzeichneten Annahmen umsetzen
- Schutz gegen Prompt Injection aus Dokumenten und Tool-Ergebnissen umsetzen und testen
- Evaluierung aufbauen: Testfälle, Referenzläufe, Regressionstests bei Modell- oder Promptwechsel, Aufzeichnungsmodus für Vorführungen
- Modellanbindung über Vertex AI am regionalen EU-Endpunkt umsetzen, Fallback und Modellwechsel vorbereiten
- Eng mit dem Workflow-Engineer zusammenarbeiten: Agentenschleife innerhalb des deterministischen Workflows
- Prompts, Schemata und Bewertungsergebnisse versioniert dokumentieren
Muss
- mindestens 5 Jahre Erfahrung in der Softwareentwicklung, davon mindestens 2 Jahre mit LLM-Anwendungen
- mindestens eine LLM-Anwendung mit Tool Calling bzw. Function Calling in Produktion oder im Pilotbetrieb bei einem Kunden
- Praxis mit strukturierten Ausgaben, Evaluierung von LLM-Systemen und Absicherung gegen Prompt Injection
- sehr gutes Python oder TypeScript, Versionskontrolle und automatisierte Tests
- Deutsch fließend, Englisch gut
Wünschenswert
- Vertex AI bzw. Gemini, Anthropic Claude oder OpenAI über APIs; Erfahrung mit mehreren Anbietern
- Agenten-Frameworks (z. B. LangGraph, Google ADK, OpenAI Agents SDK, Model Context Protocol)
- Erfahrung mit Workflow-Engines wie Temporal
- Retrieval über technische Dokumentation (RAG) mit Quellenangabe
- Erfahrung mit Industrie- oder Instandhaltungsdaten
- Zusammenarbeit in agilen, verteilten Teams
Rahmen
- Einsatz: überwiegend remote, gelegentliche Termine vor Ort in Berlin/Brandenburg
- Dauer: typischerweise 4 bis 6 Monate, Verlängerung möglich
- Auslastung: 80 bis 100 Prozent
- Start: projektabhängig, ab Q1 2027
Bewerbung
Bitte beantworten Sie kurz:
- Welche LLM-Anwendung mit Tool-Aufrufen haben Sie zuletzt in Produktion oder in einen Pilotbetrieb gebracht (Zweck, Modell, Ihre Rolle, Nutzerzahl)?
- Wie messen Sie die Qualität eines Agenten, und wie verhindern Sie, dass Inhalte aus Dokumenten oder Tool-Ergebnissen als Anweisung wirken?
- Wie hoch ist Ihr Stundensatz und ab wann sind Sie verfügbar?
Bei E-Mail-Kommunikation bitte die Projekt-ID dieser Anzeige angeben. Telefonische Kontaktaufnahme bitte nur nach vorheriger Terminvereinbarung.