Job
In this role, you will develop an AI agent platform focusing on multi-tenant architecture, eval frameworks, and RAG pipelines. You will handle auditing and integrate modern tools and frameworks.
Job technologies
Your role in the team
- Eine produktionsreife AI-Agent-Plattform auf Basis von PydanticAI, LiteLLM und Langfuse.
- RAG-Pipelines mit pgvector at scale: Multi-Tenant-Isolation, Index-Rebuild-Strategie, Hybrid Search und Re-Ranking.
- Einen Multi-Tenant-Token-Quota-Service und Eval-Frameworks pro Tenant.
- MCP-Tool-Integration (Model Context Protocol) als fester Bestandteil der Architektur.
- Lückenlose Auditierbarkeit von Prompt bis Output, damit Entscheidungen für Fachbereich und Aufsicht nachvollziehbar sind.
- Architektur-Entscheidungen, die auch im Bank-, Versicherungs- und Pharma-Umfeld bestehen.
Our expectations of you
Qualifications
- 5+ Jahre Software-Engineering mit Python in Produktion.
- RAG-Systeme, die du selbst gebaut und betrieben hast, inklusive Retrieval-Tuning und Re-Ranking.
- Ein Agent-Framework wie LangGraph, PydanticAI oder vergleichbar im Produktiveinsatz.
- Sehr gutes Deutsch und gutes Englisch, da du mit Enterprise-Kunden im DACH-Raum arbeitest.
- pgvector-Sizing bei großen Datenmengen.
- Kubernetes-Grundlagen.
Experience
- Erfahrung mit LLMs in Produktion: Tokens, Latenz, Kosten und Evals sind für dich Alltag.
- Ein Plus, aber kein Muss: Erfahrung mit LiteLLM, Langfuse oder MCP. Was du noch nicht kennst, lernst du bei uns schnell.
- Erfahrung mit regulatorischen Anforderungen wie EU AI Act, DORA, BaFin/MaRisk oder GxP.
What we offer
- Verantwortung ab Tag eins: Du prägst die Agent-Architektur, statt nur Prompts zu tunen, ohne Management-Layer über dir.
- Direkter Draht: Du berichtest an Christoph Knöll (Founder/CEO) und arbeitest eng mit unserem Head of AI, mit kurzen Entscheidungswegen.
- Flexibilität: Voll-remote mit Wohnsitz in Deutschland, flexible Arbeitszeiten, ca. einmal im Monat Team-Tage im Münchner Office.
- Raum zum Testen: Moderner Stack und Zeit, neue Modelle, Frameworks und Retrieval-Ansätze ernsthaft zu evaluieren.
- Fachlicher Austausch: Ein Team, das LLM-Systeme in Produktion betreibt und Entscheidungen auf Basis von Evals trifft.
- Weiterentwicklung und Sichtbarkeit: Konferenzen, Schulungen und die Möglichkeit, als Experte nach außen aufzutreten, z. B. mit Talks oder Fachbeiträgen.
Benefits
Health, fitness & fun
Work-Life-Integration
Topics you will work on
Job locations
About your employer
Neurawork is a strategic AI consulting firm focused on the German-speaking mid-sized companies. The company combines consulting, technical expertise, and transformation skills to assist clients in implementing practical AI solutions.
- Startup
- Full Remote, Hybrid, Onsite
- Consulting
More jobs
These jobs might also interest you
Hello, let's say WE! We - the HUK-COBURG Insurance Group - are among the top 10 in Germany. Founded over 90 years ago, we are now the leading insurer for private households with over 13 million customers and the largest German auto insurer. Our...
The role As a Forward Deployed AI Engineer, you go directly into our specialist departments, understand the processes, and develop production-ready AI and automation solutions that will fundamentally change the way the entire GGW Group operates. You do...
As a Senior Software Engineer (m/f/d), you will take on a central technical role in challenging client projects and develop sustainable, scalable software solutions in complex enterprise environments. In your role, you will primarily be responsible for:...
