MLOps Engineer für CI / CD & Inference Services

MLOps Engineer für CI / CD & Inference Services

Als einer der größten Banken‑IT‑Dienstleister Europas suchen wir für die KI‑Plattformabteilung im Standort Münster oder Hannover einen MLOps Engineer (m/w/d). In dieser Rolle gestalten Sie die technische Basis für skalierbare, sichere und performante KI‑Lösungen – von automatisierter Bereitstellung über Inferenzinfrastruktur bis zum Modellbetrieb. Sie arbeiten mit modernsten Technologien wie Kubernetes, ArgoCD, Helm, GitHub Actions, Nvidia Triton, Hugging Face TGI/TEI sowie mit Partnern wie Nvidia oder Mistral AI.

Aufgaben

• Koordination der Automatisierung von Build-, Test- und Deployment-Prozessen für Containeranwendungen (Jenkins, GitHub Actions, GitLab CI) und Integration neuer Use Cases in die Plattform‑Pipelines.
• Orchestrierung von Containeranwendungen mit Helm und ArgoCD in Kubernetes‑Clustern; Verantwortung für sichere, reproduzierbare Deployments.
• Entwicklung von Python‑APIs zur Steuerung von Modellbereitstellungen, Statusabfragen und Konfigurationsmanagement (FastAPI, Flask).
• Steuerung der Spark‑Anwendungen im Kubernetes‑Cluster mit dem Spark Operator – vor allem fokussiert auf verteilte Inferenz oder Preprocessing großer Datenmengen.
• Bereitstellung von unimodalen und multimodalen KI‑Modellen mittels Nvidia Triton, NIM oder Alternativen wie Hugging Face TGI, TEI oder vLLM.
• Kooperation mit anderen Fachbereichen, Einflussnahme auf Architekturentscheidungen und Beratung zur Weiterentwicklung der Plattformdienste.
• Diskussion mit globalen Herstellern zur zukunftsorientierten Weiterentwicklung der Plattformarchitektur.

Profil

• Abgeschlossenes Informatik‑Studium oder vergleichbare Berufsausbildung und mindestens 6 Jahre fachbezogene Berufserfahrung.
• Umfangreiche Erfahrung in der Automatisierung von CI/CD‑Pipelines (Jenkins, GitHub Actions, GitLab CI, Helm, ArgoCD) für Kubernetes‑basierte Deployments.
• Kenntnisse in der Entwicklung von REST‑APIs in Python (FastAPI, Flask).
• Optional: Erfahrung mit LLM‑Inference (Nvidia Triton, NIM, vLLM, Hugging Face TGI/TEI).
• Begeisterung für moderne KI‑Infrastruktur, Plattformbetrieb und technische Skalierung.
• Teamgeist, Eigeninitiative und die Lust, komplexe Systeme für echte Anwendungen nutzbar zu machen.
• Bereitschaft für Nacht‑ und Wochenendeinsätze sowie Teilnahme an der Rufbereitschaft.