MLOps Engineer für CI / CD & Inference Services (m/w/d)

Stellenbeschreibung:

Join to apply for the MLOps Engineer für CI / CD & Inference Services (m/w/d) role at Finanz Informatik

About the company

Als einer der größten Banken-IT-Dienstleister und Digitalisierungspartner Europas sind wir der Treiber der Digitalisierung innerhalb der Sparkassen-Finanzgruppe. Mit über 5.000 Mitarbeiter:innen an 3 Standorten machen wir digitales Banking von heute leistungsfähig und entwickeln smarte Finanz-Services von morgen. Dabei bieten wir Ihnen ein breites Aufgabenspektrum, in dem Sie Ihre individuelle Stärke hervorragend einbringen können.

Position

Für die Abteilung KI Plattform suchen wir zum nächstmöglichen Termin für die Standorte Münster oder Hannover zwei MLOps Engineer für CI / CD & Inference Services (m/w/d) . Unser Team stellt die zentrale KI- und Data Analytics Plattform der Finanz Informatik für interne und externe Kunden bereit.

Responsibilities

Koordination der Automatisierung der Build-, Test- und Deployment-Prozesse für Container-Anwendungen mit Jenkins, GitHub Actions oder GitLab CI, sowie Integration neuer Use Cases in die Plattform-Pipelines.
Orchestrierung von Containeranwendungen mit Helm und ArgoCD in Kubernetes-Clustern, sowie Verantwortlichkeit für sichere, reproduzierbare Deployments.
Entwicklung von APIs für die interne Plattformlogik im Python-Ökosystem – z.B. zur Steuerung von Modellbereitstellungen, Statusabfragen oder Konfigurationsmanagement.
Steuerung der Spark-Anwendungen, welche in Kubernetes mit dem Spark Operator betrieben werden – idealerweise mit Fokus auf verteilte Inferenz oder Preprocessing großer Datenmengen.
Bereitstellung von unimodalen (z.B. LLM, OCR, SST/TTS) und multimodalen KI-Modellen mittels Nvidia Triton, NIM oder Alternativen wie Huggingface TGI, TEI oder vLLM.
Steuerung der fachbereichsübergreifenden Zusammenarbeit, sowie aktive Einbringung der Erfahrung bei Architekturentscheidungen und Beratung zur Weiterentwicklung der Plattformdienste.
Diskurs mit globalen Herstellern für die zukunftsorientierte Weiterentwicklung der Plattformarchitektur.

Qualifications

Abgeschlossenes Informatik- oder vergleichbares Studium oder Berufsausbildung sowie mindestens 6 Jahre fachbezogene Berufserfahrung.
Umfangreiche Erfahrung in der Automatisierung von CI/CD-Pipelines (Jenkins, GitHub Actions, GitLab CI und Helm und ArgoCD für Kubernetes-basierte Deployments).
Kenntnisse in der Entwicklung von REST-APIs in Python (z.B. mit FastAPI oder Flask).
Optional, aber wertvoll: Erfahrung mit LLM-Inferenz, z.B. via Nvidia Triton, NIM, vLLM oder Huggingface TGI/TEI.
Begeisterung für moderne KI-Infrastruktur, Plattformbetrieb und technische Skalierung.
Teamgeist, Eigeninitiative und die Lust, komplexe Systeme für echte Anwendungen nutzbar zu machen.
Bereitschaft für Nacht- und Wochenendeinsätze sowie Teilnahme an der Rufbereitschaft.