IT-Mitarbeiter (m/w/d) - KI in der IT

Aufgaben

• Aufbau, Betrieb und Skalierung von LLM‑Plattformen und On‑Prem GPU‑Clustern für LLM‑Workloads (NVIDIA)
• Monitoring von Token‑Durchsatz, Latenzen, GPU‑Auslastung und Kosten
• Aufbau von Hybrid‑Architekturen (Cloud + On‑Prem)
• Umsetzung von Compliance‑, Datenschutz‑ und AI‑Governance‑Vorgaben
• Enge Zusammenarbeit mit Data Scientists, KI‑Entwicklern und Fachbereichen
• Beratung bei Modellwahl, Architekturentscheidungen und Einsatzszenarien sowie Bewertung neuer LLM‑Technologien und Frameworks

Profil

• Abgeschlossenes Studium der Informatik, Data Science oder vergleichbare Qualifikation
• Erfahrung mit mindestens einer Cloud‑Plattform (Azure, AWS oder GCP), idealerweise mit Managed AI Services oder GPU‑Instanzen
• Sehr gute Kenntnisse in Infrastructure as Code (Terraform, Bicep, o.Ä.), Containerisierungs‑Technologien und Linux-Administration
• Erfahrung mit LLM‑Inference‑Stacks (z.B.: vLLM, TGI, Triton Inference Server, Ray) und/oder Kenntnisse in LLMOps / MLOps (z.B.: MLflow, Kubeflow, Hugging Face, Weights & Biases) sind wünschenswert
• Von Vorteil ist ein gutes Verständnis von RAG‑Architekturen, Vektordatenbanken und Prompting‑Strategien
• Sehr gute Deutsch- (mind. C1 Niveau) und gute Englischkenntnisse (mind. C1 Niveau)

Benefits

• EGYM‑Wellpass, Corporate Benefits, sowie Rabatte (z.B. Käfer), Mensa, Sport- und Kulturangebote, Jobrad
• Arbeiten im Herzen Münchens am Max‑Weber‑Platz mit sehr guter Erreichbarkeit durch öffentliche Verkehrsmittel wie U-Bahn, S-Bahn oder Tram
• Betriebliche Altersvorsorge über die Versorgungsanstalt des Bundes und der Länder (VBL)
• Selbstverwirklichung durch eine abwechslungsreiche und fachlich anspruchsvolle Tätigkeit mit interdisziplinärer Zusammenarbeit verschiedener Abteilungen des TUM Klinikum Rechts der Isar

Kontakt

Gabriele Ziehnert

Informationstechnologie

Weitere Informationen

Schwerbehinderte Bewerber*innen werden bei ansonsten im Wesentlichen gleicher Eignung bevorzugt berücksichtigt.