AI Platform Engineer (all genders)

Du entwickelst und betreibst eine souveräne LLM-Plattform mit OpenAI-kompatiblem Gateway, Modell-Serving und GPU-Infrastruktur. Du implementierst RAG-Lösungen mit Vektor-Datenbanken und Embeddings und sicherst Datenschutz sowie Mandantentrennung. Du etablierst Monitoring, Observability und CI/CD für unsere KI-Dienste und treibst Infrastruktur-as-Code voran. Du gestaltest Architektur aktiv mit und dokumentierst Lösungen im AIS-Team. Diese Rolle bietet die Chance, eine zentrale Plattform für AI-Hosting und KI-Infrastrukturen maßgeblich zu prägen.

• offene, kooperative Unternehmenskultur
• umfassende Einarbeitung durch AIS Team
• strategische Gestaltungsrolle mit Einfluss
• Mitarbeit an souveränen LLM-Hosting und KI-Infrastrukturen
• moderne Infrastruktur mit Kubernetes, Docker, Cloud-Technologien
• individuelles Weiterbildungsbudget

• Entwicklung und Betrieb der LLM-Plattform inkl. Gateway, Modell-Serving und GPU-Infrastruktur
• Implementierung kundenspezifischer Wissensverknüpfungen (RAG) mit Vector-Datenbanken und Embeddings
• Sicherstellung von Kostenkontrolle, Mandantentrennung, Datenschutz und Guardrails
• Aufbau von Monitoring, Observability für Performance, Qualität und Nutzung der KI-Dienste
• Weiterentwicklung der containerbasierten Plattform (Docker, Coolify, Kubernetes)
• Automatisierung von Deployments; Verantwortung für CI/CD-Prozesse
• Betreuung der Linux-, Cloud- und Datenbank-Infrastruktur; Sicherstellung von Stabilität, Sicherheit, Verfügbarkeit
• Aufbau/Weiterentwicklung von Monitoring-, Logging- und Alerting-Lösungen
• Mitgestaltung der Architektur von Plattform- und KI-Services
• Etablierung Infrastructure as Code und standardisierte Deployment-Prozesse
• Sicherstellung datenschutzkonformer und mandantensicherer Betriebsmodelle
• Dokumentation, Wissensweitergabe im Team; Evaluierung neuer Technologien im Bereich Platform Engineering und KI

• Abgeschlossenes Studium der Wirtschafts- Informatik oder vergleichbare Qualifikation
• Mehrjährige Erfahrung im DevOps-, Plattform-Engineering- oder Cloud-/Infrastruktur-Umfeld
• Praxis in Betrieb containerbasierter Anwendungen und moderner Plattformen
• Erfahrung im Aufbau und produktiven Betrieb von LLM- und KI-Diensten, idealerweise self-hosted
• Sehr gute Kenntnisse in Kubernetes, Docker und Linux
• Erfahrung mit CI/CD-Pipelines, Cloud-Plattformen (insb. Azure) und PostgreSQL
• Praktische Erfahrung mit LLM-Gateways, RAG-Architekturen, Vector-Datenbanken und Modell-Serving-Lösungen
• Solide Python-Kenntnisse für Automatisierung und Integrationen
• Eigenständige, strukturierte Arbeitsweise; Sicherheits- und Datenschutzbewusstsein
• Ausgeprägtes Architektur- und Platformverständnis

• Eigeninitiative und Verantwortungsbewusstsein
• Teamfähigkeit und Wissensaustausch
• Sicherheits- und Datenschutzbewusstsein
• Kubernetes
• Docker
• Linux