AI/ML Engineer – LLM Systems (m/w/d)

Wir können, wir wollen und wir dürfen auch - denn wir sind ein Team aus hoch motivierten und qualifizierten Mitarbeiter:innen, denen es genauso am Herzen liegt, Kund:innen zu begeistern, wie an technischen Lösungen zu bauen. Und das macht uns einzigartig! Wenn du dich und unsere Produkte weiter entwickeln möchtest, dann komm zu uns und gestalte die Zukunft von netcup mit!

ab sofort | Vollzeit | Wien, Graz, Klagenfurt, Karlsruhe, Remote

Du begeisterst dich für künstliche Intelligenz und arbeitest gerne mit modernsten LLM-Technologien? Du arbeitest strukturiert und selbstständig und liebst es, intelligente Systeme zu entwickeln, die echten Mehrwert schaffen? Du bist ein kommunikativer Teamplayer, der innovative KI-Lösungen mit Leidenschaft umsetzt? Dann ist diese Position perfekt für dich!

• Du treibst die Entwicklung und den Einsatz von KI/ML-Systemen voran, mit besonderem Fokus auf Large Language Models (LLMs) und intelligente Agenten-Frameworks
• Du implementierst und betreibst LLM-Inferenz-Lösungen mit Runtimes wie Ollama, vLLM und TensorRT-LLM
• Du entwickelst agentische Anwendungen mit Frameworks wie Dify, LangFlow, Haystack, LlamaIndex, LangChain, LangGraph oder Pydantic AI
• Du integrierst KI-Funktionen von unterschiedlichen Anbietern (wie OpenAI, Anthropic, Groq und Cerebras) in Produktionssysteme
• Du implementierst LLMOps-Praktiken mit Tools wie LangFuse und LangSmith für Monitoring, Tracing und Observability
• Du entwickelst und optimierst ML-Pipelines mit Python, TensorFlow, PyTorch und scikit-learn für verschiedene KI-Anwendungen
• Du containerisierst und deployest KI-Anwendungen mit Docker und Podman
• Du arbeitest mit SQL-Datenbanken und implementierst Evaluierungs-Frameworks wie DeepEval zur Sicherstellung der Modellqualität
• Du arbeitest eng mit funktionsübergreifenden Teams zusammen und präsentierst und verbesserst kontinuierlich deine KI-Lösungen
• Erfahrung mit RAG (Retrieval-Augmented Generation), Prompt Engineering oder Multi-Agenten-Systemen ist von großem Vorteil
• Fundiertes Verständnis von Large Language Models und Erfahrung mit dem HuggingFace-Ökosystem
• Praktische Erfahrung mit mindestens einem agentischen Framework (LangChain, LangGraph, Haystack, LlamaIndex, Dify, LangFlow oder Pydantic AI)
• Erfahrung mit Python und modernen ML-Frameworks (TensorFlow, PyTorch, scikit-learn)
• Kenntnisse in LLM-Inferenz-Runtimes wie Ollama, vLLM oder TensorRT-LLM
• Erfahrung mit LLM-APIs (OpenAI, Anthropic oder ähnliche Anbieter)
• Fundierte Kenntnisse in SQL und Datenbankoperationen
• Verständnis von LLMOps-Praktiken und Methoden zur Modellevaluierung
• Erfahrung mit Containerisierung (Docker/Podman) und Orchestrierungstools
• Erfahrung mit Versionskontrollsystemen und CI/CD-Tools von Vorteil
• Kenntnisse in DevOps-Praktiken (Ansible) sind ein Plus
• Sehr gute Deutsch- und Englischkenntnisse in Wort und Schrift

Wir sind mehr als ein Arbeitsplatz. Daher bieten wir unseren Mitarbeiter:innen (teils abhängig von Deiner Position und Deinem Standort) viele Benefits: Gute Verkehrsanbindung, flexible Arbeitszeiten, Aus- und Weiterbildung, Mentoren-Programm, kostenlose Parkplätze, Arbeitshandy- und -notebook, Snacks und Getränke, Firmenwagen, Mitarbeiter:innen-Events, Fun‑Corner, u.v.m.

Haben wir dein Interesse geweckt?

Wir freuen uns auf Deine ausdrucksstarke Bewerbung!

Das 2008 gegründete Unternehmen ist mittlerweile seit 2016 Teil der internationalen Anexia Gruppe und betreut als Internet Service Provider weltweit über 200.000 Geschäfts- und Privatkund:innen. Unser Schwerpunkt liegt in der Bereitstellung von Webhostings, virtuellen und dedizierten Servern sowie deren Betreuung durch Management‑Dienstleistungen. Ebenfalls bieten wir unseren Kund:innen eine große Auswahl an Top Level Domains an.

Wir betreuen weltweit über 200.000 zufriedene Kund:innen mit 400.000 Domains.

Unsere Qualität wurde mehrfach ausgezeichnet - Chip Auszeichnung sehr gut.

Teil der Anexia Gruppe mit knapp 400 Mitarbeiter:innen und 6 Bürostandorten, weltweit.