Senior KI-Entwickler m/w/d – intern

Derzeit suchen wir für einen Kunden aus dem südlichen Raum Stuttgart einen Senior KI- Entwickler m/w/d zur unbefristeten Festanstellung zum nächstmöglichen Zeitpunkt. Der Kunde ist ein IT-Beratungshaus mit einer über 25-jährigen Tradition – sehr stabil und modern oder kurz: toller Arbeitgeber, tolle Perspektiven – hoher Homeoffice-Anteil.

Es wird intern ein Produkt entwickelt – keine externen Projekte/Einsätze!!

Worum geht´s?

Aktuell wird eine moderne Web-Anwendung im Bildungsbereich entwickelt (internes Projekt des IT-Beratungshauses). Hierfür sucht der Kunde einen Senior KI- Entwickler m/w/d, der das Produkt von Frontend bis Backend mitgestaltet und technisch voranbringt.

Als Senior KI-Entwickler verantworten Sie die Konzeption, Entwicklung und den produktiven Betrieb unserer LLM-Anwendungen – von der Architektur über das Prototyping bis zum skalierbaren Deployment. Sie arbeiten eng mit Produktentwicklern, Data und Engineering zusammen und bringen technische Tiefe sowie eine pragmatische Hands-on-Mentalität mit.

Aufgaben:

• Design und Entwicklung von RAG-Pipelines und LLM-Anwendungen mit LangChain – von der Idee bis zur Produktion


• Aufbau und Betrieb von Vektordatenbanken (z. B. Pinecone, Weaviate, Qdrant, pgvector): Embedding-Strategien, Chunking, Indexierung und Retrieval-Optimierung


• Monitoring und Optimierung von LLM-Workflows mit LangSmith – Tracing, Evaluierung, Prompt-Optimierung und Qualitätssicherung


• Konzeption von Lösungen basierend auf Transformer-Architekturen, inkl. Auswahl, Fine-Tuning bzw. Anbindung passender Modelle (Open Source und kommerziell)


• Optimierung für Performance, Kosten und Latenz im produktiven Einsatz


• Etablierung technischer Standards, Mentoring von Junior-Entwicklern und Mitgestaltung unserer KI-Roadmap

Sie bringen mit:

• Mehrjährige Erfahrung in der Softwareentwicklung, davon nachweislich in KI-/ML-Projekten


• Fundiertes Verständnis von Transformer-Modellen und den Grundlagen großer Sprachmodelle (LLMs): Tokenisierung, Embeddings, Attention, Kontextfenster, Prompting


• Sicherer Umgang mit Vektordatenbanken und Retrieval-Augmented-Generation (RAG)


• Praktische Erfahrung mit den Frameworks LangChain und LangSmith


• Sehr gute Python-Kenntnisse; Erfahrung mit APIs gängiger LLM-Anbieter (z. B. OpenAI, Anthropic) sowie Open-Source-Modellen


• Erfahrung mit Cloud (AWS/Azure/GCP), Containerisierung (Docker) und CI/CD von Vorteil


• Selbstständige, lösungsorientierte Arbeitsweise und Freude an Teamarbeit


• Sehr gute Deutsch- und Englischkenntnisse

Wünschenswert:

• Erfahrung mit Fine-Tuning, LoRA/PEFT oder Modell-Quantisierung


• Kenntnisse in MLOps / LLMOps und Evaluierungs-Frameworks


• Erfahrung mit Agentic Workflows, Tool-Calling oder Multi-Agent-Systemen


• Beiträge zu Open-Source-Projekten oder eigene Veröffentlichungen

Diese Benefits erwarten Sie:

• Spannende Produktentwicklung mit modernem Tech-Stack und echtem Gestaltungsspielraum


• Flexible Arbeitszeiten und Remote-/ Vor Ort


• Attraktives Gehaltspaket


• Weiterbildungsbudget, Konferenzen und moderne Infrastruktur


• Moderne Hardware, flache Hierarchien und ein motiviertes Team


• Weitere Benefits – z. B. Altersvorsorge, Gesundheitsangebote, Team-Events