KI-Engineer – LLM & RAG (m/w/d)

Karriere13. Oktober 20261 Min. Lesezeit

Du willst KI-Anwendungen bauen, die im Unternehmen wirklich genutzt werden, statt Demos, die nach der Präsentation verschwinden? Als KI-Engineer (m/w/d) entwickelst du bei ALGEBRA in Stuttgart LLM- und RAG-Lösungen für den Mittelstand: von der Wissenssuche über interne Dokumente bis zu KI-Agenten, die in bestehende Systeme eingreifen. Und zwar so, dass Datenschutz, Berechtigungen und Nachvollziehbarkeit von Anfang an stimmen.

DAFÜR KANNST DU DICH BEGEISTERN

• Konzeption und Entwicklung von RAG-Systemen: Dokumentenaufbereitung, Chunking, Embeddings, Hybrid-Suche und Reranking.
• Entwicklung von KI-Agenten, die über Schnittstellen und das Model Context Protocol (MCP) mit ERP, CRM, Dateiablagen und Datenbanken arbeiten.
• Betrieb offener Sprachmodelle im Rechenzentrum des Kunden oder in deutschen Clouds, wenn Daten das Haus nicht verlassen dürfen.
• Aufbau von Evaluierung und Monitoring: Antwortqualität messen, Halluzinationen erkennen, Kosten und Latenz im Blick behalten.
• Umsetzung von Berechtigungskonzepten bis ins Retrieval und Berücksichtigung der Anforderungen aus EU AI Act und DSGVO.
• Direkte Zusammenarbeit mit den Fachbereichen unserer Kunden, vom ersten Workshop bis zum produktiven Betrieb.

DAS MACHT DICH AUS

• Mehrjährige Erfahrung in der Softwareentwicklung mit Python, idealerweise auch mit Java, Kotlin oder TypeScript.
• Praktische Erfahrung mit LLM-Anwendungen in Produktion, nicht nur mit Prompts im Chatfenster.
• Kenntnisse in Vektordatenbanken wie pgvector, Qdrant oder Milvus und in Frameworks wie LangChain oder LlamaIndex. Du weißt aber auch, wann man sie besser weglässt.
• Erfahrung mit Docker, REST-APIs und CI/CD, idealerweise auch mit Kubernetes oder Azure.
• Ein ehrlicher Blick auf Grenzen: Du sagst einem Kunden auch, wenn ein Problem keine KI braucht.
• Sehr gute Deutsch- und gute Englischkenntnisse, denn du sprichst direkt mit Kunden.

DAS BIETEN WIR DIR

• Echte Projekte mit echten Daten: Du siehst, wie deine Lösung im Alltag des Kunden ankommt.
• Flache Hierarchien und kurze Entscheidungswege, du arbeitest direkt mit den Menschen, die die Lösung bauen.
• Gestaltungsspielraum bei Architektur und Werkzeugwahl, ohne Vorgaben aus einer fernen Konzernzentrale.
• Zeit und Budget, um neue Modelle und Werkzeuge auszuprobieren, bevor sie beim Kunden landen.
• Flexible Arbeitszeiten, hybrides Arbeiten mit Büro in Stuttgart und individuelle Weiterbildung.

Woran du bei uns konkret arbeitest, zeigt unsere Seite zu KI-Beratung und RAG-Systemen. Alle offenen Stellen findest du auf der Karriereseite.