Senior Software Engineer – Sicherer KI-Dienst

Hallo, wir sind Edgeless Systems Wir sind ein schnell wachsendes Cybersecurity-Startup. Werde Teil unseres Teams und entwickle mit uns die nächste Generation sicherer KI- und Cloud-Software. Erkunde zukunftsweisende Technologien wie Confidential Computing und wachse gemeinsam mit einem erstklassigen Team. Unser Produkt Privatemode AI ist unsere sichere Alternative zu ChatGPT. Es ermöglicht KI-Workflows mit sensiblen Daten, indem alle Daten – selbst während der Verarbeitung – mit Confidential Computing verschlüsselt bleiben. Du kannst Privatemode über eine benutzerfreundliche App oder eine vollständig OpenAI-kompatible API nutzen. Überzeug dich selbst: Ein Großteil unseres Codes ist auf GitHub verfügbar. Unser Tech-Stack API: Go, KubernetesRAG: Python, QdrantModel Hosting: Python, vLLMSkalierung: Pipeline-/Tensor-Parallelismus, optimiert für Nvidia H100 und B200 Deine Aufgaben Als Teil unseres Teams arbeitest du an der Privatemode-Plattform – von Frontend über Backend bis hin zum Model Hosting. Zu deinen Aufgaben gehören: Erweiterung unserer OpenAI-kompatiblen API und vertraulichen Verarbeitungs-StacksEntwicklung von RAG-Funktionalitäten, Embedding-Pipelines und Agent-LogikHosting und Performance-Optimierung moderner Open-Source-LLMsSkalierung von Modellen durch Parallelisierung und effiziente GPU-OrchestrierungCI/CD-Automatisierung und DokumentationPrototyping und Umsetzung neuer Ideen Als Senior Software Engineer unterstützt du zudem weniger erfahrene Teammitglieder in ihrer Weiterentwicklung. Dein Profil Wir suchen Teammitglieder, die … herausragende technische Fähigkeiten besitzenErfahrung in einem relevanten Teil unseres Tech-Stacks mitbringenbegeistert sind von den Herausforderungen eines schnelllebigen, innovativen Startup-UmfeldsErfahrung in professionellen agilen Software-Entwicklungspraktiken habenintrinsisch motiviert sind, qualitativ hochwertige Arbeit zu liefern Warum wir? Wettbewerbsfähige Vergütung (Gehalt und Aktienoptionen)Möglichkeit, in einem exzellenten Team zu lernen und zu wachsenFlexible Arbeitsmodelle – remote oder in unseren Büros in Bochum und BerlinSpannende Aufgaben in einem dynamischen Umfeld