Senior Software Engineer - Secure AI Infrastructure

Stellenbeschreibung:

Wir sind ein schnell wachsendes Cybersecurity-Startup. Werde Teil unseres Teams und entwickle mit uns die nächste Generation sicherer KI- und Cloud-Software. Erkunde zukunftsweisende Technologien wie Confidential Computing und wachse gemeinsam mit einem erstklassigen Team.

Privatemode AI ist unsere sichere Alternative zu ChatGPT. Es ermöglicht KI-Workflows mit sensiblen Daten, indem alle Daten – selbst während der Verarbeitung – mit Confidential Computing verschlüsselt bleiben. Du kannst Privatemode über eine benutzerfreundliche App oder eine vollständig OpenAI-kompatible API nutzen.

Überzeug dich selbst: Ein Großteil unseres Codes ist auf GitHub verfügbar.

Skalierung: Pipeline-/Tensor-Parallelismus, optimiert für Nvidia H100 und B200
Portal und App: TypeScript, React, Electron

Deine Aufgaben

Als Teil unseres Teams arbeitest du an der Privatemode-Plattform – von Frontend über Backend bis hin zum Model Hosting. Zu deinen Aufgaben gehören:

Erweiterung unserer OpenAI-kompatiblen API und vertraulichen Verarbeitungs-Stacks
Entwicklung von RAG-Funktionalitäten, Embedding-Pipelines und Agent-Logik
Hosting und Performance-Optimierung moderner Open-Source-LLMs
Skalierung von Modellen durch Parallelisierung und effiziente GPU-Orchestrierung
CI/CD-Automatisierung und Dokumentation
Prototyping und Umsetzung neuer Ideen

Als Senior Software Engineer unterstützt du zudem weniger erfahrene Teammitglieder in ihrer Weiterentwicklung.

Dein Profil

Wir suchen Teammitglieder, die …

herausragende technische Fähigkeiten besitzen
Erfahrung in einem relevanten Teil unseres Tech-Stacks mitbringen
begeistert sind von den Herausforderungen eines schnelllebigen, innovativen Startup-Umfelds
Erfahrung in professionellen agilen Software-Entwicklungspraktiken haben
intrinsisch motiviert sind, qualitativ hochwertige Arbeit zu liefern