Databricks Data Engineer | Freiberuflich

Wir arbeiten mit einem europäischen Technologieunternehmen zusammen, das sich aktuell in einer umfassenden Transformation seiner Datenplattform befindet. Dafür wird ein Senior Databricks Data Engineer gesucht, der das Team zunächst im Rahmen eines 6-monatigen Freelance-Vertrags unterstützt.

Du kommst in ein Umfeld, in dem die Datenplattform aktiv aufgebaut und modernisiert wird, wobei Databricks im Zentrum der Architektur steht.

Woran du arbeiten wirst

• Entwicklung und Aufbau skalierbarer Datenpipelines innerhalb von Databricks
• Entwicklung produktionsreifer Workloads mit PySpark, Python und SQL
• Umfangreiche Arbeit mit Delta Lake und Lakehouse-Architekturen
• Unterstützung bei der Migration bestehender Workloads zu Databricks
• Optimierung von Spark-Workloads und Verbesserung der Pipeline-Performance
• Aufbau zuverlässiger ETL-/ELT-Prozesse für große Datenmengen
• Zusammenarbeit mit Data Scientists, Analytics Engineers und Cloud Engineers
• Implementierung von Datenqualität, Tests und Monitoring
• Mitwirkung an der übergreifenden Architektur und technischen Weiterentwicklung der Plattform

Das bringst du mit

• 5+ Jahre Erfahrung im Bereich Data Engineering
• Fundierte praktische Erfahrung mit Databricks
• Sehr gute Kenntnisse in PySpark, Python und SQL
• Fundiertes Verständnis von Delta Lake und Lakehouse-Architekturen
• Erfahrung in der Entwicklung und Optimierung produktiver Datenpipelines
• Erfahrung mit Azure, AWS oder GCP
• Erfahrung in großen und komplexen Datenumgebungen
• Die Fähigkeit, selbstständig zu arbeiten und schnell Verantwortung zu übernehmen