Expert Databricks - Lead Data Engineer H/F - Kaizen Solutions
- Lyon 3e - 69
- CDI
- Kaizen Solutions
Les missions du poste
Kaizen Solutions ?
Kaizen Solutions est une société de conseil (ESN) spécialisée dans les systèmes d'information complexes.
Nous accompagnons nos clients, de la start-up aux grands groupes industriels, dans la conception et le développement de solutions logicielles sur mesure, sur l'ensemble de la chaîne technique, du capteur jusqu'au cloud.
Notre promesse employeur est simple :
Travailler chez Kaizen, c'est le meilleur moyen de progresser rapidement.
Nos équipes sont composées de profils passionnés, qui ont envie d'apprendre, de partager et de transmettre, dans un environnement où l'expertise technique et la montée en compétences sont réellement valorisées.
Oubliez tout ce que vous connaissez ou pensez connaître sur les ESN, et découvrez qui nous sommes (on est vraiment différents, et on a hâte de vous expliquer de vive voix pourquoi) !
LE CONTEXTE
Nous recherchons un Lead Data Engineer / Expert Databricks pour rejoindre une équipe chez un acteur majeur du secteur de l'énergie. Vous interviendrez sur un projet de migration et d'industrialisation d'une nouvelle plateforme data, dans un environnement technique exigeant alliant enjeux de performance, de qualité et d'amélioration continue.
VOS MISSIONS
- Concevoir, développer et maintenir des pipelines data sous Databricks / Spark
- Développer les traitements en Python, PySpark et SQL
- Contribuer à la définition et à la mise en oeuvre du modèle de données cible
- Industrialiser les pipelines : standards de développement, tests, CI/CD, déploiement
- Orchestrer les traitements via Databricks Workflows / Lakeflow Jobs
- Contribuer à la qualité, à l'observabilité et à la fiabilité des traitements
- Assurer le run : suivi de production, analyse d'incidents, amélioration continue
- Prendre en compte les enjeux de performance et de maîtrise des coûts
- Participer au cadrage des besoins avec le Product Owner et les équipes utilisatrices
- Contribuer aux choix techniques liés à la nouvelle plateforme data
- Participer à la mise en place des pratiques de développement Databricks
- Contribuer à la documentation technique et aux standards d'équipe
- Participer aux rituels agiles et à l'amélioration continue de la feature team
ENVIRONNEMENT TECHNIQUE
- Traitement et pipelines data : Databricks, Spark, PySpark
- Langages : Python, SQL
- Modélisation : Delta Lake, Unity Catalog
- Industrialisation : CI/CD, tests, Databricks Workflows
- Cloud public (sans contrainte de provider), Terraform
- Apprécié : Kafka, Lakeflow / DLT, Power BI
Le profil recherché
PROFIL RECHERCHÉ
- MINIMUM 5 ANS d'expérience sur Databricks, avec certification Databricks (impératif)
- Très bonne maîtrise de Spark / PySpark et de Python / SQL (impératif)
- Solide expérience en modélisation de données
- Participation à un projet de migration ou de transformation data
- Expérience en industrialisation de pipelines (CI/CD, tests, déploiement)
- Autonomie, leadership technique, force de proposition
- Capacité à travailler avec des profils variés : Data, BI, PO, métier
- Niveau de séniorité visé : confirmé / senior (niveau 3)