Description Du Poste
En intégrant le Data \& IA Hub SOCOTEC, vous participerez activement à la maintenance et à l'optimisation de notre Datalake, ainsi qu'à la création et à la mise à jour des flux de données. Vous serez responsable de la documentation et de la validation de ces flux, ainsi que de la création et de la mise en place d'outils de reporting tels que Power BI. Vous proposerez également de nouvelles solutions, participerez aux qualifications techniques et contribuerez à l'amélioration continue de notre infrastructure data.
Vous travaillerez sur deux missions principales :
Au sein de l’entité Socotec Monitoring France (20%), vous participerez à la définition de la stratégie optimale de données pour Socotec Monitoring (structuration, processus, open data, achats de données externes)
Pour le compte du groupe Socotec (80%), vous participez à la construction du Data Lake à l’échelle monde. Votre objectif sera de développer les flux de donner pour leur analyse en lien avec les équipes BI et Data Science. Vous apprendrez à organiser et ordonnancer les flux d’extraction, de transformation et de chargement des données en garantissant leur fiabilité, leur disponibilité, etc.
Le stack technique utilisée :
Amazon Web Services (AWS)
Apache Airflow comme ordonnanceur
Spark pour les pipelines ETL
Gitlab pour versionner les sources
Kubernetes
DeltaLake
S3
Gérer les metadata avec OpenMetadata
Power BI, l’outil de BI, géré avec les équipes BI
Chez SOCOTEC, les carrières sont construites avec vous vers ce qui vous correspond le mieux : expertise technique, management d’une équipe (lead data), etc.
Vous aurez la possibilité d’interagir à l’international (US, UK, ITA, ESP, NL) et des opportunités de mobilité internationale sont possibles.
Vous ferez preuve d’autonomie, de sagacité et de qualités certaines dans la rédaction et la communication de son code. L’offre peut déboucher sur un
CDI à la fin du stage
.
Qualifications
Master en Big Data ou diplôme d'ingénieur en informatique avec une forte appétence pour la data
Maîtrise des bases de données SQL et NoSQL, ainsi que des concepts associés
Connaissance de la stack Big Data (Airflow, Spark, Hadoop)
Expérience avec les outils collaboratifs de développement (Git, GitLab, Jupyter Notebooks, etc.)
Connaissance appréciée des services AWS (Lambda, EMR, S3)
Intérêt marqué pour les technologies innovantes
Esprit d'équipe
Anglais courant, y compris un bon niveau technique