Stage - Modèles de Fondation pour Données Tabulaires H/F - Dassault Systèmes

Le stage se déroulera au sein de l'équipe Data Science en charge du service DataScienceNotebook, permettant de fournir un environnement de développement dédié au Machine Learning au sein de la 3DEXPERIENCE Plateforme.

Vos Missions

Vous utiliserez DataScienceNotebook pour explorer, expérimenter et évaluer des modèles fondamentaux tabulaires. Vous serez impliqué(e) dans :
- État de l'art : étudier les Tabular Foundation Models existants (tels que TabPFNv2, TabFM et TabICL), leurs principes de fonctionnement (in-context learning, pré-entraînement sur données synthétiques) et leurs limites.
Constitution de datasets : sélectionner et préparer des jeux de données tabulaires représentatifs (publics ou synthétiques), couvrant des tâches de classification et de régression et des caractéristiques variées (taille, nombre de variables, variables catégorielles, valeurs manquantes).
- Expérimentation TFM : mettre en oeuvre les TFM sur ces jeux de données, étudier leur capacité à généraliser à partir des données fournies en contexte, et analyser ce qu'ils sont capables de reproduire (distributions, relations entre variables, prédictions).
- Définition de modèles de référence : entraîner spécifiquement des modèles de régression et de Machine Learning classiques (régression linéaire/logistique, Random Forest, Gradient Boosting type XGBoost, LightGBM ou CatBoost) avec optimisation des hyperparamètres.
- Évaluation comparative : comparer les TFM aux modèles de référence selon des critères quantitatifs (métriques de performance, temps d'entraînement et d'inférence, consommation de ressources) et qualitatifs (robustesse, facilité d'usage, interprétabilité).
- Fine-tuning : explorer l'adaptation des TFM à des cas d'usage spécifiques (fine-tuning, voire apprentissage par renforcement) et mesurer le gain obtenu.
- Synthèse et recommandations : documenter les résultats et identifier les cas d'usage pour lesquels les TFM apportent une réelle valeur ajoutée dans la plateforme.

Vos qualifications

Vous préparez un diplôme d'ingénieur (Bac +5) ou un Master avec une spécialisation en Intelligence Artificielle ou en Machine Learning et vous recherchez une stage de 6 mois à partir de janvier 2027.
Vous maîtrisez les réseaux de neurones et avez de bonnes connaissances en Python et en PyTorch. Une première expérience des modèles de fondation tabulaires (TabFM), du fine-tuning ou de l'apprentissage par renforcement (Reinforcement Learning) serait un vrai atout.
Rigoureux(se) et autonome, vous savez mener un projet de recherche de bout en bout, et vous êtes motivé(e) par le Machine Learning et, plus particulièrement, par les Tabular Foundation Models.

Nous rejoindre c'est aussi

Intégrer une entreprise scientifique au coeur de l'innovation technologique, portée par une forte croissance depuis plus de 40 ans.

Principaux avantages et bénéfices :
- Environnement multiculturel
- Cadre de travail convivial axé sur le bien-être et la santé (salles de sport & de musique, conciergerie...)
- Engagement en faveur de la diversité et de l'inclusion
- Politique dynamique de développement de carrière : plan de formation, mobilités internes, etc