Thèse Comparaison de Réseaux de Neurones par Alignement dans l'Espace de Représentation H/F - Doctorat.Gouv.Fr

Établissement : Institut Polytechnique de Paris École polytechnique École doctorale : Mathématiques Hadamard Laboratoire de recherche : CMAP - Centre de Mathématiques appliquées Direction de la thèse : Rémi FLAMARY ORCID 0000000242126627 Début de la thèse : 2026-10-01 Date limite de candidature : 2026-07-19T23:59:59 Cette thèse vise à développer de nouvelles méthodes pour comparer desréseaux de neurones d'architectures différentes, en exploitant conjointement les informations de toutesles couches. Pour cela, nous modéliserons les réseaux de neurones comme des séquences de distributionsobtenues en poussant un jeu de données à travers les couches du réseau. Nous déterminerons la distanceà utiliser pour comparer ces séquences, en tenant compte du fait que chaque couche peut appartenirà un espace de dimension différente, et que les réseaux peuvent avoir un nombre de couches différent.Cela nécessitera de concevoir avec soin une mesure de similarité qui aligne simultanément les couches,ce que nous ferons à l'aide d'outils permettant la comparaison de séries temporelles ainsi que d'outilsde transport optimal (Peyré and Cuturi, 2019), qui permettent la comparaison de distributions deprobabilités.
Cette nouvelle distance sera étudiée théoriquement, notamment en termes de propriétés métriqueset d'invariances, afin de capturer la structure des réseaux de neurones. De plus, les travaux de cettethèse porteront également sur l'aspect algorithmique, en s'assurant que les méthodes proposées sontefficaces en termes de temps de calcul et de consommation de mémoire, afin de pouvoir être utiliséessur des réseaux de neurones de grande taille et en grand nombre. La similarité proposée sera evaluéesur des jeux de données, et des réseaux de neurones variés, certains déja pré-appris afin de positionnerles résultats obtenus par rapport à l'état de l'art. Un aspect important de cette validation sera decomparer les performances de la nouvelle distance à celles d'autres méthodes de comparaison de réseaux de neurones (Klabunde et al., 2025), notamment celles basées sur le transport optimal, et d'analyserles cas où la nouvelle distance apporte des avantages significatifs.Les nouvelles méthodes de comparaison de réseaux de neurones développées dans cette thèse serontensuite appliquées à différents problèmes, allant de la distillation de connaissances (Hinton et al.,2015; Gou et al., 2021) à la fusion de modèles, en passant par l'assemblage de réseaux (Pan et al.,2023), l'étude de modèles génératifs, ou l'affinage de modèles pré-entraînés sur des tâches ou donnéesspécifiques. Les réseaux de neurones sont devenus essentiels à l'intelligence artificielle moderne, permettant desavancées majeures dans des domaines tels que la vision par ordinateur, le traitement automatiquedu langage naturel et la découverte scientifique. À mesure que ces modèles gagnent en taille et encomplexité, il est devenu crucial de comprendre comment différents réseaux de neurones se positionnentpar rapport aux autres pour une tâche donnée. Ces comparaisons jouent un rôle fondamental dans desapplications comme la distillation de connaissances (Hinton et al., 2015; Gou et al., 2021), où l'objectifest de compresser un grand réseau de neurones en un plus petit afin d'obtenir un modèle plus léger etplus efficace, ou la fusion de modèles, où la combinaison de plusieurs réseaux, possiblement entraînéespour des tâches différentes, permet d'obtenir un modèle performant sur les différentes tâches pour unmoindre coût (Singh and Jaggi, 2020). De nombreuses méthodes ont été proposées pour comparer desréseaux de neurones (Klabunde et al., 2025). En particulier, plusieurs travaux ont exploré l'utilisationde distances de transport optimal, par exemple pour la distillation de connaissances (Lv et al., 2024;Montesuma, 2025), pour la fusion de réseaux de neurones (Singh and Jaggi, 2020; Ainsworth et al.,2023), ou pour l'assemblage de réseaux de neurones (Quétu et al., 2025). Cependant, ces méthodes selimitent généralement à la comparaison ou à la fusion de réseaux ayant la même architecture, et neprennent pas en compte toute la richesse de la structure des réseaux de neurones.Pour la distillation de connaissances, Li et al. (2020) ont proposé de comparer les neurones d'unecouche donnée à l'aide du transport optimal. Leur méthode permet de comparer les représentations deréseaux d'architectures différentes, et ce, dans des espaces de dimensions différentes. Plus récemment,Nguyen et al. (2025) ont introduit une nouvelle fonction de perte, la cohérence de perception, pourcomparer les représentations d'échantillons au niveau d'une couche donnée de deux réseaux, en tenantcompte d'une notion de rang entre les distances des échantillons. Néanmoins, les méthodes de Li et al.(2020) et de Nguyen et al. (2025) ne comparent que les représentations d'une seule couche, alors queles réseaux de neurones possèdent une structure hiérarchique beaucoup plus riche qui se déploie surplusieurs couches. Ceci motive le développement de nouvelles approches capables de comparer desréseaux d'architectures différentes en exploitant conjointement les informations de toutes les couches. L'objectif principal de cette thèse est de réussir à exploiter conjointement les informations detoutes ou une partie des couches d'un réseau de neurones pour comparer des réseaux d'architecturesdifférentes, en utilisant des outils de transport optimal et de séries temporelles. Nous chercheronsà démontrer que l'exploitation conjointe des informations de plusieurs couches permet d'obtenir unemeilleure comparaison des réseaux de neurones, qui peut ensuite être utilisée pour résoudre différentsproblèmes, que cela soit pour la distillation de connaissances, la fusion de modèles, l'assemblage deréseaux, l'affinage de modèles pré-entraînés sur des tâches ou données spécifiques, l'analyse de la capacité de généralisation des réseaux de neurones à de nouvelles données ou celle d'attaques adversariales. Pour répondre aux objectifs, les travaux de cette thèse devront proposer de nouvelles modélisationsdu problème fondées sur des résultats théoriques, mais également de nouveaux algorithmes de résolutionnumérique permettant une utilisation sur des réseaux de neurones de grande taille et en grand nombre.On cherchera particulièrement à valider l'approche sur des données standards afin de positionner lesrésultats obtenus par rapport à l'état de l'art. Nous nous appuierons aussi sur des bases de donnéesde modèles pré-entraînés en source ouverte, telles que Hugging Face pour les modèles de traitementdu langage naturel ou PyTorch Hub pour les modèles de vision par ordinateur.Des pistes concrètes basées sur l'utilisation de distances entre séries temporelles combinées avec desdistances de transport optimal pour comparer des distributions seront explorées. Nous chercherons àadapter ces méthodes pour comparer des réseaux d'architectures et de tailles différentes, en exploitantconjointement les informations de toutes les couches. Il en résultera de nouvelles distances de transportoptimal pour comparer des réseaux de neurones, qui seront ensuite appliquées à différents problèmesallant de la distillation de connaissances à la fusion de modèles ou à l'assemblage de réseaux. Cesnouvelles distances de transport optimal entre réseaux de neurones seront également utilisées pouraffiner des modèles pré-entraînés sur des tâches ou données spécifiques, en alignant leurs différentescouches sur celles de modèles plus spécialisés, afin d'améliorer leurs performances sur ces tâches oudonnées.Un autre axe de recherche consistera à comprendre comment les données d'entraînement influencentles représentations apprises par les différentes couches des réseaux de neurones, et comment cela setraduit en termes de performances sur des tâches spécifiques. Il pourra également s'agir d'analyser lacapacité de généralisation des réseaux de neurones à de nouvelles données en travaillant dans l'espace dereprésentation de leurs couches intermédiaires, et également de s'intéresser à des attaques adversariales,en mesurant la distance entre les représentations d'un échantillon d'entrée et de sa version adversariale.En termes de calendrier, la première année de thèse sera dédiée à la prise en main de l'état de l'artpuis à la proposition de méthodes de comparaison des réseaux de neurones fondées sur des premiersrésultats théoriques obtenus, notamment concernant les propriétés des distances proposées, telles queles propriétés métriques et les invariances. La deuxième année sera consacrée aux extensions à différentscas d'usage, comme la distillation de connaissance, la fusion de modèles ou l'assemblage de réseaux.Une attention particulière sera portée à la performance des algorithmes proposés en termes de tempsde calcul et de consommation de mémoire.

Le ou la candidate devra être titulaire d'un master en mathématiques appliquées, informatique ou génie électrique. Il/elle devra avoir de l'expérience en Machine Learning et en Python en particulier pour implémenter des réseaux de neurones en Pytorch.