Doctorant Mesure de l'Injection de Narratifs dans les Modèles de Langue H/F - INRIA

A propos d'Inria Inria, l'institut national de recherche dans les sciences et technologies du numérique, est en appui de l'État pour les stratégies nationales de recherche et d'innovation du numérique en tant qu'Agence de programmes. Inria mène plus de 300 projets de recherche et d'innovation avec ses 3500 scientifiques, ingénieurs et personnels d'appui, en partenariat avec les universités et l'écosystème numérique (entreprises, entrepreneurs, acteurs publics). Ensemble, nous explorons des domaines clés comme l'intelligence artificielle, la cybersécurité, l'informatique quantique, le Cloud, la transformation numérique de la santé, les jumeaux numériques ou encore les technologies numériques pour la défense. Nous construisons des solutions concrètes telles que des logiciels, des startups technologiques, des partenariats avec les entreprises du tissu national et des formations de pointe. Notre objectif : l'impact scientifique, technologique et industriel au service de la souveraineté numérique de la France.
Doctorant F/H Mesure de l'injection de narratifs dans les modèles de langue Type de contrat : CDD Contrat renouvelable : Oui Niveau de diplôme exigé : Bac +5 ou équivalent Fonction : Doctorant Contexte et atouts du posteLes grands modèles de langage (Large Language Models, LLMs) sont entraînés sur des volumes massifs de données issues du web et de sources diverses. La qualité et l'intégrité de ces données sont devenues un enjeu majeur, car elles peuvent contenir des contenus biaisés, manipulatoires ou intentionnellement malveillants.Un risque émergent est celui du LLM grooming, c'est-à-dire l'injection progressive de contenus idéologiques ou propagandistes dans les corpus publics afin d'influencer le comportement futur des modèles. Ce phénomène peut être rapproché de formes de data poisoning, dans lesquelles des acteurs malveillants introduisent des données spécifiques pour altérer les capacités, les biais ou les réponses d'un modèle.Dans ce contexte, ce projet vise à identifier, caractériser et détecter la propagande et les tentatives de manipulation dans les données utilisées pour le pré-entraînement et le post-training des LLMs, afin de mieux comprendre leurs effets sur le comportement des modèles et de développer des outils de détection et de mitigation.Mission confiéeÉtudier la présence de propagande, manipulation informationnelle et contenus idéologiques dans les corpus utilisés pour l'entraînement des LLMs.Concevoir des outils d'analyse et de filtrage des données à grande échelle (web datasets, corpus instruction-tuning, RLHF data, etc.).Étudier l'impact de ces données sur le comportement des modèles via des expérimentations contrôlées.Contribuer à la production de datasets annotés et benchmarks pour la détection de propagande dans les données d'entraînement.Contribuer à la construction de modèles instrumentés illustrant les phénomènes considérésLe doctorantrecruté travaillera au sein de l'équipe ALMAnaCH, sous la responsabilité scientifique deDjamé Seddah.Principales activitésLa personne recrutée devra effectuer les missions classiques d'un doctorant dans une équipe de pointe.CompétencesCompétences techniques requises :Excellent niveau en Python, ainsi qu'une bonne maîtrise des outils utilisés en data science, deep learning et traitement automatique du langage naturel (NLP).Expérience dans la conduite d'expérimentations à grande échelle.Compétences relationnelles :Capacité à travailler en équipe, tout en faisant preuve d'autonomie.Motivation à partager et diffuser les résultats (publications, présentations, documentation).Autres qualités appréciées :Enthousiasme.Esprit d'équipe.AvantagesRestauration subventionnéeTransports publics remboursés partiellementCongés: 7 semaines de congés annuels + 10 jours de RTT (base temps plein) + possibilité d'autorisations d'absence exceptionnelle (ex : enfants malades, déménagement)Possibilité de télétravail et aménagement du temps de travailÉquipements professionnels à disposition (visioconférence, prêts de matériels informatiques, etc.)Prestations sociales, culturelles et sportives (Association de gestion des oeuvres sociales d'Inria)Accès à la formation professionnelleSécurité sociale