Stage - Apprentissage Adaptatif pour les Transformers par Calcul Analogique en Mémoire Reram H/F - CEA

Le CEA est un acteur majeur de la recherche, au service des citoyens, de l'économie et de l'Etat.

Il apporte des solutions concrètes à leurs besoins dans quatre domaines principaux : transition énergétique, transition numérique, technologies pour la médecine du futur, défense et sécurité sur un socle de recherche fondamentale. Le CEA s'engage depuis plus de 75 ans au service de la souveraineté scientifique, technologique et industrielle de la France et de l'Europe pour un présent et un avenir mieux maîtrisés et plus sûrs.

Implanté au coeur des territoires équipés de très grandes infrastructures de recherche, le CEA dispose d'un large éventail de partenaires académiques et industriels en France, en Europe et à l'international.

Les 20 000 collaboratrices et collaborateurs du CEA partagent trois valeurs fondamentales :

- La conscience des responsabilités
- La coopération
- La curiosité

Rejoignez-nous en Stage !

from on .

En tant que stagiaire au CEA, vous aurez l'opportunité de travailler au sein d'un environnement de recherche de renommée mondiale. Nos équipes sont composées d'experts passionnés et dédiés, offrant un cadre propice à l'apprentissage et à la collaboration. Vous aurez accès à des équipements de pointe et à des ressources de recherche de premier ordre pour mener à bien vos missions.

Description du poste :

Au sein du Laboratoire des Dispositifs Mémoires et de Calcul du CEA-Leti à Grenoble, vous travaillerez sur la conception conjointe des algorithmes et du matériel pour des architectures Transformers adaptatives utilisant le calcul analogique en mémoire ReRAM.

À l'aide de PyTorch et de données de caractérisation de nos dispositifs ReRAM, vous développerez des modèles de référence et comparerez différentes configurations de la partie ajustable du réseau. Vous évaluerez l'effet de la quantification des poids, de la variabilité des dispositifs et d'un nombre limité d'opérations de programmation sur les performances d'adaptation. Vous étudierez également des stratégies d'apprentissage compatibles avec ces contraintes.

L'objectif sera d'identifier des compromis entre les performances d'adaptation, le nombre de paramètres ajustables et le nombre d'opérations de programmation des mémoires, puis d'en tirer des recommandations de conception pour de futurs accélérateurs analogiques d'intelligence artificielle.

Le stage est proposé pour une durée de 4 à 6 mois. Pour les meilleurs candidats, une poursuite en thèse est possible en partenariat avec l'entreprise Weebit Nano.

Qu'attendons-nous de vous ?

Étudiant ou étudiante en M2 ou en dernière année d'école d'ingénieurs, avec une spécialisation en électronique, informatique, mathématiques appliquées, science des données, neurosciences computationnelles ou dans un domaine connexe. De solides compétences quantitatives et une expérience en Python/PyTorch sont attendues.

Un intérêt pour l'apprentissage automatique, les réseaux de neurones et la prise en compte des contraintes matérielles en intelligence artificielle est souhaité. Une expérience préalable des mémoires émergentes ou du calcul analogique constitue un atout, mais n'est pas indispensable.

Rejoignez-nous, venez développer vos compétences et en acquérir de nouvelles !

Vous avez encore un doute ? Nous vous proposons :

• L'opportunité de travailler au sein d'une organisation de renommée mondiale dans le domaine de la recherche scientifique,
• Un environnement unique dédié à des projets ambitieux au profit des grands enjeux sociétaux actuels,
• Une expérience à la pointe de l'innovation, comportant un fort potentiel de développement industriel,
• Des moyens expérimentaux exceptionnels et un encadrement de qualité,
• De réelles opportunités de carrière à l'issue de votre stage
• Un poste au coeur de la métropole grenobloise, facilement accessible via la mobilité douce favorisée par le CEA,
• Une participation aux transports en commun à hauteur de 85%,
• Un équilibre vie privée - vie professionnelle reconnu,
• Un restaurant d'entreprise,
• Une politique diversité et inclusion,

Conformément aux engagements pris par le CEA en faveur de l'intégration des personnes handicapées, cet emploi est ouvert à toutes et à tous. Le CEA propose des aménagements et/ou des possibilités d'organisation pour l'inclusion des travailleurs handicapés.