SENS LEFORT

• Scientific lead: LEFORT Mathieu
• Is SyCoSMA the project lead? Yes
• Start date: 2024-01-12
• End date: 2027-01-12

L’apprentissage auto-supervisé s’est imposé comme une approche clé en intelligence artificielle, permettant aux modèles d’apprendre des représentations pertinentes à partir de données non annotées. Cette approche s’avère particulièrement prometteuse dans le domaine de la vision par ordinateur, où l’annotation manuelle représente un coût considérable. Nos travaux s’inscrivent dans le domaine des méthodes d’apprentissage auto-supervisé non génératives. Dans le cadre d’un agent autonome, l’apprentissage continu (incrémentale ou lifelong) est une nécessité fondamentale. Un tel agent, évoluant dans un environnement dynamique et interagissant physiquement avec celui-ci, doit constamment adapter ses représentations internes face aux nouvelles tâches, tout en préservant les connaissances précédemment acquises. L’apprentissage auto-supervisé (SSL) offre un cadre particulièrement prometteur pour ces agents, en éliminant le besoin d’annotations externes. Le domaine de l’apprentissage continu auto-supervisé est relativement actif, avec des travaux récents tels que CaSSLe [1], Osiris [2] et Branch-Tuning [3]. Le point commun entre ces travaux est l’utilisation de connaissances externes pour guider l’apprentissage, en modifiant le modèle à chaque changement de tâche. Cependant, les approches continues, où les données ne sont montrées qu’une seule fois au modèle et traitées de manière séquentielle, où les transitions entre les tâches ne sont pas connues, sont encore peu explorées en SSL. Dans ce domaine, les tâches sont généralement générées en découpant des jeux de données tels qu’ImageNet en groupes de classes, sans intersection entre deux tâches. Dans l’apprentissage incrémental il existe un sous domaine qui est l’apprentissage online où les données sont présentées une seule fois au modèle. Notre travail s’inscrit dans cette problématique : l’apprentissage continu auto-supervisé en ligne, sans connaissance préalable des transitions.