VoCaL

• Scientific lead: LEFORT Mathieu
• Is SyCoSMA the project lead? Yes
• Start date: 2023-01-01
• End date: 2023-12-01

Bien que l’avancée obtenue avec les auto-encodeurs variationnels ait eu un impact important dans le domaine de l’apprentissage de représentation, les méthodes contrastives de l’état de l’art ne capitalisent pas sur ses principes. Sachant que les auto-encodeurs variationnels permettent d’apprendre des caractéristiques décorrélées et que la décorrélation de caractéristiques a un impact positif sur l’effondrement dans les représentations nous souhaitons étudier dans ce projet si les représentations apprises par ces méthodes contrastives récentes peuvent bénéficier d’un aspect variationnel.

Pour cela, nous proposons dans un premier temps une modification des méthodes actuelles pour que les représentations produites soient des distributions et non des points dans l’espace de représentation. Puis dans un second temps, nous étudierons comment régulariser les distributions produites, comme c’est le cas dans les auto-encodeurs variationnels, afin d’éviter toute forme d’effondrement. Cette seconde étape nécessitera un travail d’adaptation étant donné que les méthodes d’apprentissage contrastif récentes utilisent un espace latent contraint à une hypersphère, là où les auto-encodeurs variationnels demandent un espace latent sans contrainte.

Ainsi avec ce travail nous espérons ainsi étudier comment l’apprentissage autosupervisé de représentation peut être combiné avec un aspect variationnel pour améliorer ses performances.