Contenu

x

Moteur de recherche interne

Doctorat de l'Université Grenoble Alpes Doctorat de l'Université Grenoble Alpes

Accueil > Actualités > Actus Doctorat

Accéder au plan complet du site

Alberto BIETTI, lauréat du prix de thèse académique 2020

Alberto BIETTI est lauréat du prix de thèse académique 2020 avec 7 autres docteur.e.s pour sa thèse présentée en 2019 et intitulée "Méthodes à noyaux pour les réseaux convolutifs profonds". Les prix de thèse académiques ont récompensé huit docteur.e.s dont le travail de thèse est jugé d’une qualité exceptionnelle, selon des critères d’excellence propres à chaque champ disciplinaire et représenté par les 13 écoles doctorales du site.
Lauréat du prix de thèse académique 2020 : Alberto BIETTI

Alberto BIETTI - lauréat prix de thèse académique 2020Intitulé de la thèse : Méthodes à noyaux pour les réseaux convolutifs profonds

Ecole doctorale : Mathématiques, sciences et technologies de l’information, informatique - MSTII

Spécialité : Mathématiques Appliquées

Laboratoire : Laboratoire Jean Kuntzmann - LJK (CNRS / Grenoble INP-UGA / Inria / UGA)

Directeur de thèse : Julien MAIRAL

Mots clés : apprentissage, optimisation, noyaux, deep learning, machine learning

La thèse étudie les propriétés mathématiques des réseaux de neurones convolutifs profonds, au travers du formalisme des méthodes à noyaux, qui apportent un cadre mathématique mieux compris.

Résumé
La disponibilité de quantités massives de données, comme des images dans les réseaux sociaux, des signaux audio de téléphones mobiles, ou des données génomiques ou médicales, a accéléré le développement des techniques d'apprentissage automatique. Ces méthodes exploitent des motifs statistiques dans ces grandes bases de données pour effectuer de bonnes prédictions sur des nouvelles images, signaux, ou séquences de protéines. Récemment, les systèmes d'apprentissage profond ont émergé comme des algorithmes d'apprentissage très efficaces. Ces modèles multi-couche effectuent leurs prédictions de façon hiérarchique, et peuvent être entraînés à très grande échelle avec des méthodes de gradient. Leur succès a été particulièrement marqué lorsque les données sont des signaux naturels comme des images ou des signaux audio, pour des tâches comme la reconnaissance visuelle, la détection d'objets, ou la reconnaissance de la parole. Pour de telles tâches, l'apprentissage profond donne souvent la meilleure performance empirique, mais leur compréhension théorique reste difficile à cause du grand nombre de paramètres, et de la grande dimension des données. Leur succès est souvent attribué à leur capacité d'exploiter des structures des signaux naturels, par exemple en apprenant des représentations invariantes et multi-échelle de signaux naturels à travers un bon choix d'architecture, par exemple avec des convolutions et des opérations de pooling. Néanmoins, ces propriétés sont encore mal comprises théoriquement, et l'écart entre la théorique et pratique en apprentissage continue à augmenter. Cette thèse vise à réduire cet écart grâce à l'étude d'espaces de fonctions qui surviennent à partir d'une certaine architecture, en particulier pour les architectures convolutives. Notre approche se base sur les méthodes à noyaux, et considère des espaces de Hilbert à noyaux reproduisant (RKHS) associés à certains noyaux construits de façon hiérarchique selon une architecture donnée. Cela nous permet d'étudier précisément des propriétés de régularité, d'invariance, de stabilité aux déformations du signal, et d'approximation des fonctions du RKHS. Ces propriétés sur la représentation sont aussi liées à des questions d'optimisation pour l'entraînement de réseaux profonds à très grand nombre de neurones par descente de gradient, qui donnent lieu à de tels noyaux. Cette théorie suggère également des nouvelles stratégies pratiques de régularisation qui permettent d'obtenir une meilleure performance en généralisation pour des petits jeux de données, et une performance état de l'art pour la robustesse à des perturbations adversariales en vision.

> Découvrir tous les lauréats des prix de thèse 2020


Mise à jour le 2 juin 2020

Déménagement

Le Collège et les écoles doctorales (hormis Philo) ont déménagé 1er septembre 2020 pour rejoindre la Maison Jean Kuntzmann au 110 rue de la Chimie 38400 Saint-Martin-d'Hères sur le Domaine Universitaire (Tram B et C, Arrêts "Bibliothèques universitaires").
Membres
Associés renforcés
Associés simples