Apprentissage profond

Ref: 3MD3020

Description

Avec l'augmentation de la puissance de calcul et des quantités de données disponibles, mais aussi avec le développement de nouveaux algorithmes d'apprentissage et de nouvelles approches globales, de nombreuses percées ont eu lieu ces dernières années dans le domaine de l'apprentissage profond pour la reconnaissance d'objets et du langage parlé, la génération de textes et la robotique. Ce cours couvrira les aspects fondamentaux et les développements récents de l'apprentissage profond dans différents domaines : Vision par ordinateur, traitement du langage naturel, et apprentissage profond par renforcement.

Numéro de trimestre

SM10

Prérequis

Il n'y a pas de prérequis officiel pour ce cours. Cependant, les étudiants doivent avoir une connaissance de base de Python.

Syllabus

  • histoire de l'apprentissage profond et sa relation avec les sciences cognitives ;
  • réseaux feedforward, régularisation et optimisation ;
  • apprentissage par représentation et réseaux siamois ;
  • GAN et apprentissage par transfert ;
  • réseaux récurrents et LSTM pour le traitement du langage naturel ;
  • détection d'objets ;
  • méthodes auto-supervisées ;
  • apprentissage par renforcement profond.

Composition du cours

Chaque section du cours est divisée en 1h30 de cours et 1h30 de laboratoire. Les laboratoires permettront aux étudiants de commencer à développer les mini-projets sur lesquels l'évaluation est basée, et de recevoir un feedback.

Notation

L'évaluation du cours sera basée sur 2 mini-projets individuels sur la reconnaissance d'objets, le traitement du langage naturel et l'apprentissage par renforcement.

Résultats de l'apprentissage couverts par le cours

Le cours a pour objectif d'initier les étudiants au Deep Learning à travers le développement de projets pratiques. Nous espérons qu'à la fin du cours, les étudiants seront en mesure de mettre en œuvre et de développer de nouvelles méthodes dans différents domaines.

Support de cours, bibliographie

Reading material
  • Deep Learning. Ian Goodfellow, Yoshua Bengio, and Aaron Courville, MIT Press, 2016.

Resources
  • Software tools: Python, Keras, PyTorch
  • Related conferences: NIPS, ICML, ICLR, CVPR, ECCV, ICCV
  • Related Courses: Deep Learning in Practice (second semester)