Deep Learning
Etablissement : ECOLE DU NUMERIQUE
Langue : Français
Formation(s) dans laquelle/lesquelles le cours apparait :
- MASTER DATA ET IA [ECTS : 3,00]
Période : S4
Connaissance du langage python et connaissances mathématiques (algèbre)
- Savoir expliquer la méthode d’apprentissage d’un réseau de neurone
- Savoir mettre en œuvre un réseau de neurone à l’aide de Pytorch
- Connaitre les concepts mathématiques d’apprentissage d’un réseau de neurones
– Rappel Python, Jupyter Notebook, Google Colab
– Introduction aux réseaux de neurones
- Perceptron et réseaux MLP
- Classification vs Regression
- Propagation-avant (feedforward)
- Application (perceptron)
– Descente du gradient
- Calcul d’erreur
- Optimisation par descente du gradient
- Rétropropagation (backpropagation)
- Application (développer un réseau de neurones de zéro)
– Entrainement et optimisation d’un réseau neuronal
- Underfitting vs Overfitting
- Taux d’apprentissage (learning rate)
- Régularisation
- Dropout
- Problème de la disparition du gradient (vanishing gradient)
- Fonctions d’activation
- Momentum
- Apprentissage par lots (batches)
– Introduction à Pytorch
– Réseaux convolutifs CNN
- Images et MLP
- Filtrage d’image et convolution
- Pooling
- Architecture CNN et Application (Implanter un CNN avec Pytorch)
- Apprentissage par transfert (transfer learning)
- Autoencodeurs
– Ouverture vers notions plus avancées
- Notion sur les réseaux récurrents (RNN, LSTM)
- Notion sur les réseaux génératifs (GAN)
