... | @@ -142,19 +142,20 @@ Le calendrier des séquences suivantes sera discuté ensemble. |
... | @@ -142,19 +142,20 @@ Le calendrier des séquences suivantes sera discuté ensemble. |
|
- Présentation de **Jean-Zay** et calcul sur **GPU**
|
|
- Présentation de **Jean-Zay** et calcul sur **GPU**
|
|
- Distribution du calcul - Data Parallelism - Model Parallelism<br>
|
|
- Distribution du calcul - Data Parallelism - Model Parallelism<br>
|
|
Hybrid Parallelism - Pipelines
|
|
Hybrid Parallelism - Pipelines
|
|
|
|
- Durée : 2h
|
|
|
|
|
|
### Séquence 8 : Démystifier les outils mathématiques pour l'apprentissage des réseaux de neurones.
|
|
### Séquence 8 : Démystifier les outils mathématiques pour l'apprentissage des réseaux de neurones.
|
|
- Présentation mathématique de l'optimisation par descente de gradient
|
|
- Présentation mathématique de l'optimisation par descente de gradient
|
|
- Principe de la **backpropagation**
|
|
- Principe de la **backpropagation**
|
|
- Mise en lumière de l'intérêt pratique des méthodes stochastiques
|
|
- Mise en lumière de l'intérêt pratique des méthodes stochastiques
|
|
- Exemple proposé : Programmation **à la main** de l'apprentissage d'un réseau convolutif
|
|
- Exemple proposé : Programmation **à la main** de l'apprentissage d'un réseau convolutif
|
|
- Durée : 1h30
|
|
- Durée : 2h30
|
|
|
|
|
|
### Séquence 9 : Un détour par PyTorch.
|
|
### Séquence 9 : Un détour par PyTorch.
|
|
- Présentation générale
|
|
- Présentation générale
|
|
- Principes et objets clés pour programmer sous PyTorch
|
|
- Principes et objets clés pour programmer sous PyTorch
|
|
- Exemples : Classification et regression sous PyTorch
|
|
- Exemples : Classification et regression sous PyTorch
|
|
- Durée : 1h30
|
|
- Durée : 2h
|
|
|
|
|
|
### Séquence 10 : Clôture et bilan
|
|
### Séquence 10 : Clôture et bilan
|
|
- Pour aller au delà de ce premier contact...
|
|
- Pour aller au delà de ce premier contact...
|
... | | ... | |