@@ -10,11 +10,10 @@ Cette formation est totalement libre, gratuite et ouverte à toutes et à tous !
...
@@ -10,11 +10,10 @@ Cette formation est totalement libre, gratuite et ouverte à toutes et à tous !
## Prochaines sessions :
## Prochaines sessions :
|**Jeudi 17 mars, 14h, Séquence 11 : Un détour par PyTorch**|
|**Jeudi 24 mars, 14h, Séquence 11 : <br>Passer à la vitesse supérieure : Jean-Zay et accélération GPU**|
|--|
|--|
|PyTorch est une alternative à Tensorflow/Keras, développée par Méta (Facebook).<br>Présentation générale<br>Principes et objets clés pour programmer sous PyTorch<br>Tenseurs et différentiation automatique, etc.<br>Exemples : Classification et régression sous PyTorch<br>[<img width="300" src="uploads/63c49f8790b17699ff2aa1bc776e15cc/pytorch.png">](#)|
|Présentation de Jean-Zay et calcul sur GPU - Distribution du calcul - Data Parallelism <br>Model Parallelism - Hybrid Parallelism - Pipelines - Deepspeed <br>Optimisation du Data parallelism <br>Bonnes pratiques pour un apprentissage distribué<br>[<img width="500" src="uploads/e6f77360bcc26eabc6b594828841578c/JeanZay.png">](#)|
|Durée : 2h|
|Durée : 2h - Les paramètres de diffusion seront précisés la veille|
