diff --git a/report/report.qmd b/report/report.qmd index f3fcf2ef1e8d576299ee33daf6b71dacac4ecdc8..d89959d7e9dae928a44dbdc6480a6e30d241d46d 100644 --- a/report/report.qmd +++ b/report/report.qmd @@ -186,12 +186,13 @@ trajectoires. La trajectoire empruntée par la descente **Nesterov** est _étrangement_ similaire à celle de **Momentum** à un détail près, elle est **moins erratique**. Ceci est dû au fait qu'avant d'effectuer le pas (c'est-à-dire passer à la -prochaine itération), **Nesterov** pré-calcule $\nabla{f}(\vec{x}_{k + 1})$ pour -corriger le grand pas effectué par **Momentum** de sorte à pousser la -trajectoire un peu plus tôt dans la bonne direction vers le minimum. La -@fig-nesterov l'illustre très bien, les deux trajectoires ont les mêmes -tendances sauf que l'orange (Nesterov) se "redresse" plus tôt et atteint le -minimum plus rapidement que Momentum (205 contre 317 itérations). +prochaine itération), **Nesterov** pré-calcule une approximation de +$\nabla{f}(\vec{x}_{k + 1})$ pour corriger le grand pas effectué par +**Momentum** de sorte à pousser la trajectoire un peu plus tôt dans la bonne +direction vers le minimum. La @fig-nesterov l'illustre très bien, les deux +trajectoires ont les mêmes tendances sauf que l'orange (Nesterov) se "redresse" +plus tôt et atteint le minimum plus rapidement que Momentum (205 contre 317 +itérations). ## Méthode d'Adam