On dispose de deux exemples \(x^{(1)} = 1000\) et \(x^{(2)} = 2000\). La normalisation standard est effectuée avec une moyenne \(\mu = 1500\) et un écart-type \(\sigma = 500\).
1
Calculer les valeurs normalisées \(\tilde{x}^{(1)}\) et \(\tilde{x}^{(2)}\).
2
Si on oublie de normaliser et qu’on initialise \(w = 0{,}01\), comment le gradient \(\frac{\partial J}{\partial w}\) se compare-t-il proportionnellement à celui obtenu avec les données normalisées ? Qu’est-ce que ça change en pratique ?