Calcul de la fonction softmax et perte entropie croisée

Un réseau multiclasse produit les scores bruts \(z = [3,\ 1,\ 0]\) pour 3 classes. On rappelle que \(\text{softmax}(z)_k = \frac{e^{z_k}}{\sum_j e^{z_j}}\), et que \(e^0 = 1\), \(e^1 \approx 2{,}7\), \(e^3 \approx 20\).

1

Calculer approximativement \(\hat{p}_1\), \(\hat{p}_2\), \(\hat{p}_3\).

2

Vérifier que leur somme vaut bien \(1\).

3

La vraie classe est \(1\). La perte CCE vaut \(-\log(\hat{p}_1)\). Est-elle faible ou forte ?

Exercice O1Bu

Signaler une erreur

  1. Problème
  2. Précisions
  3. Envoi
Quel est le problème ?