バックワード損失ソフトマックス・クロスエントロピー層

p 次元の入力テンソル X ∈ R^{n₁ x ... x n_k x... x n_p}、データサンプルの数を記述するバッチ次元 k、p 次元の正解データテンソル T ∈ R^{1 x ... x n_k x... x 1} について、フォワード損失ソフトマックス・クロスエントロピー層はクロスエントロピー値で 1 次元のテンソルを計算します。詳細は、「フォワード損失ソフトマックス・クロスエントロピー層」を参照してください。

バックワード損失ソフトマックス・クロスエントロピー層は、
指定されたソフトマックス値の p 次元のテンソル S ∈ R^{n₁ x ... x n_k x... x n_p} および p 次元の正解データテンソル T ∈ R^{1 x ... x n_k x... x 1} について、次のような p 次元のテンソル Z ∈ R^{n₁ ... x n_p} を計算します。

ここで、s_{i₁...i_p} はフォワード段階で計算されます。