インテル® DAAL 2018 デベロッパー・ガイド
バックワード・バッチ正規化層の入力は次のとおりです。入力 ID をパラメーターとして、アルゴリズムの入力を提供するメソッドに渡します。詳細は、「アルゴリズム」を参照してください。
入力 ID |
入力 |
|
---|---|---|
inputGradient |
前の層で計算された入力勾配を格納するサイズ n1 x n2 x ... x np のテンソル。この入力は、Tensor の派生クラスのオブジェクトです。 |
|
inputFromForward |
バックワード・バッチ正規化層に必要なデータのコレクション。 | |
要素 ID |
要素 |
|
auxData |
フォワードバッチ正規化層の入力データを格納するサイズ n1 x n2 x ... x np のテンソル。この入力は、Tensor の派生クラスのオブジェクトです。 |
|
auxWeights |
フォワードバッチ正規化層のスケーリング ω(k) の重みを格納するサイズ nk の 1 次元のテンソル。この入力は、Tensor の派生クラスのオブジェクトです。 |
|
auxMean |
フォワードステップで計算されたミニバッチ平均を格納するサイズ nk の 1 次元のテンソル。この入力は、Tensor の派生クラスのオブジェクトです。 |
|
auxStandardDeviation |
フォワードステップで計算された母集団標準偏差を格納するサイズ nk の 1 次元のテンソル。この入力は、Tensor の派生クラスのオブジェクトです。 |
|
auxPopulationMean |
フォワードステップで計算された母集団平均を格納するサイズ nk の 1 次元のテンソル。この入力は、Tensor の派生クラスのオブジェクトです。 |
|
auxPopulationVariance |
フォワードステップで計算された母集団分散を格納するサイズ nk の 1 次元のテンソル。この入力は、Tensor の派生クラスのオブジェクトです。 |
ニューラル・ネットワーク層の共通パラメーターは、「共通パラメーター」を参照してください。
共通パラメーターに加えて、バックワード・バッチ正規化層には次のパラメーターがあります。
パラメーター |
デフォルト値 |
説明 |
|
---|---|---|---|
algorithmFPType |
float |
アルゴリズムが中間計算に使用する浮動小数点の型。float または double を指定できます。 |
|
method |
defaultDense |
パフォーマンス指向の計算メソッド。層でサポートされている唯一のメソッドです。 |
|
epsilon |
0.00001 |
数値安定性のためにミニバッチ分散に追加される定数。 |
|
dimension |
1 |
正規化を実行する次元 k のインデックス。 |
|
propagateGradient |
false |
バックワード層が勾配を伝播するかどうかを指定するフラグ。 |
バックワード・バッチ正規化層は次の結果を計算します。結果 ID をパラメーターとして、アルゴリズムの結果にアクセスするメソッドに渡します。詳細は、「アルゴリズム」を参照してください。
結果 ID |
結果 |
|
---|---|---|
gradient |
バックワード・バッチ正規化層の結果 z を格納するサイズ n1 x n2 x ... x np のテンソル。この入力は、Tensor の派生クラスのオブジェクトです。 |
|
weightsDerivatives |
バックワード・バッチ正規化層の結果 ∂Ε / ∂ω(k) を格納するサイズ nk の 1 次元のテンソル。この入力は、Tensor の派生クラスのオブジェクトです。 |
|
biasesDerivatives |
バックワード・バッチ正規化層の結果 ∂Ε / ∂β(k) を格納するサイズ nk の 1 次元のテンソル。この入力は、Tensor の派生クラスのオブジェクトです。 |
C++: batch_norm_layer_dense_batch.cpp
Java*: BatchNormLayerDenseBatch.java
Python*: batch_norm_layer_dense_batch.py