インテル® DAAL 2017 デベロッパー・ガイド

バッチ処理

層の入力

バックワード・バッチ正規化層の入力は次のとおりです。入力 ID をパラメーターとして、アルゴリズムの入力を提供するメソッドに渡します。詳細は、「アルゴリズム」を参照してください。

入力 ID

入力

inputGradient

前の層で計算された入力勾配を格納するサイズ n1 x n2 x ... x np のテンソル。この入力は、Tensor の派生クラスのオブジェクトです。

inputFromForward

バックワード・バッチ正規化層に必要なデータのコレクション。

要素 ID

要素

auxData

フォワードバッチ正規化層の入力データを格納するサイズ n1 x n2 x ... x np のテンソル。この入力は、Tensor の派生クラスのオブジェクトです。

auxWeights

フォワードバッチ正規化層のスケーリング ω(k) の重みを格納するサイズ nk の 1 次元のテンソル。この入力は、Tensor の派生クラスのオブジェクトです。

auxMean

フォワードステップで計算されたミニバッチ平均を格納するサイズ nk の 1 次元のテンソル。この入力は、Tensor の派生クラスのオブジェクトです。

auxStandardDeviation

フォワードステップで計算された母集団標準偏差を格納するサイズ nk の 1 次元のテンソル。この入力は、Tensor の派生クラスのオブジェクトです。

auxPopulationMean

フォワードステップで計算された母集団平均を格納するサイズ nk の 1 次元のテンソル。この入力は、Tensor の派生クラスのオブジェクトです。

auxPopulationVariance

フォワードステップで計算された母集団分散を格納するサイズ nk の 1 次元のテンソル。この入力は、Tensor の派生クラスのオブジェクトです。

層のパラメーター

バックワード・バッチ正規化層のパラメーターは次のとおりです。

パラメーター

デフォルト値

説明

algorithmFPType

float

アルゴリズムが中間計算に使用する浮動小数点の型。float または double を指定できます。

method

defaultDense

パフォーマンス指向の計算メソッド。層でサポートされている唯一のメソッドです。

epsilon

0.00001

数値安定性のためにミニバッチ分散に追加される定数。

dimension

0

正規化を実行する次元 k のインデックス。

層の出力

バックワード・バッチ正規化層は次の結果を計算します。結果 ID をパラメーターとして、アルゴリズムの結果にアクセスするメソッドに渡します。詳細は、「アルゴリズム」を参照してください。

結果 ID

結果

gradient

バックワード・バッチ正規化層の結果 z を格納するサイズ n1 x n2 x ... x np のテンソル。この入力は、Tensor の派生クラスのオブジェクトです。

weightsDerivatives

バックワード・バッチ正規化層の結果 Ε / ∂ω(k) を格納するサイズ nk の 1 次元のテンソル。この入力は、Tensor の派生クラスのオブジェクトです。

biasesDerivatives

バックワード・バッチ正規化層の結果 Ε / ∂β(k) を格納するサイズ nk の 1 次元のテンソル。この入力は、Tensor の派生クラスのオブジェクトです。

サンプル

インテル® DAAL ディレクトリーの次のサンプルを参照してください。

C++: ./examples/cpp/source/neural_networks/batch_normalization_layer_batch.cpp

Java*: ./examples/java/source/com/intel/daal/examples/neural_networks/BatchNormalizationLayerBatch.java

Python*: ./examples/python/source/neural_networks/batch_normalization_layer_batch.py

関連情報