インテル® DAAL 2018 デベロッパー・ガイド
適応劣勾配 (AdaGrad) 法 [Duchi2011] は、反復ソルバーのアルゴリズム・フレームワークに従います。反復ソルバーのアルゴリズム・フレームワークに従います。アルゴリズム固有の変換 T および組込みパラメーターのセット St は、学習率 η で次のように定義されます。
ここで、gi(θt-1) は勾配 g(θt-1) の i 番目の座標
ここで、