AMSGrad | Abstract 第4文
We provide an explicit example of a simple convex optimization setting where ADAM does not converge to the optimal solution, and describe the precise problems with the previous analysis of ADAM algorithm.
Sashank J. Reddi, et al., "On the Convergence of Adam and Beyond"
有用な勾配を忘却しないようにするlong-term memory項を追加することによってAdamを改良した最適化手法であるAMSGradの論文の
「我々は、ADAMが最適解に収束しない単純な凸最適化設定の明示的な例を提供し、ADAMのアルゴリズムの以前の分析に関する正確な問題を説明する。」
whereからsolutionまでが形容詞節で、settingを修飾しています。whereの内側の働きは副詞で、convergeを修飾しています。
does notなどの否定に関する部分は、F.o.R.では特に図解で表記しません。おそらく、構文解析的には否定の意味になるだけであまり重要でないからだと思います。
薬袋善郎先生の公式ウェブサイト
