勾配法のアニメーション/可視化(機械学習@工学) - 動き/アニメーションを目で見て理解する学問 - ThothChildren VisAlgo

で見て理解するアルゴリズム

Powered by
ThothChildren

Main

Info

項目を検索中...

項目を検索中...

項目を検索中...

タイトルを検索中...

勾配法で繰り返し行われる計算のイメージ

ここでは勾配法を用いて最小の点が求まっていく様子をお見せします.
傾いている方向に進んでいくことで最小の点を見つけようとするのがポイントです.

状況設定

\(y=0.2x^2 + 2sin(x) -3\)の最小点を求めます
\(x=-10\)から始めて更新していきます
学習率αを調整可能です.0.01 ~ 5をお試しください
関数を変更することも可能です

更新式

$$x_{new} = x_{old} - \alpha \frac{\partial y}{\partial x}$$

更新の様子

上図の見方

緑の点が勾配法によって求めた次点
赤い線は現時点での接線
接線の傾き具合によって次の移動量が変わります
学習率の調整によって全く動き方が変わります