- @ThothChildren
- 2017.9.13
- PV 319
AutoEncoderとは
ー 概要 ー
AutoEncoderとはニューラルネットで入力と出力を等しいものにして、ネットワークの前半と後半で対称的にした構造を持つネットワーク。特徴抽出器として使われる。
この章を学ぶ前に必要な知識
条件
- 入力と出力の次元は等しい
- 隠れ層は入力層より次元を落とす
効果
- 特徴を抽出できる
ポイント
- 以前はPreTraingと呼ばれる事前学習で使われていたが、今は必要とされていない
- 前半をエンコーダ、後半をデコーダと呼ぶ
- エンコーダとデコーダで重みを共有することもある
解 説
AutoEncoderは以下のように三層からなる対称的な形をしたニューラルネット。
中央の隠れ層の次元を少なくして入力と出力を等しいデータを与える。
前半部は入力を次元の少ない隠れ層で情報を表現することを試みるのでエンコーダ、後半部は少なくなった隠れ層の情報から出力の復元を試みるのでデコーダと呼ぶ | AutoEncoder概要 |
以前はDeepLearningの事前学習であらかじめ重みを訓練することに使用されたが、現在は必要なくなっている。
重みは対称的な構造をしたニューラルネットであるため、共有することもある。 | AutoEncoder特徴 |
この章を学んで新たに学べる
Comments