Random Forest

RandomForestは2001年に発表された複数の決定木を学習して多数決で結果を出力する機械学習手法. とらあえず簡単に試せるので、データがあったらすぐに試すことができる。 RandomForestの設定に当たって主なパラメータは以下のふたつ. ・いくつの決定木を用意するか ・一つの決定木でどれほど深くするか 後者のパラメータを多くしすぎると学習データに過学習してしまうので、ほどよい値にする。 学習をさせるとどの値が回帰、分類に役に立っているかが寄与度としてわかる。

Random Forestは上記のような一つの決定木において、分岐の条件を更新することで学習を進める.(ここでは条件A~D)。 学習の際にはデータを訓練データの中からランダムにサンプルしてそれぞれの決定木で学習する(ブートストラップサンプル)。