ヘッセ行列

以下のような\(x_1 \dots x_n\)を入力としてyの一変数のみを出力する二階微分可能な\(f\)の関数に対して、 $$y=f(x_1, x_2, \dots, x_n)$$ 以下のような二階微分の行列にしたものをヘッセ行列と言う. $$\begin{eqnarray} H= \nabla^2 f =\left( \begin{array}{cccc} \frac{ \partial^2 f }{ \partial x_1 \partial x_1} & \frac{ \partial^2 f }{ \partial x_1 \partial x_2} & \ldots & \frac{ \partial^2 f }{ \partial x_1 \partial x_n} \\ \frac{ \partial^2 f }{ \partial x_2 \partial x_1} & \frac{ \partial^2 f }{ \partial x_2 \partial x_2} & \ldots & \frac{ \partial^2 f }{ \partial x_2 \partial x_n} \\ \vdots & \vdots & \ddots & \vdots \\ \frac{ \partial^2 f }{ \partial x_n \partial x_1} & \frac{ \partial^2 f }{ \partial x_n \partial x_2} & \ldots & \frac{ \partial^2 f }{ \partial x_n \partial x_n} \end{array} \right) \end{eqnarray} $$ 各行列の要素は以下のように記述できる. $$H_{i,j} = \frac{ \partial^2 f }{ \partial x_i \partial x_j}$$

\(y=f(x_1, x_2, x_3)=x_1^2+ 4x_1x_2+3x_2+4x_3^3 + 8x_1x_3^2\)のような場合、ヘッセ行列の例えば要素(1,2)は以下のようになる. $$\begin{eqnarray} H_{1,2} &=& \frac{\partial^2 f}{\partial x_1 \partial x_2} \\ &=& \frac{\partial { (2x_1 + 4x_2)}} {\partial x_2}\\ &=& 4 \end{eqnarray} $$ 上記を各要素で行うと以下のようになる. \begin{eqnarray} H= \left( \begin{array}{ccc} 2 & 4 & 16x_3 \\ 4 & 0 & 0 \\ 16x_3 & 0 & 24x_3 \end{array} \right) \end{eqnarray}

ヘッセ行列は関数fが二階微分できて連続のときに微分する順序はどちらでもよくなり、 すなわちHの行列要素(i,j)と(j,i)は等しい値になる. 対角要素が等しいので、そのときヘッセ行列は対称行列になる.

ヘッセ行列は以下のようなときに用いられる. アプリケーション ・与えられた極値が極大値、極小値、鞍点なのかどうかを判定 ・画像処理において特徴点の算出で用いられる ・ヘッセ行列の固有値の積は、その点における主曲率を示す ・ニュートン法等の最適化の近似で用いられる