정의
두 번 미분가능하고 이계도함수가 연속인 함수 [math]\displaystyle{ f:\mathbb{R}^n\to\mathbb{R} }[/math]에 대해, 함수값을 [math]\displaystyle{ f(x_1,x_2,\cdots,x_n) }[/math]라 하자. 이때 행렬
- [math]\displaystyle{ H(f)=\begin{bmatrix}\dfrac{\partial^2 f}{\partial x_i \partial x_j}\end{bmatrix}=\begin{bmatrix} \dfrac{\partial^2 f}{\partial x_1 \partial x_1} & \dfrac{\partial^2 f}{\partial x_1 \partial x_2} & \cdots & \dfrac{\partial^2 f}{\partial x_1 \partial x_n}\\ \dfrac{\partial^2 f}{\partial x_2 \partial x_1} & \dfrac{\partial^2 f}{\partial x_2 \partial x_2} & \cdots & \dfrac{\partial^2 f}{\partial x_2 \partial x_n}\\ \vdots & \vdots & \ddots & \vdots\\ \dfrac{\partial^2 f}{\partial x_n \partial x_1} & \dfrac{\partial^2 f}{\partial x_n \partial x_2} & \cdots & \dfrac{\partial^2 f}{\partial x_n \partial x_n} \end{bmatrix} }[/math]
을 헤세 행렬(Hessian matrix), 또는 헤시안(Hessian)이라 한다. 이계도함수가 연속이라는 가정 때문에 편미분 교환법칙이 성립하여 헤세 행렬은 대칭행렬이다.
예
이변수함수 [math]\displaystyle{ f(x,y)=x^3+y^3-3xy }[/math]가 주어졌다고 하자. 그러면 f의 헤세 행렬은
- [math]\displaystyle{ H(f)=\begin{bmatrix} 6x & -3\\ -3 & 6y \end{bmatrix} }[/math]
이다.