볼록함수와 오목함수

정의

구간 [math]\displaystyle{ I\subseteq \mathbb{R} }[/math]와 함수 [math]\displaystyle{ f:I\to \mathbb{R} }[/math]가 주어졌을 때, 임의의 [math]\displaystyle{ x_1,x_2\in I }[/math], 임의의 [math]\displaystyle{ t\in [0,1] }[/math]에 대해

[math]\displaystyle{ f(tx_1+(1-t)x_2)\le tf(x_1)+(1-t)f(x_2) }[/math]

[math]\displaystyle{ f(tx_1+(1-t)x_2)\lt tf(x_1)+(1-t)f(x_2),\;x_1\ne x_2 }[/math]

이면 각각 볼록(convex), 순볼록(strictly convex)이라고 하며,

[math]\displaystyle{ f(tx_1+(1-t)x_2)\ge tf(x_1)+(1-t)f(x_2) }[/math]

[math]\displaystyle{ f(tx_1+(1-t)x_2)\gt tf(x_1)+(1-t)f(x_2),\;x_1\ne x_2 }[/math]

이면 오목(concave), 순오목(strictly concave)이라고 한다.

예시

[math]\displaystyle{ f(x)=|x| }[/math]의 경우, 삼각부등식에 의해

[math]\displaystyle{ |tx_1+(1-t)x_2|\le |tx_1|+|(1-t)x_2|=t|x_1|+(1-t)|x_2| }[/math]

이므로 [math]\displaystyle{ f(x)=|x| }[/math]는 [math]\displaystyle{ \mathbb{R} }[/math]에서 볼록함수임을 안다.

성질

미분가능한 함수 [math]\displaystyle{ f:I\to\mathbb{R} }[/math]에 대해

[math]\displaystyle{ f''(x)\ge 0 }[/math]

이면 볼록함수이며,

[math]\displaystyle{ f''(x)\le 0 }[/math]

이면 오목함수이다.

f가 볼록이고 [math]\displaystyle{ f(0)\le 0 }[/math]이면 초가법적(superadditive)이다.

볼록함수와 연관된 부등식

• 젠센 부등식: [math]\displaystyle{ f:\mathbb{R}\to\mathbb{R} }[/math]이 볼록함수라면 [math]\displaystyle{ E[f(X)]\ge f(E[X]) }[/math]이다.
• 에르미트-아다마르 부등식: [math]\displaystyle{ f:\mathbb{R}\to\mathbb{R} }[/math]이 볼록함수라면 [math]\displaystyle{ f\left(\frac{a+b}{2}\right)\le \frac{1}{b-a}\int_a^b f(x) dx\le \frac{f(a)+f(b)}{2} }[/math]이다.

확장

[math]\displaystyle{ A\subseteq \mathbb{R}^n }[/math]이 볼록집합이라고 하자. 함수 [math]\displaystyle{ f:A\to \mathbb{R} }[/math]이 주어졌을 때, 임의의 [math]\displaystyle{ \mathbf{x}_1,\mathbf{x}_2\in A }[/math], 임의의 [math]\displaystyle{ t\in [0,1] }[/math]에 대해

[math]\displaystyle{ f(t\mathbf{x}_1+(1-t)\mathbf{x}_2)\le tf(\mathbf{x}_1)+(1-t)f(\mathbf{x}_2) }[/math]

[math]\displaystyle{ f(t\mathbf{x}_1+(1-t)\mathbf{x}_2)\lt tf(\mathbf{x}_1)+(1-t)f(\mathbf{x}_2) }[/math]

이면 각각 볼록(convex), 순볼록(strictly convex)이라고 하며,

[math]\displaystyle{ f(t\mathbf{x}_1+(1-t)\mathbf{x}_2)\ge tf(\mathbf{x}_1)+(1-t)f(\mathbf{x}_2) }[/math]

[math]\displaystyle{ f(t\mathbf{x}_1+(1-t)\mathbf{x}_2)\gt tf(\mathbf{x}_1)+(1-t)f(\mathbf{x}_2) }[/math]

이면 각각 오목(concave), 순오목(strictly concave)이라고 한다.