극값

Local extrema.

정의

표준적인 정의는 다음과 같다.

• 집합 [math]\displaystyle{ X }[/math] 및 함수 [math]\displaystyle{ f:X \to \mathbb{R} }[/math]에 대해
  • 어떤 [math]\displaystyle{ x_0 \in X }[/math]가 있어서 모든 [math]\displaystyle{ x \in X }[/math]에 대해 [math]\displaystyle{ f(x) \leq f(x_0) }[/math]를 만족하면 [math]\displaystyle{ f(x_0) }[/math]를 최댓값((absolute) maximum value)이라고 하고, [math]\displaystyle{ x_0 }[/math]를 최대점(maximum point)이라고 한다.
  • 어떤 [math]\displaystyle{ x_0 \in X }[/math]가 있어서 모든 [math]\displaystyle{ x \in X }[/math]에 대해 [math]\displaystyle{ f(x) \geq f(x_0) }[/math]를 만족하면 [math]\displaystyle{ f(x_0) }[/math]를 최솟값((absolute) minimum value)이라고 하고, [math]\displaystyle{ x_0 }[/math]를 최소점(minimum point)이라고 한다.
• 만일 위 집합 [math]\displaystyle{ X }[/math]가 위상공간 [math]\displaystyle{ (X,\mathcal{T}) }[/math]이라면,
  • 어떤 [math]\displaystyle{ x_0 \in X }[/math]가 있어서 [math]\displaystyle{ x_0 }[/math]의 어떤 근방 [math]\displaystyle{ x_0 \in U \in \mathcal{T} }[/math]에서는 모든 [math]\displaystyle{ x \in U }[/math]에 대해 [math]\displaystyle{ f(x) \leq f(x_0) }[/math]를 만족하면 [math]\displaystyle{ f(x_0) }[/math]를 극댓값(local maximum value)이라고 하고, [math]\displaystyle{ x_0 }[/math]를 극대점(local maximum point)이라고 한다.
  • 어떤 [math]\displaystyle{ x_0 \in X }[/math]가 있어서 [math]\displaystyle{ x_0 }[/math]의 어떤 근방 [math]\displaystyle{ x_0 \in U \in \mathcal{T} }[/math]에서는 모든 [math]\displaystyle{ x \in U }[/math]에 대해 [math]\displaystyle{ f(x) \geq f(x_0) }[/math]를 만족하면 [math]\displaystyle{ f(x_0) }[/math]를 극솟값(local minimum value)이라고 하고, [math]\displaystyle{ x_0 }[/math]를 극소점(local minimum point)이라고 한다.
• 극댓값과 극솟값을 아울러 극값(local extrema)이라 한다.

극댓값과 극솟값의 정의를 하면서 최댓값과 최솟값의 정의를 먼저 꺼낸 것은 위 극댓값과 극솟값의 정의는 명백하게 최댓값과 최솟값의 정의에 대한 유비로서 이루어진 것이기 때문이다. 이는 ‘극대’ 및 ‘극소’ 혹은 그 영어 표현인 local maxima and minima의 말 자체의 뜻과 가장 잘 부합한다.

극댓값과 극솟값, 그리고 극대점과 극소점에 관심을 가지는 것은 최대점과 최소점은 언제나 극대점 또는 극소점이기 때문이다(위처럼 정의하면 정의로부터 명백하다). 즉 최대·최소문제를 풀기 위해 최대점 또는 최소점을 직접 찾는 것은 일반적으로는 어렵기 때문에, 그 후보가 되는 극대점 또는 극소점을 먼저 찾아서 대상을 추리고, 이들 가운데에서 대소 비교만 하여 최대점 및 최대점을 찾겠다는 것이다.

표준적이지 않은 정의 및 그 문제점

그러나 위 ‘표준적인 정의’와 다르게 극값을 정의하는 경우도 발견된다. 특별히 (고등학교) 교과서에서 더욱 그렇다.

만일 다르게 정의해도 i)‘극대’ 및 ‘극소’라는 말 자체의 뜻과 상통하는 바가 있고 ii)(독자적일지라도) 유의미한 이론 전개가 가능하다면 그렇게 정의하는 것을 굳이 막을 이유는 없을 것이다. 그러나 아래에서 자세히 살펴 보겠지만, 어떤 정의는 i)‘극대’ 및 ‘극소’라는 말 자체의 뜻과 잘 어울리지도 않으면서, ii)특별히 쓸모가 많아지는 것도 아니고, iii)오히려 이런저런 혼란만 가중하는 경우가 있다. 이런 정의를 굳이 고수해야 할 필요는 없을 것이고, iv)교육적 목적에서라면 더더욱 그러할 것이다.

아래에서는 편의상 극댓값 및 극대점의 정의만을 논한다. [math]\displaystyle{ f }[/math] 대신 [math]\displaystyle{ -f }[/math]를 생각하면 극솟값 및 극소점에 관해서도 마찬가지 논의가 유효하리라는 점은 명백할 것이다. 또한, 일변수함수 [math]\displaystyle{ f:A \subseteq \mathbb{R} \to \mathbb{R} }[/math]만을 논한다.

첫 번째 다른 정의는 다음과 같다.

• 함수 [math]\displaystyle{ f(x) }[/math]에 대해 [math]\displaystyle{ f }[/math]가 [math]\displaystyle{ x_0 }[/math]까지는 증가하고, [math]\displaystyle{ x_0 }[/math]부터는 감소하면 [math]\displaystyle{ f(x_0) }[/math]를 극댓값이라고 한다.

여기서 “[math]\displaystyle{ x_0 }[/math]까지” 및 “[math]\displaystyle{ x_0 }[/math]부터”라는 말은 아마 다음 둘 중 하나의 뜻이 아닌가 한다.

• 충분히 작은 양수 [math]\displaystyle{ h }[/math]에 대하여 [math]\displaystyle{ f }[/math]가 [math]\displaystyle{ (x_0-h, x_0] }[/math]에서는 증가하고, [math]\displaystyle{ [x_0, x_0+h) }[/math]에서는 감소한다.
• 충분히 작은 양수 [math]\displaystyle{ h }[/math]에 대하여 [math]\displaystyle{ f }[/math]가 [math]\displaystyle{ (x_0-h, x_0) }[/math]에서는 증가하고, [math]\displaystyle{ (x_0, x_0+h) }[/math]에서는 감소한다.

물론 여기서 ‘증가’ 및 ‘감소’라는 말은 정의역에서 [math]\displaystyle{ x \lt y }[/math]이면 [math]\displaystyle{ f(x) \leq f(y) }[/math] 및 [math]\displaystyle{ f(x) \geq f(y) }[/math]라는 뜻으로 쓰인 것이다.

또 다른 책에서는 한술 더 떠 아래와 같이 정의하기도 한다.

• 함수 [math]\displaystyle{ f(x) }[/math]에 대해 [math]\displaystyle{ f(x) }[/math]가 [math]\displaystyle{ x=x_0 }[/math]에서 연속이고 [math]\displaystyle{ x=x_0 }[/math]를 경계로 증가상태에서 감소상태로 바뀌면 [math]\displaystyle{ f(x_0) }[/math]를 극댓값이라고 한다.
• 함수 [math]\displaystyle{ f(x) }[/math]에 대해 [math]\displaystyle{ f(x) }[/math]가 [math]\displaystyle{ x=x_0 }[/math]를 경계로 증가상태에서 감소상태로 바뀌면 [math]\displaystyle{ f(x_0) }[/math]를 극댓값이라고 한다.

여기서 ‘증가상태’ 및 ‘감소상태’라는 개념은 함수의 ‘증가’ 및 ‘감소’와 달리 한 지점에 관한 것으로서, 전혀 표준적이지 않은 개념인데 우리나라 고등학교 교과서에서만 유독 쓰이고 있다. 게다가 책마다 정의가 조금씩 다른데, 위쪽 정의가 많고, 아래쪽 정의도 발견된다.

1. 충분히 작은 양수 [math]\displaystyle{ h }[/math]에 대하여 [math]\displaystyle{ f(a-h) \lt f(a) \lt f(a+h) }[/math]이면 함수 [math]\displaystyle{ f(x) }[/math]는 [math]\displaystyle{ x=a }[/math]에서 증가상태에 있다.
2. [math]\displaystyle{ a }[/math]를 포함하는 어떤 열린 구간에서 [math]\displaystyle{ f(x) }[/math]가 증가하면 함수 [math]\displaystyle{ f(x) }[/math]는 [math]\displaystyle{ x=a }[/math]에서 증가상태에 있다.

극값을 찾는 법

가장 근본적인 방법은 일변수함수 [math]\displaystyle{ f:A \subseteq \mathbb{R} \to \mathbb{R} }[/math]에 관한 것으로서 도함수를 이용하는 방법이다. 아래 정리는 오늘날에는 ‘페르마의 정리’ 혹은 ‘내부 극값 정리(interior extremum theorem)’라고 부른다.

함수 [math]\displaystyle{ f(x) }[/math]가 [math]\displaystyle{ x=a }[/math]에서 극값을 가질 때, 만일 [math]\displaystyle{ f(x) }[/math]가 [math]\displaystyle{ x=a }[/math]에서 미분가능하면 [math]\displaystyle{ f'(a)=0 }[/math]이다.

• 증명:

  증명은 극댓값에 관해서만 하면 충분할 것이다.

  [math]\displaystyle{ f(x) }[/math]가 [math]\displaystyle{ x=a }[/math]에서 미분가능하다는 것은 극한 [math]\displaystyle{ \lim_{h \to 0}\frac{f(a+h)-f(a)}{h} }[/math]가 존재한다는 것과 동치이고, 이는 좌극한과 우극한이 같다는 것과 동치이다.

  극댓값의 정의에 의해 어떤 열린 구간 [math]\displaystyle{ \left( a-\delta, \; a+\delta \right) }[/math]에서는 [math]\displaystyle{ f(x) \leq f(a) }[/math]이다.

  이제 [math]\displaystyle{ -\delta \lt h \lt 0 }[/math]이면 [math]\displaystyle{ \frac{f(a+h)-f(a)}{h} \geq 0 }[/math]이므로 [math]\displaystyle{ \lim_{h \to 0^-}\frac{f(a+h)-f(a)}{h} \geq 0 }[/math]이고,

  [math]\displaystyle{ 0 \lt h \lt \delta }[/math]이면 [math]\displaystyle{ \frac{f(a+h)-f(a)}{h} \leq 0 }[/math]이므로 [math]\displaystyle{ \lim_{h \to 0^+}\frac{f(a+h)-f(a)}{h} \leq 0 }[/math]이다.

  따라서 둘이 같으려면 [math]\displaystyle{ \lim_{h \to 0}\frac{f(a+h)-f(a)}{h} = 0 }[/math]일 수밖에 없고, 원하는 결론을 얻는다.

따라서 미분계수가 0인 점만이 극점의 후보가 된다. 물론 위 정리의 역은 성립하지 않기 때문에, 미분계수가 0이라고 하여도 극점이 아닐 수도 있고(예를 들어 [math]\displaystyle{ f(x)=x^3 }[/math]), 극값을 갖는다고 하여도 아직은 극댓값인지 극솟값인지 알 수 없다.