연속함수

Continuous Function, 連續函數

개요

연속함수란, 말 그대로 함수의 그래프가 끊어지지 않고 계속 이어져 있는 함수를 말한다. 물론 이는 기하학적인 직관을 이용한 설명이고, 실제 수학적인 정의는 이것과는 다르다. 어떤 함수의 연속성은 해석학에서 매우 중요하게 다루는 주제이며, 위상수학으로 넘어가서도 위상 공간상의 연속이라는 개념으로 계속 나온다. 한국의 수학 교육과정상, 연속함수는 고등학교에서 배우게 되지만, 고교 수학이 다 그렇듯이 수학적 엄밀함이 아닌 직관에 의존하여 설명한다.

해석학에서

정의

정의역 \(D\)의 원소 \(x_0\)에 대해, 함수 \(f\)가 \(x_0\)에서 연속이라는 말은, [math]\displaystyle{ \lim_{x\to x_0}f\left(x\right)=f\left(x_0\right) }[/math]이 성립함을 의미한다. 엡실론-델타 논법을 사용하여 설명하면, 임의의 [math]\displaystyle{ \varepsilon\gt 0 }[/math]에 대해, 적당한 [math]\displaystyle{ \delta\gt 0 }[/math]이 존재하여 [math]\displaystyle{ \left|x-x_0\right|\lt \delta }[/math]이면 [math]\displaystyle{ \left|f\left(x\right)-f\left(x_0\right)\right|\lt \varepsilon }[/math]이 성립함을 의미한다.

이 정의는 세 가지 사실을 하나로 함축하고 있다. 고등학교에서는 아래 세 가지 성질을 모두 만족해야 그 점에서 연속인 것으로 가르친다.

1. \(x_0\)이 정의역의 원소이다. 즉, [math]\displaystyle{ f\left(x_0\right) }[/math]이 정의되어 있다.
2. [math]\displaystyle{ \lim_{x\to x_0}f\left(x\right) }[/math]이 존재한다.
3. [math]\displaystyle{ \lim_{x\to x_0}f\left(x\right)=f\left(x_0\right) }[/math]이다.

이 정의가 과연 수학적으로 엄밀한가에 대한 의문이 떠오를 수도 있는데, 이 정의를 배우기 전에 무엇을 배웠는가에 따라 답이 달라진다. 학부에서는 극한의 엄밀한 정의를 집고 넘어가기 때문에 위 정의만으로도 충분히 엄밀하지만, 고등학교에서는 극한의 엄밀한 정의따위는 가볍게 씹고 넘어가기 때문에 위 정의만으로는 엄밀하지 않게 된다(...).

만약 저 3성질 중에 단 하나라도 성립하지 않는다면 연속함수가 아니게 된다. 1번 성질이 성립하지 않는다면 그 점에서의 연속성을 논하는 것 자체가 의미 없다. 2번은 성립하나 1번이 성립하지 않을 경우, 아니면 1, 2번은 성립하나 3번이 성립하지 않을 경우 그래프에 구멍이 하나 뚫린 형태를 가지며, 만약 1번은 성립하나 2번이 성립하지 않을 경우에는 그래프가 그 점에서 껑충 뛰는 형태를 가지게 된다. 이 때, 전자를 removable discontinuity, 후자를 jump discontinuity라 부른다.

만약 함수 \(f\)가 주어진 구간 \(I\)의 모든 점에서 연속이라면, 우리는 함수 \(f\)가 구간 \(I\)에서 연속이라고 부른다.

좌극한, 우극한을 정의할 수 있듯이, 좌연속, 우연속도 정의할 수 있다.

• [math]\displaystyle{ \lim_{x\to {x_0}^+}f\left(x\right)=f\left(x_0\right) }[/math]이 성립하면 우연속
• [math]\displaystyle{ \lim_{x\to {x_0}^-}f\left(x\right)=f\left(x_0\right) }[/math]이 성립하면 좌연속

이라 부른다. 그럼, 어느 한 점에서의 연속성은 그 점에서 좌연속이고 동시에 우연속인 것과 동치임을 쉽게 알 수 있다.

기본 성질

1. \(f\)가 \(x_0\)의 근방에서 정의되어 있다고 하자. 만약 \(f\)가 \(x_0\)에서 연속이라면, \(x_0\)로 수렴하는 정의역 내의 임의의 수열 [math]\displaystyle{ \left\{x_n\right\} }[/math]에 대해, [math]\displaystyle{ \lim_{n\to\infty}f\left(x_n\right)=f\left(x_0\right) }[/math]이다. 역도 성립한다.

   이 정리는 수열을 사용하여 연속성을 정의할 수 있게 해준다. 증명은 함수의 극한을 수열의 극한으로 나타낼 수 있다는 사실에서 쉽게 유도된다.

   참고로 이 성질은 수열의 극한을 교환할 수 있음을 증명하기도 한다. 즉, 연속함수 \(f\)와 수렴하는 수열 [math]\displaystyle{ \left\{x_n\right\} }[/math]에 대해, [math]\displaystyle{ \lim_{n\to\infty}f\left(x_n\right)=f\left(\lim_{n\to\infty}x_n\right) }[/math].

2. \(f,\,g\)가 \(x_0\)에서 연속인 함수라고 하자. 그럼, [math]\displaystyle{ f+g,\,f\cdot g }[/math]도 \(x_0\)에서 연속이다. 만약 [math]\displaystyle{ g\left(x_0\right)\neq0 }[/math]이면, [math]\displaystyle{ f/g }[/math]도 \(x_0\)에서 연속이다.

   극한의 성질에 의해 쉽게 유도된다.

3. \(f\)가 \(x_0\)에서 연속이고, \(g\)가 [math]\displaystyle{ f\left(x_0\right) }[/math]에서 연속이라면, [math]\displaystyle{ \left(g\circ f\right)\left(x\right)=g\left(f\left(x\right)\right) }[/math]도 \(x_0\)에서 연속이다.

   [math]\displaystyle{ \varepsilon\gt 0 }[/math]이 주어졌다 하자. \(g\)가 [math]\displaystyle{ f\left(x_0\right) }[/math]에서 연속이므로, 적당한 [math]\displaystyle{ \eta\gt 0 }[/math]가 존재하여 [math]\displaystyle{ \left|y-f\left(x_0\right)\right|\lt \eta }[/math]이면 [math]\displaystyle{ \left|g\left(y\right)-g\left(f\left(x_0\right)\right)\right|\lt \varepsilon }[/math]이 성립한다. 한편, \(f\)가 \(x_0\)에서 연속이므로, 적당한 [math]\displaystyle{ \delta\gt 0 }[/math]이 존재하여 [math]\displaystyle{ \left|x-x_0\right|\lt \delta }[/math]이면, [math]\displaystyle{ \left|f\left(x\right)-f\left(x_0\right)\right|\lt \eta }[/math]가 성립한다. 따라서, 주어진 임의의 [math]\displaystyle{ \varepsilon\gt 0 }[/math]에 대해, 적당한 [math]\displaystyle{ \delta\gt 0 }[/math]가 존재하여, [math]\displaystyle{ \left|x-x_0\right|\lt \delta }[/math]이면 [math]\displaystyle{ \left|g\left(f\left(x\right)\right)-g\left(f\left(x_0\right)\right)\right|\lt \varepsilon }[/math]이 성립한다. 이는 곧 [math]\displaystyle{ g\circ f }[/math]가 \(x_0\)에서 연속임을 의미한다.

주요 정리

1. \(f\)가 닫혀있고 유계인 구간 [math]\displaystyle{ \left[a,b\right] }[/math]에서 연속이면, \(f\)는 그 구간에서 유계이다.

   중요한 것은 닫혀있고 유계인 구간이라는 것이다. 만약 (반)열린구간이거나 유계인 구간이 아니면 연속함수 \(f\)가 굳이 유계일 필요가 없다. 증명은 최대 최소의 정리의 보조정리를 참고.

2. \(f\)가 구간 [math]\displaystyle{ \left[a,b\right] }[/math]에서 연속이면, \(f\)는 그 구간에서 반드시 최댓값과 최솟값을 가진다.

   최대 최소의 정리로 알려진 정리. 고등학교에서는 증명을 하지 않고 사용한다. 증명은 항목 참조.

3. \(f\)가 구간 [math]\displaystyle{ \left[a,b\right] }[/math]에서 연속이고, \(k\)가 [math]\displaystyle{ f\left(a\right) }[/math]와 [math]\displaystyle{ f\left(b\right) }[/math] 사이의 값이면, 적당한 \(c\)가 구간 [math]\displaystyle{ \left(a,b\right) }[/math]에 적어도 하나 존재해 [math]\displaystyle{ f\left(c\right)=k }[/math]이다.

   중간값 정리로 알려진 정리. 역시 고등학교에서는 증명을 하지 않고 사용한다. 증명은 항목 참조.

4. \(f\)가 구간 [math]\displaystyle{ \left[a,b\right] }[/math]에서 연속이고, [math]\displaystyle{ f\left(x\right)\in\left[a,b\right] }[/math]이면, [math]\displaystyle{ f\left(x_0\right)=x_0 }[/math]을 만족하는 \(x_0\)가 적어도 하나 존재한다.

   고정값 정리로 알려진 정리. 증명은 다음과 같다.

   만약 [math]\displaystyle{ f\left(a\right)=a }[/math]이거나 [math]\displaystyle{ f\left(b\right)=b }[/math]이면 명제는 당연히 성립한다. 따라서, [math]\displaystyle{ f\left(a\right)\gt a,\,f\left(b\right)\lt b }[/math]로 가정하자. [math]\displaystyle{ g\left(x\right):=f\left(x\right)-x }[/math]로 정의하자. 그럼, \(g\)는 [math]\displaystyle{ \left[a,b\right] }[/math]에서 연속이다. 한편, [math]\displaystyle{ g\left(a\right)=f\left(a\right)-a\gt 0 }[/math]이고 [math]\displaystyle{ g\left(b\right)=f\left(b\right)-b\lt 0 }[/math]이므로, 중간값 정리에 의해 [math]\displaystyle{ g\left(x_0\right)=0 }[/math]을 만족하는 \(x_0\)가 존재한다. 따라서, [math]\displaystyle{ f\left(x_0\right)=x_0 }[/math].

5. \(f\)가 [math]\displaystyle{ \left[a,b\right] }[/math]에서 연속인 단사함수라면, \(f\)는 그 구간에서 강단조 함수이다.

   [math]\displaystyle{ f\left(a\right)\lt f\left(b\right) }[/math]라 먼저 가정하자. 만약 \(f\)가 강증가 함수가 아니라면, 적당한 [math]\displaystyle{ x_1,\,x_2\in\left[a,b\right] }[/math]가 존재하여, [math]\displaystyle{ x_1\lt x_2 }[/math]이고 [math]\displaystyle{ f\left(x_1\right)\geq f\left(x_2\right) }[/math]을 만족한다. 만약 등호가 성립하면 \(f\)가 단사함수라는 가정에 모순이므로, [math]\displaystyle{ f\left(x_1\right)\gt f\left(x_2\right) }[/math]이다. 그럼 두 가지 가능성을 생가할 수 있다.

   1. [math]\displaystyle{ f\left(x_1\right)\gt f\left(b\right) }[/math]: [math]\displaystyle{ k\in\left(f\left(b\right),f\left(x_1\right)\right) }[/math]인 \(k\)를 고른다. 그럼, 중간값 정리에 의해 적당한 [math]\displaystyle{ c_1\in\left(a,x_1\right) }[/math]이 존재하여 [math]\displaystyle{ f\left(c_1\right)=k }[/math]이고, [math]\displaystyle{ c_2\in\left(x_1,b\right) }[/math]가 존재하여 [math]\displaystyle{ f\left(c_2\right)=k }[/math]이다. 그런데 [math]\displaystyle{ c_1\neq c_2 }[/math]이므로, 이는 \(f\)가 단사함수라는 조건에 모순이다.
   2. [math]\displaystyle{ f\left(x_1\right)\lt f\left(b\right) }[/math]: 그럼, [math]\displaystyle{ f\left(x_2\right)\lt f\left(b\right) }[/math]이다. [math]\displaystyle{ k\in\left(f\left(x_2\right),f\left(x_1\right)\right) }[/math]인 \(k\)를 고른다. 그럼, [math]\displaystyle{ k\in\left(f\left(x_2\right),f\left(b\right)\right) }[/math]임은 자명하다. 다시 중간값 정리에 의해, 적당한 [math]\displaystyle{ c_1\in\left(x_1,x_2\right) }[/math]이 존재하여 [math]\displaystyle{ f\left(c_1\right)=k }[/math]이고, [math]\displaystyle{ c_2\in\left(x_2,b\right) }[/math]이 존재하여 [math]\displaystyle{ f\left(c_2\right)=k }[/math]이다. 그런데 [math]\displaystyle{ c_1\neq c_2 }[/math]이므로, 이는 \(f\)가 단사함수라는 조건에 모순이다.

   따라서, \(f\)는 강증가 함수이다. 만약 [math]\displaystyle{ f\left(a\right)\gt f\left(b\right) }[/math]라면, 같은 증명을 \(-f\)에 적용하면 된다.

6. \(f\)가 [math]\displaystyle{ \left[a,b\right] }[/math]에서 연속인 단사함수라면, [math]\displaystyle{ f^{-1} }[/math]도 [math]\displaystyle{ \left[m,M\right] }[/math]에서 연속이다. 여기서, [math]\displaystyle{ M=\sup f\left(x\right),\,m=\inf f\left(x\right) }[/math]이다.

   최대 최소의 정리, 중간값 정리에 의해, \(f\)의 치역은 [math]\displaystyle{ \left[m,M\right] }[/math]이다. 또한, \(f\)가 단사함수이므로 [math]\displaystyle{ f^{-1}:\left[m,M\right]\to\left[a,b\right] }[/math]은 잘 정의된다. 이제, \(y_0\)을 구간 [math]\displaystyle{ \left[m,M\right] }[/math] 내의 임의의 원소라 가정하자. [math]\displaystyle{ f^{-1} }[/math]가 \(y_0\)에서 연속임을 보이면 충분하다. [math]\displaystyle{ \left\{y_n\right\}\subseteq\left[m,M\right] }[/math]가 \(y_0\)로 수렴하는 임의의 수열이라 가정하자. 그럼, [math]\displaystyle{ f^{-1}\left(y_n\right)\to f^{-1}\left(y_0\right) }[/math]임을 증명해도 된다. [math]\displaystyle{ x_0=f^{-1}\left(y_0\right),\,x_n=f^{-1}\left(y_n\right) }[/math]이라 정의하고, [math]\displaystyle{ x_n\not\to x_0 }[/math]라 가정하자. 그럼, 적당한 [math]\displaystyle{ \varepsilon\gt 0 }[/math]에 대해, [math]\displaystyle{ \left|x_n-x_0\right|\geq\varepsilon }[/math]을 만족하는 자연수 \(n\)이 무수히 많이 존재한다. 여기서, [math]\displaystyle{ \left\{x^*_n\right\} }[/math]을 모든 자연수 \(n\)에 대해 [math]\displaystyle{ \left|x^*_n-x_0\right|\geq\varepsilon }[/math]을 만족하는 [math]\displaystyle{ \left\{x_n\right\} }[/math]의 부분수열이라 가정하자. 그럼, 이 부분수열은 유계이므로, 볼차노-바이어슈트라스 정리에 의해 수렴하는 부분수열이 존재한다. 이 부분수열을 [math]\displaystyle{ \left\{\hat{x_n}\right\} }[/math]라 가정하고, 수렴값을 \(c\)라 하자. 그럼, 모든 자연수 \(n\)에 대해 [math]\displaystyle{ \left|\hat{x_n}-x_0\right|\geq\varepsilon }[/math]이고, [math]\displaystyle{ \hat{x_n}\to c\in\left[a,b\right] }[/math]이다. 분명히, [math]\displaystyle{ c\neq x_0 }[/math]이다. \(f\)는 \(c\)에서 연속이므로, [math]\displaystyle{ f\left(\hat{x_n}\right)\to f\left(c\right) }[/math]이 성립한다. 그런데, [math]\displaystyle{ \left\{f\left(\hat{x_n}\right)\right\} }[/math]은 [math]\displaystyle{ \left\{f\left(x_n\right)\right\}=\left\{y_n\right\} }[/math]의 부분수열이고, [math]\displaystyle{ y_n\to y_0=f\left(x_0\right) }[/math]이므로, [math]\displaystyle{ f\left(c\right)=f\left(x_0\right) }[/math]이다. 그런데 이는 \(f\)가 단사함수라는 조건에 모순이므로, [math]\displaystyle{ x_n\to x_0 }[/math]이어야만 한다. 따라서, [math]\displaystyle{ f^{-1}\left(y_n\right)\to f^{-1}\left(y_0\right) }[/math].

균등 연속 함수

어떤 함수 \(f\)의 \(x_0\)에서의 연속성을 조사할 때, [math]\displaystyle{ \delta }[/math]값은 보통 \(x_0\)와 [math]\displaystyle{ \varepsilon }[/math]값에 모두 영항을 받는다. 즉, 함수 \(f\)의 연속성은 \(x_0\)값에 영향을 받는 국소적인 연속이다. 그럼, \(x_0\)값에 영향을 받지 않는 연속성에 대한 의문이 자연히 떠오를 것이다. 달리 말하면, [math]\displaystyle{ \delta }[/math]값이 [math]\displaystyle{ \varepsilon }[/math]에만 영향을 받는 연속성을 말한다. 우리는 이러한 연속성을 균등 연속(Uniform continuous)이라 부르며, 균등 연속은 대역적인 연속성이다. 수학적인 정의는 다음과 같다.

주어진 구간 \(I\)의 임의의 원소 [math]\displaystyle{ x_1,\,x_2 }[/math]와 임의의 [math]\displaystyle{ \varepsilon\gt 0 }[/math]에 대해 적당한 [math]\displaystyle{ \delta\gt 0 }[/math]이 존재하여, [math]\displaystyle{ \left|x_1-x_2\right|\lt \delta }[/math]이면 [math]\displaystyle{ \left|f\left(x_1\right)-f\left(x_2\right)\right|\lt \varepsilon }[/math]이 성립하면, \(f\)를 구간 \(I\)에서 균등 연속이라고 부른다.

같은 함수라도 구간을 어떻게 주냐에 따라 균등 연속일 수도 있고 아닐 수도 있다. 예를 들면, [math]\displaystyle{ f\left(x\right)=x^2 }[/math]는 [math]\displaystyle{ \left[0,1\right] }[/math]에서 균등 연속이지만, [math]\displaystyle{ \mathbb{R} }[/math]에서는 균등 연속이 아니다.

어떤 함수가 주어진 구간에서 균등 연속이면, 당연히 연속이다. 증명은 매우 간단하므로 직접 해보자.

균등 연속의 조건

1. \(f\)가 닫혀있고 유계인 구간 [math]\displaystyle{ \left[a,b\right] }[/math]에서 연속이면, 그 구간에서 균등 연속이다.

   \(f\)가 [math]\displaystyle{ \left[a,b\right] }[/math]에서 연속이므로, 구간 내의 각 \(x\)에 대해, 적당한 [math]\displaystyle{ \delta_x\gt 0 }[/math]가 존재하여 [math]\displaystyle{ \left|t-x\right|\lt \delta_x }[/math]이면 [math]\displaystyle{ \left|f\left(t\right)-f\left(x\right)\right|\lt \varepsilon/2 }[/math]이 성립한다. [math]\displaystyle{ I\left(x\right):=\left(x-\tfrac{1}{2}\delta_x,x+\tfrac{1}{2}\delta_x\right) }[/math]으로 정의하자. 그럼, [math]\displaystyle{ \mathcal{F}=\left\{I\left(x\right)|x\in\left[a,b\right]\right\} }[/math]은 [math]\displaystyle{ \left[a,b\right] }[/math]의 open covering이고, [math]\displaystyle{ t\in\left[a,b\right]\cap I\left(x\right) }[/math]이면 [math]\displaystyle{ \left|f\left(t\right)-f\left(x\right)\right|\lt \varepsilon/2 }[/math]이다. 그런데 [math]\displaystyle{ \left[a,b\right] }[/math]은 컴팩트하므로, 하이네-보렐 정리에 의해 [math]\displaystyle{ \left[a,b\right] }[/math]의 open covering인 유한한 부분집합 [math]\displaystyle{ \hat{\mathcal{F}}\subset\mathcal{F} }[/math]이 존재한다. [math]\displaystyle{ \hat{\mathcal{F}}=\left\{I\left(x_i\right)|i=1,\,2,\,\ldots,\,n\right\} }[/math]이라 가정하고, [math]\displaystyle{ \delta=\underset{1\leq i\leq n}{\min}\tfrac{1}{2}\delta_x }[/math]이라 정의하자. 그럼, 분명히 [math]\displaystyle{ \delta\gt 0 }[/math]이다. 이제, [math]\displaystyle{ u,\,v\in\left[a,b\right] }[/math]이고 [math]\displaystyle{ \left|u-v\right|\lt \delta }[/math]라 가정하자. [math]\displaystyle{ \hat{\mathcal{F}} }[/math]이 구간의 open covering이므로, 적당한 \(k\)에 대해 [math]\displaystyle{ u\in I\left(x_k\right) }[/math]이다. 그럼, [math]\displaystyle{ \left|u-x_k\right|\lt \tfrac{1}{2}\delta_{x_k} }[/math]이고, [math]\displaystyle{ \left|f\left(u\right)-f\left(x_k\right)\right|\lt \varepsilon/2 }[/math]이다. 또한, [math]\displaystyle{ \left|v-x_k\right|\leq\left|v-u\right|+\left|u-x_k\right|\lt \delta+\tfrac{1}{2}\delta_{x_k}\leq\delta_{x_k} }[/math]이다. 따라서, [math]\displaystyle{ \left|f\left(v\right)-f\left(x_k\right)\right|\lt \varepsilon/2 }[/math]이고, 곧 [math]\displaystyle{ \left|f\left(u\right)-f\left(v\right)\right|\leq\left|f\left(u\right)-f\left(x_k\right)\right|+\left|f\left(v\right)-f\left(x_k\right)\right|\lt \varepsilon/2+\varepsilon/2=\varepsilon }[/math]이다. 따라서, \(f\)는 주어진 구간에서 균등 연속이다.

2. \(f\)가 [math]\displaystyle{ \left(a,b\right) }[/math]에서 연속이라 가정하자. 만약 [math]\displaystyle{ \lim_{x\to a^+}f\left(x\right) }[/math]와 [math]\displaystyle{ \lim_{x\to b^-}f\left(x\right) }[/math]이 존재하면, \(f\)는 [math]\displaystyle{ \left(a,b\right) }[/math]에서 균등 연속이다. 역도 성립한다.
3. \(f\)가 [math]\displaystyle{ \left[a,\infty\right) }[/math]에서 연속이라 가정하자. 만약 [math]\displaystyle{ \lim_{x\to\infty}f\left(x\right) }[/math]가 존재하면, \(f\)는 [math]\displaystyle{ \left[a,\infty\right) }[/math]에서 균등 연속이다.
4. \(f\)가 [math]\displaystyle{ \left(-\infty,b\right] }[/math]에서 연속이라 가정하자. 만약 [math]\displaystyle{ \lim_{x\to-\infty}f\left(x\right) }[/math]가 존재하면, \(f\)는 [math]\displaystyle{ \left(-\infty,b\right] }[/math]에서 균등 연속이다.
5. \(f\)가 [math]\displaystyle{ \mathbb{R} }[/math]에서 연속이고, [math]\displaystyle{ \lim_{x\to\infty}f\left(x\right) }[/math]와 [math]\displaystyle{ \lim_{x\to-\infty}f\left(x\right) }[/math]가 존재하면, \(f\)는 [math]\displaystyle{ \mathbb{R} }[/math]에서 균등 연속이다.