함수의 연속과 엡실론-델타 논법(Continuity of function)

함수의 극한을 엡실론-델타 논법으로 정의하는 방법을 완전히 이해했다면, 이제 연속성을 건드려볼 차례입니다. 연속의 정의 꼴은 외관상 엡실론-델타 논법의 형태와 크게 달라 보이지 않지만, 내포하는 의미상의 거대한 차이를 제대로 소화하는 것이 굉장히 중요합니다. 연속인 것과 극한이 존재하지만 연속이 아닌 것은 천지차이이기 때문입니다.

 

참고로 대학교 수학에서 함수의 연속의 정의는 고등학교 때의 정의와 같지 않습니다. 고등학교 수학에서는 연속의 정의를 '극한값과 함숫값이 같을 때'라고 말하지만, 이는 사실 연속성의 정의에서 도출되는 필요충분조건 관계로서 정의가 아니라 정리의 내용입니다. 따라서 연속성의 정의를 함숫값=극한값이라고 고등학교 수학마냥 주먹구구식으로 기억하는 것은 바람직한 자세가 아닙니다. 미적분학이나 해석학에서는 그러한 주먹구구식 방법이 약간 유효할 수 있더라도, 어차피 위상수학에 가면 그러한 태도를 개박살낼 연속의 신박한 개념이 등장합니다. 위상적으로 연속이란 열린집합을 열린집합으로, 닫힌집합을 닫힌집합으로 보내는 함수를 말합니다. 수학에서 '정의'는 근본이고 이 정의로서 도출되는 결과를 정의와 혼동하지 않도록 유의해야 합니다.

---

1. 함수의 연속

 

1) 정의

 

정의($R.A$) 3-2) 함수의 연속
$\emptyset \neq E\subseteq \mathbb{R}$ 에 대해 함수 $f:E\longrightarrow \mathbb{R}$ 을 생각하자. $f$ 가 점 $a\in E$ 에서 '연속(continuous)'이라는 것은, 임의로 주어지는 $\varepsilon >0$ 에 대하여 $\delta >0$ 가 존재하여 다음 조건을 만족시키는 것이다.
$$\left| x-a \right|< \delta\; \;\text{and} \;\; x\in E\;\Longrightarrow \; \left| f(x)-f(a) \right|< \varepsilon$$ 만일 $E$ 의 임의의 점 $x\in E$ 에서 $f$ 가 연속이면, 함수 $f$ 는 $E$ 에서 연속이라고 말한다.

 

앞서 주의를 당부했던 것처럼 연속의 정의는 함숫값=극한값처럼 그렇게 단순한 것이 아니며, 극한 때와 마찬가지로 엡실론-델타 논법과 비슷해 보이는 꼴을 가지고 있으니 이를 분석하는 것이 우리가 할 일입니다. 이때 극한에서의 정의와 가장 중요한 두 가지 차이(또는 세가지 차이)를 찾는 것이 핵심입니다. 사실상 그 차이가 극한의 존재성과 연속성의 결정적 차이가 되겠지요.

 

▶ 우선 조건문에 전제를 보면, 극한에서는 $0<\left| x-a \right|<\delta$ 였지만 여기서는 $\left| x-a \right|<\delta$ 로 제한됩니다. 왼쪽 부등호가 빠졌다는 뜻은 $x=a$ 를 허용하겠다는 것입니다. 극한을 정의할 때는, $x$ 가 $a$ 에 무한히 다가가는 것이지 $a$ 와 완전히 같은 상황은 아니므로 $x\neq a$ 인 $x$ 들만을 조사해야만 합니다. 그러나 연속성이라는 개념을 따질 때는 그럴 이유를 제거하여 $x=a$ 를 허용하겠다는 것입니다.

 

▶ 또한 조건문에 있는 $x\in E$ 라는 조건도 유심히 볼 필요가 있습니다. 이것은 조건문의 결론에서 $f(x)$ 가 정의되기 위해서는 반드시 $x\in E$ 여야 하니, 이 조건을 명시적으로 달아 준 것입니다. $x\in E$ 에 속해 있어야만 정확히 $f(x)$ 가 존재할 수 있다, 그런 뜻이죠.

 

[그림 1]

 

예를 들어서 $f:E=[0,1]\longrightarrow \mathbb{R}$ 이고 이것이 이차함수 $y=f(x)=x^2+1$ 인 상황을 생각해 봅시다. $x=a=1$ 에서 연속인지를 따져보려고 합니다. ^[각주:1] 연속성을 보이려면, 주어진 $\varepsilon > 0$ 에 대하여 내가 찾은 $\delta >0$ 가 $\left| x-1 \right|<\delta \; \Longrightarrow \; \left| f(x)-f(1) \right|<\varepsilon$ 를 만족하는지 검토해보면 되겠지요. 이때 $x\in [0,1]$ 이라는 조건이 있다는 것은, 조건문의 결론부를 따질 때 $\left| f(x)-f(1) \right|=\left| f(x)-2\right|<\varepsilon$ 에서 $0\leq x \leq 1$ 의 숫자만 $x$ 에 들어갈 수 있습니다. 그러니까 아래 [그림 1]과 같은 상황에서, 실제로 살아남는 함수값은 $f(x\in E=[0,1])=f([0,1])$ 에 해당하여 일부이고, 이때 $x=1$ 에서 연속성을 따지기 위해서 우극한을 고려할 필요가 없는 셈이라는 뜻입니다. 사실상 좌극한만 따지고, $x=a=1$ 때를 확인하면 충분합니다. $x=a=1$ 일 때는 조건문의 전제가 $0<\delta$ 가 되며 이때 $0<\varepsilon$ 이므로 항상 참이네요. 따라서 $x=1$ 에서 주어진 함수는 연속입니다.

 

그런데 극한을 정의할 때는 굳이 $x\in E$ 조건을 달지 않았는데, 그 까닭을 두 가지로 요약해 볼 수 있습니다. 첫째는 극한은 애초에 $x=a$ 에 계속 가까이 다가가는 개념이니 어차피 대상 값 $a$ 의 아주 가까운 근방만을 보는 것이라 $x\in E$ 를 힘주어 적지 않더라도 암묵적으로 성립한다고 여길 수 있습니다. 둘째는, 배째고 $x\in E$ 라 하지 않고 아~주 멀리서 $a$ 를 향해 다가온다고 할지라도, 극한의 정의를 보면 $a$ 근방에서 작업을 해서 $\varepsilon >0$ 조건을 만족하는 $\delta >0$ 를 찾는 셈이니, 크게 의미가 없습니다. 또, $a\in E$ 인데 $x\in E$ 라고 적으면 괜히 $x=a$ 를 허용하는 것처럼 보일 수도 있겠죠. 암묵적으로 보자면 $x\in E$ 인 것은 극한을 정의할 때도 성립하기는 하지만, 연속성의 정의에서는 보다 확실하게 명시적으로 적은 것이라 보면 됩니다.

 

▶ 조건문의 결론부를 보면 극한에서 $L$ 이었던 자리에 대신 $f(a)$ 가 들어가 있습니다. 즉 '연속'이라는 수학적 개념을 따질 때는 그 지점 $x=a$ 에서 반드시 함숫값이 정해져 있어야 함을 뜻합니다. 함숫값이 정해져 있지 않다면 조건문의 결론은 거짓입니다. $f(a)$ 라는 것이 존재하지 않기 때문이죠. 전제가 참인데 결론이 거짓이면 조건문의 진리값도 거짓이므로, 연속성의 개념은 반드시 일단 그 지점 $x=a$ 에서 함숫값 $f(a)$ 가 존재할 때 따지고 자시고를 할 수 있음을 의미합니다.

 

 

2) 연습과 적용

 

[그림 2]

 

이제 전형적인 연속이 아닌 경우들을 몇가지 살펴보겠습니다.

 

$X=Y=\mathbb{R}$ 이라 하고 [그림 2]의 오른쪽 그래프를 볼까요. $x=b$ 와 $x=c$ 에서 구멍이 뚫린 경우입니다. 물론 $x=c$ 에서는 극한값이 존재하고 $x=b$ 에서는 존재하지 않지만, 위에서 언급했던 것처럼 연속이라는 개념은 일단 $x=a$ 에서 함숫값이 반드시 정해져 있어야만 성립하는 개념입니다. 따라서 $f(b), f(c)$ 가 존재하지 않기에, $x=b$ 와 $x=c$ 는 그냥 바로 불연속임을 알 수 있습니다.

 

반면 왼쪽 그래프의 경우 함숫값은 정해져 있습니다. 그런데 임의로 $\varepsilon >0$ 이 주어지는 경우, 만일 $\varepsilon < f(a)-K$ 의 경우라면 절대로 $\left| x-a \right|<\delta \; \Longrightarrow \; \left| f(a)-K \right| < \varepsilon$ 를 만족하는 $\delta>0$ 를 잡을 수 없겠지요. 이미 함숫값이 있는 $x$ 좌표와 좌극한과 우극한이 있는 $x$ 값이 같은 상황이니, 조건문의 전제에서 $\left| a-a \right| = 0$ 이므로 $\delta$ 는 사실 아무런 양수로 잡기만 하면 됩니다. 그러나 결론부를 보면 $\varepsilon < f(a)-K$ 인 경우 조건문이 거짓이 됩니다. 따라서 왼쪽 그래프와 같은 경우도 우리의 연속 정의에 의하면 불연속임을 알 수 있습니다.

 

 

정리($R.A$) 2.2) 연속이면 함숫값과 극한값이 같다.
열린구간 $I\subset \mathbb{R}$ 에 대하여 함수 $f:I\longrightarrow \mathbb{R}$ 을 생각하자. 점 $a\in I$ 에서 함수 $f$ 가 연속일 필요충분조건은 $\displaystyle \lim_{x \to a} f(x)=f(a)$ 이다.

증명) $\Longrightarrow $ : 함수 $f$ 가 $x=c$ 에서 연속이면, 임의로 주어지는 $\varepsilon >0$ 마다 적당한 $\delta >0$ 이 존재하여, $\left| x-a \right|< \delta\; \;\text{and} \;\; x\in I\;\Longrightarrow \; \left| f(x)-f(a) \right|< \varepsilon$ 가 성립한다. 이것은 곧 극한 $\displaystyle \lim_{x \to a} f(x)=f(a)$ 의 정의와 일치한다. 물론, 함수의 극한 정의에서는 조건문의 전제가 $0< \left| x-a\right| < \delta$ 의 꼴이다. 즉 $x=a$ 는 고려하지 않아도 되는데, 만일 $x=a$ 라면 이 극한의 조건문 전제가 거짓이다. 조건문의 전제가 거짓이면 조건문은 언제나 참이므로 이러한 경우를 걱정하지 않아도 충분하다.

$\Longleftarrow$ : 함수 $f$ 가 $x=a$ 에서 $\displaystyle \lim_{x \to a} f(x)=f(a)$ 를 만족한다고 하자. 그러면 극한의 정의에 의하여, $0< \left| x-a \right|< \delta\; \Longrightarrow \; \left| f(x)-f(a) \right|< \varepsilon $ 이 성립함을 뜻한다. 여기서 $x\in I$ 만을 고려해주면 연속성의 정의와 같다. 물론, 연속의 정의에서 조건문의 전제에서는 $x=a$ 를 허용한다. 그러나 위의 극한 정의에서는 조건문의 전제에 $x=a$ 를 허용하지 않는다. 그렇기에 조건문의 전제가 거짓이면 결론의 진리값에 무관하게 조건문은 참이다.

그래도 정석대로 $x=a$ 일 때를 한 번 생각해 보기는 해보자. $x=a$ 인 경우에는 조건문의 결론부가 $\left| f(a)-f(a)\right|=0$ 이 되어버리므로, 임의로 $\varepsilon >0$ 이 주어질 때 아무 $\delta$ 나 잡더라도 반드시 결론부가 참이 된다. 반면 조건문의 전제는 $0< \left| x-a \right|< \delta$ 인데 $x=a$ 인 경우 이 조건문의 전제가 거짓이다. $0<0$ 이 성립하지는 않기 때문이다. 종합해보면, $x=a$ 라는 점에서 조건문의 전제는 거짓, 결론은 참이다. 그러면 조건문의 진리값은 참이다. $_\blacksquare$

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

1. 이런 상황은 사실 고등학교 수학에서 배우지 않는 종류인데, 왜냐하면 정의역이 제한되어 있기 때문입니다. 하지만 대학교에서 함수 연속의 정의는 이렇게 정의역이 실수 전체의 집합이 아니라 실수의 부분집합일 때도 가능해야 하기 때문에 $x\in E$ 와 같은 조건이 필요한 셈입니다. 연속의 가장 추상적이고 완벽한 정의는 위상수학에서 합니다. [본문으로]