위상수학에서 극한점, 집적점(limit point, accumulation point, cluster point)

극한점(limit point), 집적점(cluster point or accumulation point)라 불리는 이 친구는 사실 위상수학과 해석학의 딱 중간에 걸쳐 있는 가교 역할을 하는 무시무시한 친구입니다. 몇 번 마주쳐서 공부를 해보신 분들이라면 이 극한점의 개념은 난이도가 어렵지 않아 보이면서도 은근히 까다롭게 뇌에 과부하를 걸리게 만들고 알듯 말듯 헷갈리는 개념이라는 것을 많이 느꼈을 것이라 생각합니다. 실제로 극한점은 위상수학에서 폐포를 정의하거나 닫힌집합과 열린집합을 구분하는데 쓰이긴 하지만, 폐포를 정의하는 방법은 여러가지이고 닫힌집합과 열린집합을 구분하는 일에 꼭 극한점을 끌여들여야 할 필요는 없다고 느낄 수 있습니다. 그래서, 숨겨진 극한점의 정수는 사실 해석학에서의 개념입니다. 극한점은 해석학에서 유클리드 공간의 위상적 성질을 탐구할 때 쓰일 뿐만 아니라 사실 칸토어의 축소구간 정리와 수열의 극한, 볼차노-바이어슈트라스 정리를 밝히는데 매우 유용한 도구이기 때문입니다. 이번 글을 통해 제대로 이해해 보도록 합시다.

 

 

 

극한점이 무엇인지에 대해서 실직선을 설명할 때 같이 소개한 적이 있습니다. 일단 이 글을 반드시 읽고 오시는 것을 추천합니다. 실직선에서의 극한점 개념은 보다 직관적이기 때문에 이해에 있어 굉장한 역할을 할 것이라 믿기 때문입니다. 그 다음, 이제 위상공간에서의 일반적인 개념으로 확장해 보려고 합니다. 이전에 다루었던 교차, 근방의 개념을 알고 있어야 합니다.

---

1. 극한점

 

1) 정의

 

정의($T.P$) 2-21) 위상공간에서 극한점, 또는 집적점
위상공간 $X$ 의 부분집합 $A$ 를 생각하자. $x\in X$ 가 $A$ 의 '극한점(limit point)' 또는 '집적점(accumulation or cluster point)'이라는 것은 $x\in \overline{A-\{ x\}}$ 인 것이다.^[각주:1] 조금 쉽게 풀어쓰면, 모든 $x$ 의 근방이 $x$ 를 제외한 점에서 $A$ 와 교차하는 것이다. 이를 다시 말하면 $x\in U$ 인 열린집합 $U$ 에 대하여 $U\cap (A-\{ x\})\neq \emptyset$ 인 것을 말한다.
극한점의 개념은 $A$ 내의 점들이 $x$ 주변에 얼마나 '밀집'해서 $x$ 를 둘러싸고^[각주:2] 있는지를 뜻한다고 볼 수 있다.

정의($T.P$) 2-22) 위상공간에서 고립점
위상공간 $X$ 의 부분집합 $A$ 를 생각하자. 점 $x\in A$ 에 대해 $x\in U$ 인 열린집합 $U$ 가 존재하여 $U\cap (A-\{ x\}) =\emptyset$ 이 성립하면, $x$ 를 $A$ 의 '고립점(isolated point)'이라 한다.

 

극한점의 정의를 따질 때 가장 중요한 것은 주어진 점이 극한점인지 판단하기 위해서는 제시된 위상공간의 부분집합에서 그 점을 뺀 점의 폐포에 속하는지 보아야 합니다. 물론, 실제로 $x\in A$ 인지 $x\notin A$ 인지는 상관이 없습니다. 어차피 집적점인지의 여부를 따질 때 $x\in \overline{A-\{ x\}}$ 를 보기 때문입니다.

 

그렇다면 당연히 의문이 생깁니다. 일단 집적점이 왜 중요하고, 집적점을 왜 배우는 것이며, 정의에서 굳이 $x$ 를 제외하는 이유가 무엇인지 말입니다. 이렇게 딱딱 질문이 떠올라야 지금까지 정상적인 학습을 하고 있는 것이라 말할 수 있습니다.

 

 

2) 집적점의 의미가 무엇이고, 왜 다루는 것일까? $\{x\}$ 는 왜 제외시켜야 하는가?

 

제가 어렸을 때만 하더라도(별로 오래전은 아니지만) 음식점에 가면 아이들 놀이터가 실내에 있었습니다. 어른들끼리 식사를 하고 이야기를 나누는 동안, 저는 음식점 안에 마련된 놀이터에 가서 놀았지요. 그 놀이터에는 미끄럼틀이나 운동기구 같은 것들이 있었고, 작은 공(ball)으로 이루어진 풀장이 있었습니다. 이제 어른들이 집에 가야 한다고 하면, 그 공 안에 숨어 들어가서 없는 척을 했었습니다.

 

[그림 1]

 

이 풀장, 또는 수영장으로 생각해도 될 대상이, 우리가 보려고 하는 집합 $A\subseteq X$ 입니다. $A$ 의 원소는 공들로 이루어져 있습니다. 이때, 저와 같은 어떤 어린이가 풀장에 들어가 온 몸이 공들로 '뒤덮여' 있는 상황을 생각해 보려고 합니다. 그러면 이 어린이는 $A$ 내의 점들로 가득 '둘러싸여' 있는 상황으로 볼 수 있고, 이 어린이는 공들이 자신 주변을 가득 채워 '밀집'해 있다고 느끼게 될 것입니다.

 

집적점을 따질 때, 어떤 점(= 어린이)이 '집적점'이라는 것은 그 점을 $A$ 의 원소(= 풀장의 공들)가 '둘러싸고' 있는 것을 말합니다.

 

이때, '둘러쌈'의 여부를 판단하기 위해서는, 어린이가 어린이로 둘러싸일 수는 없기 때문에 집적점을 따질 때 $x$ 자신을 제외해야 하는 것입니다. 애초에 자기 자신이 자신을 둘러싼다는 것은 말이 안되기 때문에, $x$ 라는 점이 $A$ 의 원소들로 둘러싸여 있는지의 여부를 보려면 $x$ 가 존재하는 위치는 제끼고 생각을 해봐야 한다는 것이기 때문이죠. 인간이 3차원에 존재할 때 공기로 뒤덮여 있지만, 인간의 신체가 차지하고 있는 공간은 대기에 포함되지 않는 것과 유사합니다. 뿐만 아니라, 예를 들어 만일 위 정의에서 $\overline{A-\{ x\}}$ 대신에 $\overline{A}$ 를 사용한다고 해볼까요? 그러면 $A=\{ x\}$ 즉 자기 자신으로 생각해버리면, '어린이가 어린이를 둘러싼다'라는 해괴한 상황이 등장합니다. 이는 의미가 없는 문장입니다. 또한, 풀장에 들어가서 어린이가 공간을 차지하게 되면 그 차지하는 공간만큼은 공이 차지하지 못하게 됩니다. 그런 의미에서, 어린이를 둘러쌀 공들은 어린이가 차지하고 있는 공간에서는 밀려나기 때문에, 어린이를 둘러싼 정도를 따지고 싶은 것이 목적이므로, 이땐 어린이가 차지하고 있는 부피는 일단 논외로 하자는 뜻이 $\overline{A-\{ x\}}$ 에 담겨 있는 것으로 볼 수 있습니다.

 

더불어, 이 어린이가 풀장의 경계에서 반만 몸을 넣고 있는 상황에서도 일단 어린이의 몸 일부는 $A$ 의 원소들로 둘러싸여 있는 셈이기에, 집적점으로 취급합니다. 이러한 경우는 이 점(어린이)이 $A$ 의 경계점임을 시사합니다.

 

 

다시 말해 극한점의 개념은 $A$ 내의 점들이 $x$ 주변에 얼마나 밀집해있는지를 나타내며, 이는 $x$ 자체의 포함 여부와 독립적이라는 것을 강조하기 위해, $\overline{A-\{x\}}$ 의 개념으로 정의됨을 알 수 있습니다. 만일 $x$ 를 제외시키지 않는 방식으로 극한점 여부를 따진다면, 위 그림과 같이 파란색 영역 내부에 있는 점이나, 파란색 외부에 있는 점이나 차이가 존재하지 않게 되므로 의미가 없는 정의가 될 것입니다. 위와 같이 흰색 점도 하늘색 영역에 의해 둘러싸여 있기 때문에 흰색 점은 하늘색 영역을 $A$ 라고 할 때 $A$ 의 집적점이 되도록 해야 잘 정의된 셈이지요. 위상수학적으로 확장하면, 어떤 점 $x\in X$ 가 $A$ 의 집적점이라는 것은, $A$ 의 몇몇 원소들과는 '연결'되어 있을 수 있음을 시사한다는 것입니다. 위상수학에서는 연결성과 근접성의 개념이 매우 중요하다는 사실을 다시 한 번 떠올려 보면 좋을 것 같습니다.

---

예제 1) $E=\left( 1,2 \right)\cup \left\{ 3 \right\}$ 에 대하여 $x=3$, $x=2$ 가 어떤 점인지 조사해 보아라. 이 예제는 실직선 관련 글에서 이미 다룬 적이 있다. 참고로 '고립점'에 대한 설명은 아래에서 추가로 한다.

 

Sol) $\overline{(1,2)\cup \{ 3\}-\{2\}} = \overline{E}=[1,2]$ 이므로, $x=2$ 는 집적점이다. 반면 $x=3$ 은 $3$ 을 포함하는 임의의 작은 $\varepsilon > 0$ 에 대해 $U=(-\varepsilon, \varepsilon)$ 은 $U\cap (E-\{3\} ) = \emptyset$ 이므로, $x=3$ 은 고립점이다. $_\blacksquare$

---

예제 2) 위상공간 $\{a,b,c,d\}$ 에 대해 부분집합 $A=\{a,b\}$ 이고, 위상은 이산위상 $\mathcal{T}=\mathcal{P}(X)$ 라 하자. 이산위상은 점들이 최대한 모두 독립적으로 다 떨어져 존재할 수 있는 연결 방식에 해당한다. 이때 $A$ 의 극한점을 모두 찾아라.

 

Sol) 이산위상에서는 점들이 모두 독립적으로 떨어져 존재할 수 있기 때문에, 열린집합으로 그 점 $\{ a\}$ 을 선택할 수 있다. 그러면 $U=\{a \} \cap (A-\{ a\}) =\emptyset$ 이므로 $\{ a\}$ 는 극한점이 아니다. 같은 논리로 $\{b\}$ 역시 극한점이 아니다. $_\blacksquare$

 

 

이 예제에서 중요한 사실이 하나 있습니다. 폐포를 사용해서 극한점을 따져볼 수 있는 방법이 시사하는 바는, 폐포가 무엇인지 특정하기 위해서는 위상 $\mathcal{T}$ 를 분석해야 한다는 것입니다. 그런데 그보다는 위상이 주어지게 되면, 열린집합이 무엇인지를 확실히 알 수 있기 때문에, 검사할 점 $x\in X$ 를 포함하는 열린집합을 찾아서 $A-\{ x\}$ 의 교집합이 공집합이 아닌지를 가리는 것이 극한점을 판단할 때 보다 간편합니다. 위에서 풀이한 방법처럼 말이죠. 즉, 어떤 점이 극한점이 될지의 여부는 위상공간의 원소들이 어떻게 연결되고 근접되어있는지, 다시 말해 위상이 어떻게 정의되는지에 종속되어 있습니다.

---

정리($T.P$) 2.24)
위상공간 $X$ 의 한 부분집합 $A$ 에 대하여, $A$ 의 모든 극한점의 집합을 $A'$ 이라고 하자. 그러면 $\overline{A}=A\cup A'$ 이다.

따름정리($T.P$) 2.24.1)
위상공간 $X$ 의 한 부분집합 $A$ 가 닫혀있을 필요충분조건은 $A'\subseteq A$ 인 것이다.

증명) $A\cup A'\subseteq \overline{A}$ : $x\in A$ 이면 $x\in \overline{A}$ 는 폐포의 정의에 의해 자명하다. $x\in A'$ 이면, 극한점의 정의에 의하여 $x$ 를 포함하는 모든 열린집합과 $A$ 는 교차한다. 그러면 정리($T.P$) 2.22) 에 의하여 $x\in \overline{A}$ 이다. 두 결과를 종합하면 $(A\cup A') \subseteq \overline{A}$ 이다.

이번에는 $x\in \overline{A}$ 라 해보자. $x\in A$ 이면 자명히 $x\in (A\cup A')$ 이므로 $x\notin A$ 인 경우를 생각하자. $x\in \overline{A}$ 이므로, $x\in U$ 인 어떤 열린집합 $U$ 는 $U\cap A\neq \emptyset$ 을 만족한다. 이는 극한점의 정의 $U\cap (A-\{ x\})\neq \emptyset$ 을 만족하므로 $x\in A'$ 이다. 따라서 $\overline{A}\subseteq (A\cup A')$ 이 성립한다. $_\blacksquare$


따름정리의 증명) 폐포의 정의에 의해 폐포 $\operatorname{Cl}_X(A)=\overline{A}$ 는 닫힌집합이다.

$\Longrightarrow$ : $A$ 가 닫힌집합이면 $A=\overline{A}$ 이므로 위 정리에 의하여 $A=A\cup A'$ 이 성립하므로, $A'\subseteq A$ 이다.

$\Longleftarrow$ : $A'\subseteq A$ 이면 $A\cup A'=A$ 이다. 위 정리에 의하면 $A=\overline{A}$ 이 되어, $A$ 는 닫힌집합임을 알 수 있다. $_\blacksquare$

 

---

예제 3) $X=\mathbb{R}$ 에 표준위상을 부여했을 때 집합 $A=\left\{ \displaystyle \frac{1}{n}\mid n\in\mathbb{N} \right\}$ 에 대해, $0$ 은 $A$ 의 극한점임을 보이고, $\overline{A}=A\cup A'$ 의 관계가 성립하는지 검토하여라.

 

Sol) $A=\left\{ \displaystyle \frac{1}{n}\mid n\in\mathbb{N} \right\}
=\left\{ 1,\displaystyle \frac{1}{2},\displaystyle \frac{1}{3},\cdots  \right\}$ 이다. $x=0$ 이 $A$ 의 극한점인지 확인하려면, $x\in U$ 인 열린집합 $U$ 에 대해 $U\cap (A-\{ 0\})=U\cap A\neq \emptyset$ 인지 확인해야 한다. 임의의 $\varepsilon > 0$ 이 주어졌을 때, $U=(-\varepsilon, \varepsilon)$ 라고 하자. 그러면 아르키메데스 성질에 의해 $N\in\mathbb{N}$ 에 대하여 $\displaystyle\frac{1}{N}< \varepsilon$ 이 성립하게 하는 $\displaystyle\frac{1}{N}$ 을 뽑을 수 있다. 그렇기 때문에 $\displaystyle\frac{1}{N} \in U$ 가 성립하여, $U\cap A\neq \emptyset$ 이다. 따라서 $x=0$ 은 $A$ 의 극한점이다. 이로부터 $A\cup A'=A\cup \{ 0\} = \overline{A}$ 도 성립한다. $_\blacksquare$

 

---

2. 완전집합

 

정리하면, 밀착점은 내부점과 경계점의 합집합이고, 집적점은 모든 밀착점인 셈입니다. 위상수학에서는 교과서에서 밀착점이라는 말을 잘 사용하지 않는 것으로 보이고 이는 해석학에서 위상적 성질을 다룰 때 주로 쓰는 말이지만, 실직선에서도 위상적 성질을 충분히 설명했으니 편의상 이렇게 표현을 하겠습니다. 

 

1) 정의

 

 

정의($T.P$) 2-23) 완전집합
위상공간 $X$ 의 부분집합 $A$ 가 $A=A'$ 을 만족하면, 즉 $A$ 의 모든 점이 $A$ 의 극한점이면, $A$ 를 '완전집합(perfect set)'이라고 한다.

정리($T.P$) 2.25)
위상공간 $X$ 의 부분집합 $A$ 가 완전집합일 필요충분조건은 그것이 고립점을 가지지 않는 닫힌집합인 것이다.

증명) $\Longrightarrow $ : $A=A'$ 이면 $A$ 에 포함된 모든 점은 오로지 $A$ 의 극한점이라는 뜻이다. 극한점과 고립점의 정의가 동시에 참일 수 없기 때문에, $A$ 에는 $A$ 의 고립점이 존재할 수 없다. 또한 $A$ 는 모든 $A$ 의 극한점을 포함하고 있으므로 경계점도 포함하고 있어서 닫힌집합이다. 조금 더 구체적으로 말하자면 따름정리($T.P$) 2.24.1) 의 내용 그대로를 보면 된다.

$\Longleftarrow$ : $A$ 가 $A$ 의 고립점을 가지지 않는 닫힌집합이라고 가정하자. 따름정리($T.P$) 2.24.1) 에 의하여, $A'\subseteq A$ 이다. 그러면 정리($T.P$) 2.24) 에 의하여 $\overline{A}=A\cup A'=A$ 이므로, $A$ 의 모든 극한점은 $A$ 에 포함되어 있다. 그런데 가정에 의해 $A$ 의 고립점은 존재하지 않기 때문에, 임의의 $a\in A$ 에 대하여 $a\in \overline{A-\{ a\}}$ 가 성립하여 모든 $a\in U$ 인 열린집합 $U$ 에 대해 $U\cap (A-\{a\})\neq \emptyset$ 이 성립한다. 즉 $a\in A'$ 이므로, $A\subseteq A'$ 이다. 둘을 종합하면 $A=A'$ 으로, $A$ 는 완전집합이다. $_\blacksquare$

 

 

 

 

 

 

[참고문헌]

James Munkres, Topology 2E

 

 

 

 

 

 

1. 폐포에 속한다는 것은 $x$ 가 경계점이거나 내부점임을 뜻한다. 경계점과 내부점을 합친 것을 밀착점이라고 부른다. [본문으로]
2. 이때, 내부점은 그 점을 $A$ 의 원소가 오롯히 모든 방향에서 둘러싸지만, 경계점은 일정 방향에서만 그 점을 $A$ 의 원소들이 둘러싸게 된다. 전자와 후자의 경우 모두 집적점이다. [본문으로]