집합론 (Set Theory)

집합론은 수학의 가장 기초적인 분야로, 모든 수학적 구조를 집합의 언어로 기술할 수 있습니다. 게오르크 칸토어(Georg Cantor)가 19세기 후반에 체계화한 이래, 집합론은 현대 수학의 토대를 형성하고 있습니다. 이 문서에서는 소박한 집합론(Naive Set Theory)의 기본 개념부터 공리적 집합론의 핵심까지 살펴봅니다.

일상 속의 집합: 여러분의 반에서 축구를 좋아하는 학생들의 모임, 수학을 좋아하는 학생들의 모임 — 이렇게 어떤 기준으로 대상을 모아놓은 것이 바로 '집합'입니다. 예를 들어, "우리 반에서 안경을 쓴 학생의 모임"도 하나의 집합이고, "서울에 있는 모든 중학교의 모임"도 하나의 집합입니다. 수학에서는 이런 '모임'을 엄밀하게 다루기 위해 집합이라는 개념을 사용합니다.
비유로 이해하기: 집합을 상자라고 생각하면 이해하기 쉽습니다. 상자 안에 물건을 넣으면, 그 물건들이 '원소'이고 상자 자체가 '집합'입니다. 과일 바구니에 사과, 배, 포도가 들어 있으면 $\{\text{사과}, \text{배}, \text{포도}\}$라는 집합이 됩니다. 중요한 점은 상자 안에 같은 물건을 두 번 넣어도 하나로 세고, 물건을 넣는 순서는 상관없다는 것입니다.

이런 곳에 쓰여요

  • 데이터베이스: SQL의 JOIN, UNION, INTERSECT가 집합 연산과 동일
  • 검색 엔진: "고양이 AND 귀여운"으로 검색하면 교집합을 구하는 것
  • 설문 조사: "축구도 좋아하고 농구도 좋아하는 학생"을 벤 다이어그램으로 분석
  • 스마트폰 앨범: 사진을 날짜별, 장소별로 분류하는 것이 집합을 나누는 것

선수 지식: 수와 연산

난이도: ★★☆☆☆ (고등학교 기초)

집합의 정의

집합(Set)은 명확한 기준에 의하여 그 대상을 분명히 정할 수 있는 모임을 말합니다. 집합을 구성하는 각각의 대상을 원소(Element)라고 합니다.

원소 $a$가 집합 $A$에 속할 때 $a \in A$로 표기하며, 속하지 않을 때 $a \notin A$로 표기합니다.

왜 "명확한 기준"이 중요한가? "키가 큰 학생의 모임"은 집합이 될 수 없습니다. '키가 크다'는 기준이 사람마다 다르기 때문입니다. 하지만 "키가 170cm 이상인 학생의 모임"은 집합이 됩니다. 170cm 이상인지 아닌지를 누구나 같은 결과로 판별할 수 있기 때문입니다. 이처럼 집합이 되려면 어떤 대상이 그 모임에 속하는지 아닌지가 분명해야 합니다.

예시로 살펴보기:

집합의 표현 방법

방법설명예시
원소나열법원소를 중괄호 안에 나열합니다$A = \{1, 2, 3, 4, 5\}$
조건제시법원소의 공통 성질을 제시합니다$A = \{x \mid x \text{는 5 이하의 자연수}\}$
벤 다이어그램그림으로 집합의 관계를 나타냅니다원형 영역으로 표현

특수한 집합

공집합이란? 공집합은 "아무것도 들어 있지 않은 빈 상자"와 같습니다. 예를 들어 "우리 반에서 나이가 100살 이상인 학생의 모임"은 해당하는 학생이 없으므로 공집합입니다. 빈 상자도 여전히 '상자'인 것처럼, 원소가 없어도 '집합'은 집합입니다.
전체집합이란? 전체집합은 "우리가 지금 이야기하고 있는 모든 것"을 담은 가장 큰 상자입니다. 예를 들어, 우리 반 학생에 대해 이야기한다면 전체집합은 "우리 반 전체 학생"이 됩니다. 1부터 10까지의 수에 대해 이야기한다면 $U = \{1, 2, 3, 4, 5, 6, 7, 8, 9, 10\}$이 전체집합입니다.
참고: 공집합은 모든 집합의 부분집합입니다. 즉, 임의의 집합 $A$에 대하여 $\emptyset \subseteq A$가 성립합니다. 이는 "공집합의 모든 원소가 $A$에 속한다"는 명제가 공허하게 참(vacuously true)이기 때문입니다. 비유하자면, "빈 가방 안에 있는 모든 공은 빨간색이다"라는 말은 가방에 공이 없으므로 반례를 찾을 수 없어 참이 됩니다.

집합의 상등과 부분집합

두 집합 $A$와 $B$가 같다(Equal)는 것은 정확히 같은 원소를 가진다는 뜻입니다.

$$A = B \iff (\forall x)(x \in A \leftrightarrow x \in B)$$

실제 증명에서는 $A \subseteq B$와 $B \subseteq A$를 각각 보여 $A = B$를 증명하는 이중 포함(Double Inclusion) 기법을 많이 사용합니다.

부분집합(Subset): $A$의 모든 원소가 $B$에도 속하면 $A$는 $B$의 부분집합입니다.

$$A \subseteq B \iff (\forall x)(x \in A \implies x \in B)$$

진부분집합(Proper Subset): $A \subseteq B$이고 $A \neq B$이면 $A \subsetneq B$로 표기합니다.

부분집합 관계의 성질

성질내용
반사성$A \subseteq A$
반대칭성$A \subseteq B$이고 $B \subseteq A$이면 $A = B$
추이성$A \subseteq B$이고 $B \subseteq C$이면 $A \subseteq C$

집합의 연산

두 집합 $A$와 $B$에 대하여 다음과 같은 기본 연산이 정의됩니다. 집합의 연산은 여러 집합을 결합하거나 비교하여 새로운 집합을 만드는 방법입니다.

실생활 예시로 먼저 이해하기: 우리 반에서 축구를 좋아하는 학생의 모임을 $A$, 농구를 좋아하는 학생의 모임을 $B$라고 하겠습니다. 이때 "축구 또는 농구를 좋아하는 학생" "축구 그리고 농구를 둘 다 좋아하는 학생" "축구는 좋아하지만 농구는 좋아하지 않는 학생" 등 다양한 질문에 답할 수 있습니다. 이것이 바로 집합의 연산입니다.

합집합 (Union)

$A$와 $B$ 중 적어도 하나에 속하는 원소들의 집합입니다. "이것 또는 저것"에 해당합니다.

$$A \cup B = \{x \mid x \in A \text{ 또는 } x \in B\}$$

예시: $\{1,2,3\} \cup \{2,3,4,5\} = \{1,2,3,4,5\}$

실생활 예시: 축구 동아리 멤버가 $\{\text{민수}, \text{영희}, \text{철수}\}$이고 농구 동아리 멤버가 $\{\text{영희}, \text{철수}, \text{지은}\}$일 때, 축구 또는 농구 동아리에 속한 학생은 $\{\text{민수}, \text{영희}, \text{철수}, \text{지은}\}$입니다. 영희와 철수는 두 동아리 모두에 있지만, 합집합에서는 한 번만 셉니다.

A B 색칠된 영역 = A ∪ B

교집합 (Intersection)

$A$와 $B$ 모두에 속하는 원소들의 집합입니다. "이것 그리고 저것"에 해당합니다.

$$A \cap B = \{x \mid x \in A \text{ 그리고 } x \in B\}$$

예시: $\{1,2,3\} \cap \{2,3,4,5\} = \{2,3\}$

실생활 예시: 위의 예에서 축구 그리고 농구를 둘 다 좋아하는 학생은 $\{\text{영희}, \text{철수}\}$입니다. 검색 엔진에서 "고양이 AND 귀여운"으로 검색하면, '고양이'와 '귀여운'이 둘 다 포함된 결과만 나오는 것과 같습니다.

$A \cap B = \emptyset$이면 $A$와 $B$를 서로소(Disjoint)라고 합니다. 예를 들어, 짝수의 집합과 홀수의 집합은 공통 원소가 없으므로 서로소입니다.

A B 색칠된 영역 = A ∩ B

차집합 (Difference)

$A$에는 속하지만 $B$에는 속하지 않는 원소들의 집합입니다. "$A$에서 $B$를 빼는" 것과 같습니다.

$$A \setminus B = \{x \mid x \in A \text{ 그리고 } x \notin B\}$$

예시: $\{1,2,3,4\} \setminus \{2,4\} = \{1,3\}$

실생활 예시: 축구 동아리에는 가입했지만 농구 동아리에는 가입하지 않은 학생, 즉 "축구만 좋아하는 학생"을 구하는 것입니다. 위의 예에서 $A \setminus B = \{\text{민수}\}$입니다.

A B 색칠된 영역 = A ∖ B

여집합 (Complement)

전체집합 $U$에서 집합 $A$를 뺀 나머지입니다. "$A$에 속하지 않는 모든 것"입니다.

$$A^c = U \setminus A = \{x \in U \mid x \notin A\}$$

실생활 예시: 우리 반 전체가 40명($U$)이고 수학을 좋아하는 학생이 15명($A$)이면, 수학을 좋아하지 않는 학생은 $40 - 15 = 25$명($A^c$)입니다.

U A 색칠된 영역 = Ac (여집합)

대칭차집합 (Symmetric Difference)

$A$와 $B$ 중 정확히 하나에만 속하는 원소들의 집합입니다.

$$A \triangle B = (A \setminus B) \cup (B \setminus A) = (A \cup B) \setminus (A \cap B)$$

예시: $\{1,2,3\} \triangle \{2,3,4\} = \{1,4\}$

A B 색칠된 영역 = A △ B
대칭차집합의 성질: 대칭차집합은 교환법칙과 결합법칙이 성립하며, $\emptyset$이 항등원이고 모든 집합은 자기 자신에 대한 역원입니다($A \triangle A = \emptyset$). 즉, 대칭차집합 연산을 가진 멱집합(Power Set, 어떤 집합의 모든 부분집합을 원소로 갖는 집합 — 아래에서 자세히 설명) $(\mathcal{P}(X), \triangle)$은 아벨 군을 이룹니다.

집합 연산의 법칙

집합 연산에는 다양한 대수적 법칙이 성립합니다. 전체집합 $U$ 아래 집합 $A$, $B$, $C$에 대하여:

법칙합집합교집합
교환법칙$A \cup B = B \cup A$$A \cap B = B \cap A$
결합법칙$(A \cup B) \cup C = A \cup (B \cup C)$$(A \cap B) \cap C = A \cap (B \cap C)$
분배법칙$A \cup (B \cap C) = (A \cup B) \cap (A \cup C)$$A \cap (B \cup C) = (A \cap B) \cup (A \cap C)$
항등법칙$A \cup \emptyset = A$$A \cap U = A$
지배법칙$A \cup U = U$$A \cap \emptyset = \emptyset$
멱등법칙$A \cup A = A$$A \cap A = A$
흡수법칙$A \cup (A \cap B) = A$$A \cap (A \cup B) = A$
보원법칙$A \cup A^c = U$$A \cap A^c = \emptyset$
이중 보원$(A^c)^c = A$
드모르간$(A \cup B)^c = A^c \cap B^c$$(A \cap B)^c = A^c \cup B^c$
증명 전략: 집합 등식을 증명하는 세 가지 주요 방법이 있습니다: (1) 이중 포함 — 양쪽 포함 관계를 각각 증명, (2) 원소 추적 — 임의의 원소를 잡고 동치 변환, (3) 진리표(멤버십 표) — 소속 여부를 0/1로 표현하여 열(column)이 같음을 확인.

분배법칙의 증명 (원소 추적)

$A \cap (B \cup C) = (A \cap B) \cup (A \cap C)$를 증명합니다.

임의의 원소 $x$에 대하여:

$$\begin{aligned} x \in A \cap (B \cup C) &\iff x \in A \text{ 그리고 } x \in B \cup C \\ &\iff x \in A \text{ 그리고 } (x \in B \text{ 또는 } x \in C) \\ &\iff (x \in A \text{ 그리고 } x \in B) \text{ 또는 } (x \in A \text{ 그리고 } x \in C) \\ &\iff x \in A \cap B \text{ 또는 } x \in A \cap C \\ &\iff x \in (A \cap B) \cup (A \cap C) \end{aligned}$$

따라서 $A \cap (B \cup C) = (A \cap B) \cup (A \cap C)$가 성립합니다. $\blacksquare$

드모르간 법칙

드모르간 법칙(De Morgan's Laws)은 집합 연산에서 여집합과 합집합·교집합 사이의 관계를 나타내는 중요한 법칙입니다.

핵심 공식: 드모르간 법칙은 논리학과 집합론 모두에서 사용되므로 반드시 기억해야 합니다.
왜 드모르간 법칙이 성립하는가? — 일상 언어로 이해하기

첫 번째 법칙 $(A \cup B)^c = A^c \cap B^c$를 일상 언어로 바꾸면 이렇습니다:

"축구 또는 농구를 좋아하는 학생이 아닌 학생" = "축구를 좋아하지 않고, 농구도 좋아하지 않는 학생"

생각해 보면 당연합니다. 축구나 농구 중 하나라도 좋아하지 않으려면, 축구도 안 좋아하고 농구도 안 좋아해야 합니다.

두 번째 법칙 $(A \cap B)^c = A^c \cup B^c$도 마찬가지입니다:

"축구 그리고 농구를 둘 다 좋아하는 학생이 아닌 학생" = "축구를 안 좋아하거나, 농구를 안 좋아하는 학생"

둘 다 좋아하지 않으려면, 적어도 하나는 안 좋아하면 됩니다.

$$\boxed{(A \cup B)^c = A^c \cap B^c}$$ $$\boxed{(A \cap B)^c = A^c \cup B^c}$$

첫 번째 법칙의 증명

($\subseteq$ 방향) $x \in (A \cup B)^c$라 하자.

  1. $x \notin (A \cup B)$ — 여집합의 정의
  2. $x \notin A$ 그리고 $x \notin B$ — 합집합의 정의의 부정
  3. $x \in A^c$ 그리고 $x \in B^c$ — 여집합의 정의
  4. $x \in A^c \cap B^c$ — 교집합의 정의

($\supseteq$ 방향) $x \in A^c \cap B^c$라 하자.

  1. $x \in A^c$ 그리고 $x \in B^c$ — 교집합의 정의
  2. $x \notin A$ 그리고 $x \notin B$ — 여집합의 정의
  3. $x \notin A \cup B$ — 합집합의 정의의 부정
  4. $x \in (A \cup B)^c$ — 여집합의 정의

양쪽 포함이 성립하므로 $(A \cup B)^c = A^c \cap B^c$입니다. $\blacksquare$

일반화된 드모르간 법칙

유한 또는 무한 개의 집합에 대해서도 확장됩니다.

$$\left(\bigcup_{i \in I} A_i\right)^c = \bigcap_{i \in I} A_i^c, \qquad \left(\bigcap_{i \in I} A_i\right)^c = \bigcup_{i \in I} A_i^c$$

예시: $U = \{1,2,3,4,5,6,7,8,9,10\}$, $A = \{1,2,3\}$, $B = \{3,4,5\}$일 때:

벤 다이어그램

벤 다이어그램(Venn Diagram)은 집합과 그 관계를 시각적으로 나타내는 도구입니다. 영국의 수학자 존 벤(John Venn)이 1880년에 도입하였습니다.

두 집합의 벤 다이어그램

$U$ $A$ $B$ $A \cap B$ $(A \cup B)^c$

기본 구성

두 집합의 벤 다이어그램으로 표현할 수 있는 영역

영역집합 표현의미
$A$만$A \setminus B$$A$에만 속하는 원소
$B$만$B \setminus A$$B$에만 속하는 원소
겹침$A \cap B$둘 다 속하는 원소
바깥$(A \cup B)^c$어디에도 속하지 않는 원소

세 집합의 벤 다이어그램

세 집합의 경우 총 $2^3 = 8$개의 구분 영역이 만들어지며, 이를 통해 세 집합 사이의 모든 관계를 시각적으로 파악할 수 있습니다.

$U$ $A$ $B$ $C$ $A \!\cap\! B \!\cap\! C$
영역 번호집합 표현설명
$A \setminus (B \cup C)$$A$에만 속하는 원소
$B \setminus (A \cup C)$$B$에만 속하는 원소
$C \setminus (A \cup B)$$C$에만 속하는 원소
$(A \cap B) \setminus C$$A$와 $B$에만 속하는 원소
$(A \cap C) \setminus B$$A$와 $C$에만 속하는 원소
$(B \cap C) \setminus A$$B$와 $C$에만 속하는 원소
$A \cap B \cap C$세 집합 모두에 속하는 원소
$(A \cup B \cup C)^c$어느 집합에도 속하지 않는 원소

포함-배제 원리

벤 다이어그램에서 유도되는 원소 개수 공식입니다.

$$|A \cup B| = |A| + |B| - |A \cap B|$$ $$|A \cup B \cup C| = |A| + |B| + |C| - |A \cap B| - |A \cap C| - |B \cap C| + |A \cap B \cap C|$$

예시: 학생 40명 중 수학 동아리 25명, 과학 동아리 20명, 두 동아리 모두 가입 10명이면 적어도 하나의 동아리에 가입한 학생 수는 $25 + 20 - 10 = 35$명입니다.

멱집합

집합 $A$의 멱집합(Power Set) $\mathcal{P}(A)$는 $A$의 모든 부분집합을 원소로 갖는 집합입니다. 쉽게 말해, 원래 집합에서 만들 수 있는 모든 "부분 모임"을 모아놓은 것입니다.

$$\mathcal{P}(A) = \{S \mid S \subseteq A\}$$
비유로 이해하기: 피자 토핑이 페퍼로니, 올리브, 치즈 세 가지 있다고 합시다. 주문할 때 각 토핑을 "넣는다 / 안 넣는다"를 선택할 수 있습니다. 가능한 모든 조합(아무것도 안 넣기, 하나만, 둘, 셋 다 넣기)이 바로 멱집합의 원소입니다. 3가지 토핑에 대해 $2 \times 2 \times 2 = 8$가지 조합이 나옵니다.

예시

$A = \{1, 2, 3\}$일 때:

$$\mathcal{P}(A) = \{\emptyset, \{1\}, \{2\}, \{3\}, \{1,2\}, \{1,3\}, \{2,3\}, \{1,2,3\}\}$$

원소의 개수가 $n$인 집합의 멱집합의 원소 개수는 $2^n$입니다. 위 예시에서는 $2^3 = 8$개입니다.

집합 $A$의 원소 수 $|A|$$|\mathcal{P}(A)|$부분집합 나열
01$\{\emptyset\}$
1 ($\{a\}$)2$\emptyset, \{a\}$
2 ($\{a,b\}$)4$\emptyset, \{a\}, \{b\}, \{a,b\}$
3 ($\{a,b,c\}$)8$\emptyset, \{a\}, \{b\}, \{c\}, \{a,b\}, \{a,c\}, \{b,c\}, \{a,b,c\}$
$n$$2^n$
왜 $2^n$인가? 부분집합을 만들 때 각 원소에 대해 "포함한다 / 포함하지 않는다"의 두 가지 선택이 독립적으로 가능합니다. $n$개 원소에 대해 $2 \times 2 \times \cdots \times 2 = 2^n$가지 선택이 존재합니다. 이를 이진수로 대응시키면, $n$비트 이진수 하나가 하나의 부분집합에 대응됩니다.

멱집합의 성질

카르테시안 곱

카르테시안 곱(Cartesian Product)은 두 집합의 원소로 만든 순서쌍(Ordered Pair)의 집합입니다. 순서쌍 $(a, b)$에서는 순서가 중요합니다. 즉 $(1, 2) \neq (2, 1)$입니다.

$$A \times B = \{(a, b) \mid a \in A, \; b \in B\}$$
순서쌍이란? 일반 집합 $\{a, b\}$에서는 순서가 없어서 $\{a, b\} = \{b, a\}$입니다. 하지만 좌표 $(3, 5)$에서는 "가로 3, 세로 5"라는 뜻이므로 $(5, 3)$과 다릅니다. 이처럼 순서가 중요한 쌍을 순서쌍이라 합니다. 카르테시안 곱은 첫 번째 집합에서 하나, 두 번째 집합에서 하나를 뽑아 가능한 모든 순서쌍을 만드는 것입니다.
실생활 예시: 음식점에서 메인 메뉴가 $\{\text{치킨}, \text{파스타}\}$이고 음료가 $\{\text{콜라}, \text{주스}, \text{물}\}$이면, 가능한 주문 조합은 $2 \times 3 = 6$가지입니다: (치킨, 콜라), (치킨, 주스), (치킨, 물), (파스타, 콜라), (파스타, 주스), (파스타, 물). 이것이 바로 카르테시안 곱입니다.

예시

$A = \{1, 2\}$, $B = \{x, y, z\}$일 때:

$$A \times B = \{(1,x), (1,y), (1,z), (2,x), (2,y), (2,z)\}$$

$|A \times B| = |A| \cdot |B| = 2 \times 3 = 6$입니다.

카르테시안 곱은 일반적으로 교환법칙이 성립하지 않습니다. 즉, $A \times B \neq B \times A$입니다(단, $A = B$이거나 둘 중 하나가 공집합인 경우는 예외입니다).

$n$중 카르테시안 곱

$$A_1 \times A_2 \times \cdots \times A_n = \{(a_1, a_2, \ldots, a_n) \mid a_i \in A_i, \; i = 1, 2, \ldots, n\}$$

특히 $A \times A$는 $A^2$로 표기하며, 평면 좌표 $\mathbb{R}^2 = \mathbb{R} \times \mathbb{R}$이 대표적인 예입니다.

카르테시안 곱과 집합 연산

관계

집합 $A$에서 집합 $B$로의 관계(Relation)는 카르테시안 곱 $A \times B$의 부분집합 $R \subseteq A \times B$입니다. $(a, b) \in R$일 때 $a \mathrel{R} b$로 표기합니다.

관계란? "관계"란 두 대상 사이의 연결을 수학적으로 표현한 것입니다. 예를 들어 "~보다 크다", "~와 같다", "~의 친구이다" 등이 모두 관계입니다. 학생 집합 $A$와 과목 집합 $B$가 있을 때, "민수가 수학을 수강한다"를 $(\text{민수}, \text{수학}) \in R$로 표현할 수 있습니다. 즉, 관계는 순서쌍의 모임으로, 어떤 쌍이 관계에 포함되면 그 두 대상은 "관계가 있다"고 말합니다.

집합 $A$ 위의 관계의 성질

관계 $R \subseteq A \times A$에 대하여:

성질정의예시 ($A = \mathbb{Z}$)
반사성(Reflexive)모든 $a \in A$에 대해 $a \mathrel{R} a$$a \leq a$ ✓
대칭성(Symmetric)$a \mathrel{R} b$이면 $b \mathrel{R} a$$a = b \implies b = a$ ✓
반대칭성(Antisymmetric)$a \mathrel{R} b$이고 $b \mathrel{R} a$이면 $a = b$$a \leq b, b \leq a \implies a = b$ ✓
추이성(Transitive)$a \mathrel{R} b$이고 $b \mathrel{R} c$이면 $a \mathrel{R} c$$a \leq b, b \leq c \implies a \leq c$ ✓

동치관계 (Equivalence Relation)

반사적이고 대칭적이며 추이적인 관계를 동치관계라 하고, 흔히 $\sim$으로 표기합니다.

예시: 정수 집합에서 "mod $n$ 합동" 관계 — $a \sim b \iff n \mid (a - b)$.

동치관계 $\sim$이 주어지면 각 원소 $a$에 대한 동치류(Equivalence Class)를 정의합니다.

$$[a] = \{x \in A \mid x \sim a\}$$

모든 동치류의 모임은 $A$의 분할(Partition)을 형성합니다. 즉, 서로 다른 동치류는 서로소이고, 모든 동치류의 합집합은 $A$ 전체입니다.

분할과 동치관계의 대응: $A$의 모든 분할은 정확히 하나의 동치관계에 대응되고, $A$ 위의 모든 동치관계는 정확히 하나의 분할에 대응됩니다. 이 일대일 대응은 집합론에서 매우 중요한 결과입니다.

순서관계 (Order Relation)

반사적이고 반대칭적이며 추이적인 관계를 반순서(Partial Order)라 하고, $(A, \leq)$를 반순서집합(Poset)이라 합니다.

반순서에서 모든 두 원소가 비교 가능하면($a \leq b$ 또는 $b \leq a$) 전순서(Total Order)라 합니다.

함수

집합 $A$에서 집합 $B$로의 함수(Function) $f: A \to B$는 관계의 특별한 경우로, $A$의 각 원소에 $B$의 원소가 정확히 하나 대응되는 관계입니다.

$$\forall a \in A, \; \exists! \, b \in B: (a, b) \in f$$
함수의 직관적 이해: 함수는 "자판기"와 같습니다. 버튼을 누르면(입력) 음료가 하나 나옵니다(출력). 하나의 버튼을 눌렀는데 음료가 두 개 나오거나 아무것도 안 나오면 자판기가 고장난 것입니다. 마찬가지로 함수에서는 하나의 입력에 대해 반드시 하나의 출력만 나와야 합니다. $A$는 모든 버튼(정의역), $B$는 나올 수 있는 모든 음료(공역), 실제로 나오는 음료들이 치역(Range)입니다.
관계와 함수의 차이: 관계에서는 하나의 원소가 여러 원소와 연결될 수 있지만, 함수에서는 반드시 하나의 원소에만 연결되어야 합니다. 예를 들어, "~의 형제이다"라는 관계에서 한 사람은 여러 형제를 가질 수 있으므로 함수가 아닙니다. 하지만 "~의 어머니이다"는 한 사람의 어머니가 정확히 한 명이므로 함수입니다.

함수의 유형

유형정의직관적 설명
단사(Injective, 일대일)$f(a_1) = f(a_2) \implies a_1 = a_2$서로 다른 입력은 서로 다른 출력
전사(Surjective, 위로의)$\forall b \in B, \; \exists a \in A: f(a) = b$$B$의 모든 원소가 대응됨
전단사(Bijective)단사이면서 전사완전한 일대일 대응, 역함수 존재
단사 전사 전단사

함수의 합성과 역함수

$f: A \to B$, $g: B \to C$일 때 합성함수 $g \circ f: A \to C$는 $(g \circ f)(a) = g(f(a))$로 정의됩니다.

상(Image)과 역상(Preimage)

$f: A \to B$이고 $S \subseteq A$, $T \subseteq B$일 때:

$$f(S) = \{f(a) \mid a \in S\}, \qquad f^{-1}(T) = \{a \in A \mid f(a) \in T\}$$

역상은 집합 연산을 잘 보존합니다:

집합의 크기 (기수)

유한집합의 크기는 원소의 개수 $|A|$로 자연스럽게 정의됩니다. 그러나 무한집합에서도 "크기"를 비교할 수 있을까요?

무한에도 크기가 있다: 놀랍게도, 무한집합도 크기를 비교할 수 있습니다. 더 놀라운 것은 어떤 무한은 다른 무한보다 더 크다는 사실입니다. 자연수의 개수와 실수의 개수는 둘 다 무한이지만, 실수가 "더 많습니다". 이 놀라운 발견은 칸토어가 처음으로 보여주었습니다.

대등 (Equinumerous)

두 집합 $A$와 $B$ 사이에 전단사 함수가 존재하면 $A$와 $B$는 대등(Equinumerous)하다고 하고, $|A| = |B|$ 또는 $A \sim B$로 표기합니다.

비유로 이해하기: 영화관에 관객이 들어오고 있는데, 좌석 수와 관객 수를 세지 않고도 둘의 크기를 비교할 수 있습니다. 모든 좌석에 사람이 앉아 있고, 서 있는 사람도 없다면 좌석 수와 관객 수가 같은 것입니다. 이처럼 원소를 하나씩 빠짐없이 짝지을 수 있으면 두 집합의 크기가 같다고 합니다. 무한집합에서도 이 "짝짓기" 방법을 사용합니다.

가산집합과 비가산집합

자연수 집합 $\mathbb{N}$과 대등한 집합을 가산 무한(Countably Infinite)이라 합니다. 유한이거나 가산 무한인 집합을 통틀어 가산(Countable)이라 합니다. "가산"이란 원소를 첫 번째, 두 번째, 세 번째, ... 하고 번호를 매겨 나열할 수 있다는 뜻입니다.

집합가산 여부근거
$\mathbb{N}$ (자연수)가산 무한정의에 의해
$\mathbb{Z}$ (정수)가산 무한$0, 1, -1, 2, -2, \ldots$로 나열 가능
$\mathbb{Q}$ (유리수)가산 무한대각선 논법(칸토어의 지그재그)
$\mathbb{R}$ (실수)비가산칸토어의 대각선 논법
$\mathcal{P}(\mathbb{N})$비가산$|\mathcal{P}(\mathbb{N})| = |\mathbb{R}| = 2^{\aleph_0}$

칸토어의 대각선 논법

실수 집합 $\mathbb{R}$이 비가산임을 보이는 칸토어의 유명한 증명입니다. 이 증명은 수학 역사상 가장 아름답고 놀라운 논증 중 하나로 꼽힙니다.

정리 (칸토어, 1891): 구간 $(0, 1)$의 실수 전체는 가산 무한이 아닙니다.
직관적 이해: 자연수 $1, 2, 3, 4, \ldots$는 끝없이 이어지지만, 0과 1 사이의 실수(예: 0.5, 0.123456..., 0.999...)는 자연수보다 "훨씬 더 많습니다". 자연수에 번호를 매기듯이 실수에 번호를 매기는 것은 불가능합니다. 아래 증명은 "아무리 열심히 나열해도 반드시 빠뜨리는 실수가 생긴다"는 것을 보여줍니다.

증명 (귀류법): $(0, 1)$의 실수가 가산이라고 가정하면 다음과 같이 나열할 수 있습니다:

$$\begin{aligned} r_1 &= 0.d_{11} d_{12} d_{13} d_{14} \cdots \\ r_2 &= 0.d_{21} d_{22} d_{23} d_{24} \cdots \\ r_3 &= 0.d_{31} d_{32} d_{33} d_{34} \cdots \\ &\;\;\vdots \end{aligned}$$

새로운 실수 $r^* = 0.d_1^* d_2^* d_3^* \cdots$를 다음과 같이 구성합니다: $d_n^* \neq d_{nn}$ (예를 들어, $d_{nn} = 5$이면 $d_n^* = 6$, 그 외에는 $d_n^* = 5$).

그러면 $r^*$는 모든 $r_n$과 $n$번째 소수점 자릿수에서 다르므로, 나열에 포함되지 않습니다. 이는 모든 실수를 나열했다는 가정에 모순입니다. $\blacksquare$

왜 "대각선" 논법인가? 위에서 $d_{11}, d_{22}, d_{33}, \ldots$는 소수점 뒤 숫자 배열의 대각선 위에 있는 숫자들입니다. 이 대각선의 각 숫자를 하나씩 바꿔서 새로운 수를 만들기 때문에 "대각선 논법"이라고 부릅니다. 핵심은 이렇습니다: $r^*$는 $r_1$과 첫째 자리가 다르고, $r_2$와 둘째 자리가 다르고, $r_3$과 셋째 자리가 다르고, ... 따라서 목록의 어떤 수와도 같을 수 없습니다.

칸토어의 정리

임의의 집합 $A$에 대하여 $|A| < |\mathcal{P}(A)|$입니다. 즉, 어떤 집합이든 그 멱집합보다 작습니다.

이 정리는 무한의 "크기"가 하나가 아니라 무한히 많은 단계로 이루어져 있음을 보여줍니다:

$$|\mathbb{N}| < |\mathcal{P}(\mathbb{N})| < |\mathcal{P}(\mathcal{P}(\mathbb{N}))| < \cdots$$
알레프 수: 가산 무한의 기수를 $\aleph_0$ (알레프 영)이라 합니다. $|\mathbb{R}| = 2^{\aleph_0}$이며, 이것이 $\aleph_1$과 같은지의 문제가 유명한 연속체 가설(Continuum Hypothesis)입니다. 괴델(1940)과 코엔(1963)은 ZFC 공리계에서 연속체 가설이 증명도 반증도 할 수 없는 독립적인 명제임을 보였습니다.

공리적 집합론

심화 내용: 아래 내용은 대학교 수준의 심화 주제입니다. 고등학교 과정에서는 건너뛰어도 됩니다.

소박한 집합론에서는 "모든 성질 $P$에 대해 $\{x \mid P(x)\}$가 집합이다"라고 가정합니다. 그러나 이 가정은 모순을 초래합니다.

러셀의 역설 (Russell's Paradox)

$R = \{x \mid x \notin x\}$로 정의하면:

이 역설은 무제한적인 집합 구성이 불가능함을 보여주었고, 공리적 집합론의 필요성을 제기했습니다.

ZFC 공리계

체르멜로-프렝켈 공리계에 선택 공리를 추가한 ZFC(Zermelo–Fraenkel with Choice)는 현대 수학의 표준 기초입니다.

공리이름내용 (간략)
1외연 공리같은 원소를 가진 집합은 같다
2공집합 공리원소가 없는 집합이 존재한다
3쌍 공리두 집합으로 $\{a, b\}$를 만들 수 있다
4합집합 공리집합의 모임의 합집합이 존재한다
5멱집합 공리멱집합이 존재한다
6무한 공리무한집합이 존재한다
7분리 공리꼴성질을 만족하는 원소만 골라 부분집합을 만들 수 있다
8치환 공리꼴함수의 상(image)이 집합이다
9정칙성 공리비어있지 않은 집합은 자기 자신과 서로소인 원소를 포함한다
AC선택 공리비어있지 않은 집합들의 모임에서 각각 원소를 하나씩 선택할 수 있다
분리 공리와 러셀의 역설: ZFC에서는 "이미 존재하는 집합 $A$ 안에서" 조건을 만족하는 원소만 골라 $\{x \in A \mid P(x)\}$를 구성합니다. 무제한적인 $\{x \mid P(x)\}$는 허용되지 않으므로 러셀의 역설이 발생하지 않습니다.

선택 공리와 동치 명제들

선택 공리(Axiom of Choice, AC)는 직관적으로 자명해 보이지만, 놀라운 결과들과 동치입니다:

선택 공리에서 유도되는 반직관적인 결과로는 바나흐-타르스키 역설(구를 유한 조각으로 분해한 후 재조립하면 같은 크기의 구 두 개를 만들 수 있다)이 있습니다.

첨수 가족과 일반화된 연산

집합들의 모임을 첨수 집합(Index Set) $I$로 표현하면 다양한 연산을 일반화할 수 있습니다.

정의

첨수 집합 $I$에 대하여 첨수 가족(Indexed Family) $\{A_i\}_{i \in I}$는 각 $i \in I$에 집합 $A_i$를 대응시키는 함수입니다.

일반화된 합집합과 교집합

$$\bigcup_{i \in I} A_i = \{x \mid \exists i \in I, \; x \in A_i\}$$ $$\bigcap_{i \in I} A_i = \{x \mid \forall i \in I, \; x \in A_i\}$$

예시: $A_n = \left(-\frac{1}{n}, \frac{1}{n}\right)$, $n \in \mathbb{N}^+$이면:

$$\bigcup_{n=1}^{\infty} A_n = (-1, 1), \qquad \bigcap_{n=1}^{\infty} A_n = \{0\}$$

일반화된 카르테시안 곱

$$\prod_{i \in I} A_i = \left\{f: I \to \bigcup_{i \in I} A_i \;\middle|\; \forall i \in I, \; f(i) \in A_i\right\}$$

선택 공리는 정확히 "$\prod_{i \in I} A_i \neq \emptyset$이다 (모든 $A_i \neq \emptyset$일 때)"라는 주장과 동치입니다.

순서수와 기수 (개요)

집합론에서는 자연수를 순서수(Ordinal)로 구성합니다.

폰 노이만 순서수

각 자연수를 다음과 같이 정의합니다:

$$0 = \emptyset, \quad 1 = \{0\} = \{\emptyset\}, \quad 2 = \{0, 1\} = \{\emptyset, \{\emptyset\}\}, \quad 3 = \{0, 1, 2\}, \quad \ldots$$

일반적으로 $n = \{0, 1, 2, \ldots, n-1\}$이며, 후속자 연산은 $S(n) = n \cup \{n\}$입니다.

초한 순서수

모든 자연수 뒤의 첫 번째 극한 순서수가 $\omega$입니다:

$$\omega = \{0, 1, 2, 3, \ldots\} = \mathbb{N}$$

$\omega$ 이후에도 $\omega + 1, \omega + 2, \ldots, \omega \cdot 2, \ldots, \omega^2, \ldots, \omega^\omega, \ldots$와 같이 순서수가 계속됩니다.

기수 vs 순서수: 기수(Cardinal)는 집합의 "크기"를 측정하고, 순서수(Ordinal)는 정렬 순서의 "유형"을 측정합니다. 유한의 경우 둘은 일치하지만, 무한에서는 다릅니다. 예를 들어 $\omega$와 $\omega + 1$은 다른 순서수이지만 같은 기수($\aleph_0$)를 가집니다.

집합 항등식 증명 — 세 가지 방법 비교

집합 등식을 증명하는 데에는 크게 세 가지 방법이 사용됩니다. 같은 항등식 $A \cap (B \cup C) = (A \cap B) \cup (A \cap C)$를 세 가지 방법으로 모두 증명하여 비교하겠습니다.

방법 1: 원소 추적법 (Element-chasing)

임의의 원소 $x$를 잡고, 양변에 속하는 조건이 논리적으로 동치임을 보이는 방법입니다. 가장 보편적이며 엄밀한 증명법입니다.

임의의 $x$에 대하여:

$$\begin{aligned} x \in A \cap (B \cup C) &\iff x \in A \;\wedge\; (x \in B \;\vee\; x \in C) \\ &\iff (x \in A \;\wedge\; x \in B) \;\vee\; (x \in A \;\wedge\; x \in C) \quad\text{(논리곱의 분배법칙)}\\ &\iff x \in (A \cap B) \;\vee\; x \in (A \cap C) \\ &\iff x \in (A \cap B) \cup (A \cap C) \end{aligned}$$

모든 단계가 동치($\iff$)이므로 등식이 성립합니다. $\blacksquare$

원소 추적법의 핵심: 집합 연산을 논리 연산자($\wedge$, $\vee$, $\neg$)로 번역한 뒤, 명제 논리의 법칙(분배, 드모르간, 이중부정 등)을 적용합니다. 이 방법은 논리학의 도구를 직접 활용하는 것입니다.

방법 2: 벤 다이어그램에 의한 검증

세 집합 $A$, $B$, $C$로 만들어지는 8개 영역 각각에 대하여, 좌변과 우변에 포함되는지 여부를 확인합니다.

영역$A$$B$$C$$B \cup C$$A \cap (B \cup C)$$A \cap B$$A \cap C$$(A \cap B) \cup (A \cap C)$
10000000
01010000
00110000
11011101
10111011
01110000
11111111
00000000

⑤열과 ⑧열이 모든 행에서 일치하므로 $A \cap (B \cup C) = (A \cap B) \cup (A \cap C)$가 성립합니다. $\blacksquare$

멤버십 표의 장단점: 벤 다이어그램(멤버십 표)은 시각적이고 빠르지만, 집합이 3개를 초과하면 영역이 급증하여 실용성이 떨어집니다. 또한 엄밀한 증명으로 인정되지 않는 경우도 있으므로, 공식적인 증명에서는 원소 추적법이나 대수적 방법을 사용합니다.

방법 3: 대수적 방법 (집합 대수)

이미 증명된 집합 법칙(교환, 결합, 흡수 등)만을 사용하여 한쪽 변을 다른 쪽으로 변환합니다.

$$\begin{aligned} (A \cap B) \cup (A \cap C) &= A \cap (B \cup (A \cap C)) \quad\text{(흡수법칙의 쌍대: } A = A \cup (A \cap C)\text{를 이용하지 않고 분배)} \end{aligned}$$

사실 분배법칙 자체를 대수적으로 유도하려면 순환 논법이 됩니다. 따라서 대수적 방법은 이미 확립된 법칙들로부터 새로운 항등식을 유도할 때 위력을 발휘합니다. 예를 들어:

$$\begin{aligned} A \setminus (B \cap C) &= A \cap (B \cap C)^c \\ &= A \cap (B^c \cup C^c) \quad\text{(드모르간 법칙)} \\ &= (A \cap B^c) \cup (A \cap C^c) \quad\text{(분배법칙)} \\ &= (A \setminus B) \cup (A \setminus C) \end{aligned}$$

이처럼 대수적 방법은 기존 법칙의 조합으로 깔끔하게 새 결과를 얻을 수 있습니다. $\blacksquare$

원소 추적법 x ∈ LHS 논리 동치 변환 x ∈ RHS 벤 다이어그램 영역별 0/1 표 LHS 열 계산 RHS 열 계산 열 일치 확인 대수적 방법 LHS 출발 기존 법칙 적용 RHS 도출 가장 엄밀 직관적/비공식 가장 간결

함수의 단사·전사·전단사 판정

함수 $f: A \to B$가 단사/전사/전단사인지 판정하는 다양한 방법을 정리합니다.

단사(Injective) 판정법

방법 1: 정의 직접 사용

$f(a_1) = f(a_2)$를 가정하고 $a_1 = a_2$를 유도합니다.

예시: $f: \mathbb{R} \to \mathbb{R}$, $f(x) = 2x + 3$

$$f(a_1) = f(a_2) \implies 2a_1 + 3 = 2a_2 + 3 \implies a_1 = a_2 \quad\checkmark$$

방법 2: 대우 사용

$a_1 \neq a_2$이면 $f(a_1) \neq f(a_2)$임을 보입니다. 단조함수(순증가 또는 순감소)의 단사성을 보일 때 유용합니다.

예시: $f(x) = x^3$은 순증가이므로 $a_1 \neq a_2 \implies a_1^3 \neq a_2^3$ $\quad\checkmark$

방법 3: 좌역함수(Left Inverse) 존재

$g \circ f = \text{id}_A$인 $g: B \to A$가 존재하면 $f$는 단사입니다.

증명: $f(a_1) = f(a_2)$이면 $a_1 = g(f(a_1)) = g(f(a_2)) = a_2$ $\quad\blacksquare$

방법 4: 핵(Kernel) 확인 (선형사상의 경우)

선형사상 $T: V \to W$에서 $\ker T = \{\mathbf{0}\}$이면 $T$는 단사입니다. 이 방법은 선형대수학에서 중심적으로 사용됩니다.

전사(Surjective) 판정법

방법 1: 정의 직접 사용

임의의 $b \in B$에 대하여 $f(a) = b$인 $a \in A$를 구성합니다.

예시: $f: \mathbb{R} \to \mathbb{R}$, $f(x) = 2x + 3$. 임의의 $y \in \mathbb{R}$에 대해 $x = \frac{y-3}{2}$로 두면 $f(x) = y$ $\quad\checkmark$

방법 2: 치역과 공역 비교

$\text{Im}(f) = B$임을 직접 확인합니다. 치역을 구한 뒤 공역과 같은지 비교합니다.

방법 3: 우역함수(Right Inverse) 존재

$f \circ h = \text{id}_B$인 $h: B \to A$가 존재하면 $f$는 전사입니다. (이 방향은 선택 공리를 필요로 합니다.)

전단사(Bijective) 판정법

다음 조건들은 모두 동치입니다:

유한집합에서의 비둘기집 원리: $|A| = |B| = n$인 유한집합 사이의 함수 $f: A \to B$에서, 단사 $\iff$ 전사 $\iff$ 전단사가 성립합니다. 이는 비둘기집 원리(Pigeonhole Principle)의 직접적인 결과입니다. 그러나 무한집합에서는 이 동치가 성립하지 않습니다. 예: $f: \mathbb{N} \to \mathbb{N}$, $f(n) = 2n$은 단사이지만 전사가 아닙니다.

가산성 — 전단사 구성의 다양한 방법

무한집합이 자연수 집합과 같은 크기(가산)임을 보이려면 전단사 함수를 명시적으로 구성해야 합니다. 여기서는 $\mathbb{Z}$와 $\mathbb{Q}$에 대하여 여러 가지 전단사 구성법을 제시합니다.

$\mathbb{N}$과 $\mathbb{Z}$의 전단사

방법 1: 교대 나열

$0, 1, -1, 2, -2, 3, -3, \ldots$ 순서로 나열합니다. 명시적 함수:

$$f(n) = \begin{cases} n/2 & \text{$n$이 짝수일 때} \\ -(n+1)/2 & \text{$n$이 홀수일 때} \end{cases}$$

예: $f(0) = 0$, $f(1) = -1$, $f(2) = 1$, $f(3) = -2$, $f(4) = 2$, $\ldots$

방법 2: 절댓값 기준 정렬

$$g: \mathbb{Z} \to \mathbb{N}, \quad g(z) = \begin{cases} 2z & z > 0 \\ -2z + 1 & z \leq 0 \end{cases}$$

예: $g(0) = 1$, $g(1) = 2$, $g(-1) = 3$, $g(2) = 4$, $g(-2) = 5$, $\ldots$

$\mathbb{N}$과 $\mathbb{Q}^+$의 전단사

방법 1: 칸토어의 지그재그(대각선 열거)

양의 유리수를 $p/q$ 격자 위에 배열한 뒤, 대각선 방향으로 지그재그 순회하면서 기약분수만 선택합니다:

$$\frac{1}{1}, \frac{2}{1}, \frac{1}{2}, \frac{1}{3}, \frac{3}{1}, \frac{4}{1}, \frac{3}{2}, \frac{2}{3}, \frac{1}{4}, \ldots$$ p\q 1 2 3 4 1 2 3 4 1/1 2/1 1/2 1/3 2/2 3/1 4/1 3/2 2/3 1/4 회색 점 = 약분 가능(건너뜀)

방법 2: 스턴-브로코 트리(Stern–Brocot Tree)

스턴-브로코 트리는 모든 양의 유리수를 정확히 한 번씩 기약분수 형태로 포함하는 이진 트리입니다. 루트를 $1/1$로 놓고, 메디안트(mediant) $\frac{a+c}{b+d}$를 이용하여 트리를 구축합니다. 너비 우선 탐색(BFS)으로 방문하면 자연수와의 전단사를 얻습니다.

방법 3: 쌍함수(Pairing Function)

칸토어 쌍함수 $\pi: \mathbb{N} \times \mathbb{N} \to \mathbb{N}$을 사용합니다:

$$\pi(m, n) = \frac{(m + n)(m + n + 1)}{2} + m$$

이 함수는 $\mathbb{N}^2 \to \mathbb{N}$의 전단사이며, $\mathbb{Q}^+ \hookrightarrow \mathbb{N}^2$ ($p/q \mapsto (p, q)$)이므로 가산성이 따릅니다.

가산집합의 성질: (1) 가산집합의 부분집합은 가산입니다. (2) 가산집합의 가산 합집합은 가산입니다. (3) 유한 개의 가산집합의 카르테시안 곱은 가산입니다. 이 성질들로부터 대수적 수의 집합 $\overline{\mathbb{Q}}$도 가산임을 보일 수 있습니다.

비가산성 — 칸토어의 두 가지 증명

실수 집합의 비가산성을 칸토어는 두 가지 서로 다른 방법으로 증명하였습니다.

증명 1: 대각선 논법 (1891)

이 증명은 위에서 이미 소개하였습니다. 핵심은 "나열된 모든 실수의 $n$번째 자릿수와 다른 수를 구성"하는 것입니다.

증명 2: 구간 축소법 (1874, 칸토어의 최초 증명)

$[0,1]$의 실수를 $r_1, r_2, r_3, \ldots$로 나열했다고 가정합니다.

  1. $r_1$을 포함하지 않는 닫힌 구간 $[a_1, b_1] \subseteq [0, 1]$을 잡습니다.
  2. $r_2$를 포함하지 않는 $[a_2, b_2] \subseteq [a_1, b_1]$을 잡습니다.
  3. 이 과정을 반복하여 축소하는 닫힌 구간의 수열 $[a_1, b_1] \supseteq [a_2, b_2] \supseteq \cdots$를 얻습니다.
  4. 칸토어의 구간 축소 정리(실수의 완비성)에 의해 $\bigcap_{n=1}^{\infty} [a_n, b_n] \neq \emptyset$이므로, 교집합에 속하는 실수 $r^*$는 모든 $r_n$과 다릅니다.

이는 모순이므로 $[0,1]$은 가산이 아닙니다. $\blacksquare$

두 증명의 차이: 구간 축소법은 실수의 완비성(순서 완비 또는 위상적 완비)을 필수적으로 사용하지만, 대각선 논법은 소수점 전개의 구조만을 사용합니다. 대각선 논법은 더 일반적이어서 $2^{\mathbb{N}}$, $\{0,1\}^{\mathbb{N}}$ 등에도 적용됩니다.

칸토어 정리의 증명

정리: 임의의 집합 $A$에 대해 $A$에서 $\mathcal{P}(A)$로의 전사 함수는 존재하지 않습니다. 따라서 $|A| < |\mathcal{P}(A)|$입니다.

증명: $f: A \to \mathcal{P}(A)$가 전사라고 가정합니다. 다음 집합을 정의합니다:

$$D = \{a \in A \mid a \notin f(a)\}$$

$D \subseteq A$이므로 $D \in \mathcal{P}(A)$입니다. $f$가 전사이므로 $f(d) = D$인 $d \in A$가 존재합니다. 그런데:

어느 경우든 모순이므로 전사 함수 $f$는 존재하지 않습니다. $\blacksquare$

대각선 논법과의 관계: 칸토어 정리의 증명에서 $D$를 구성하는 것은 대각선 논법과 동일한 아이디어입니다. $f(a)$를 $a$를 포함하는지 여부의 "표"로 보면, $D$는 그 표의 "대각선"을 뒤집은 것입니다.

기수 산술과 연속체 가설

기수(Cardinal Number)는 집합의 크기를 나타내는 수입니다. 유한 기수는 자연수와 같지만, 초한 기수는 고유한 산술 규칙을 따릅니다.

기수의 비교

$|A| \leq |B|$는 단사 함수 $f: A \hookrightarrow B$가 존재할 때 정의됩니다.

칸토어-베른슈타인-슈뢰더 정리: $|A| \leq |B|$이고 $|B| \leq |A|$이면 $|A| = |B|$입니다. 즉, 양방향 단사 함수가 존재하면 전단사 함수가 존재합니다. 이 정리의 증명은 선택 공리를 필요로 하지 않습니다.

초한 기수의 산술

$\kappa$, $\lambda$가 무한 기수이고 $\kappa \geq \lambda \geq \aleph_0$이면:

연산결과예시
$\kappa + \lambda$$\max(\kappa, \lambda) = \kappa$$\aleph_0 + \aleph_0 = \aleph_0$
$\kappa \cdot \lambda$$\max(\kappa, \lambda) = \kappa$$\aleph_0 \cdot \aleph_0 = \aleph_0$
$\kappa^\lambda$ (거듭제곱)일반적으로 $> \kappa$$2^{\aleph_0} = |\mathbb{R}| = \mathfrak{c}$

초한 기수의 덧셈과 곱셈은 "큰 쪽이 이기는" 규칙을 따르지만, 거듭제곱은 기수를 진정으로 키웁니다.

연속체 가설 (CH)

연속체 가설: $\aleph_0$과 $2^{\aleph_0}$ 사이에 다른 기수는 존재하지 않는다. 즉, $2^{\aleph_0} = \aleph_1$이다.

일반화된 연속체 가설 (GCH): 모든 순서수 $\alpha$에 대하여 $2^{\aleph_\alpha} = \aleph_{\alpha + 1}$이다.

괴델(1940)은 ZFC가 무모순이면 ZFC + CH도 무모순임을 구성적 전체(constructible universe) $L$을 사용하여 보였습니다. 코엔(1963)은 강제법(forcing)을 발명하여 ZFC + $\neg$CH도 무모순임을 보였습니다. 따라서 연속체 가설은 ZFC에서 독립입니다.

알려진 기수 크기: $$\aleph_0 = |\mathbb{N}| = |\mathbb{Z}| = |\mathbb{Q}|, \quad \mathfrak{c} = 2^{\aleph_0} = |\mathbb{R}| = |\mathcal{P}(\mathbb{N})| = |(0,1)| = |\mathbb{R}^n|$$

순서수 — 초한 귀납법과 초한 재귀

정렬순서 (Well-Ordering)

전순서집합 $(W, \leq)$에서 모든 비어있지 않은 부분집합이 최소원소를 가지면 정렬순서(Well-Ordering)라 합니다.

초한 귀납법 (Transfinite Induction)

정렬순서집합 $(W, \leq)$ 위에서 성질 $P$를 증명하려면:

  1. 기저 단계: $P(\min W)$를 증명
  2. 후속자 단계: $P(\alpha) \implies P(\alpha + 1)$을 증명
  3. 극한 단계: 극한 순서수 $\lambda$에 대해, 모든 $\beta < \lambda$에서 $P(\beta)$이면 $P(\lambda)$를 증명

이 세 단계가 모두 성립하면, 모든 $\alpha \in W$에 대해 $P(\alpha)$가 성립합니다.

자연수 귀납법과의 관계: 수학적 귀납법은 초한 귀납법의 특수한 경우입니다. 자연수에서는 극한 순서수가 나타나지 않으므로 극한 단계가 불필요합니다.

초한 재귀 (Transfinite Recursion)

초한 재귀 정리는 순서수에 대한 함수를 재귀적으로 정의할 수 있음을 보장합니다:

$$F(\alpha) = G(\alpha, \, F \restriction \alpha)$$

여기서 $F \restriction \alpha$는 $\alpha$보다 작은 모든 순서수에서의 $F$의 값입니다. 이 정리의 응용 예:

순서수 산술의 비교환성

순서수의 덧셈과 곱셈은 교환법칙이 성립하지 않습니다:

$$1 + \omega = \omega \neq \omega + 1, \qquad 2 \cdot \omega = \omega \neq \omega \cdot 2$$

$1 + \omega = \omega$인 이유: $\{*\} \cup \{0, 1, 2, \ldots\}$는 $*$을 가장 앞에 놓으면 $\omega$와 같은 순서형을 가집니다. 반면 $\omega + 1 = \{0, 1, 2, \ldots, *\}$는 자연수 뒤에 원소 하나가 더 있으므로 $\omega$와 다른 순서형입니다.

선택 공리와 동치 명제들

선택 공리(AC)는 현대 수학에서 가장 논쟁적이면서도 불가결한 공리입니다. 직관적으로는 당연해 보이지만, 놀라운 결과들을 함축합니다.

선택 공리 (AC): $\{A_i\}_{i \in I}$가 비어있지 않은 집합들의 모임이면, 각 $A_i$에서 원소를 하나씩 선택하는 함수 $f: I \to \bigcup A_i$가 존재한다. 즉, $\forall i \in I$, $f(i) \in A_i$.

동치 명제들의 상세

1. 초른의 보조정리 (Zorn's Lemma)

반순서집합 $(P, \leq)$에서 모든 사슬(전순서 부분집합)이 상계를 가지면, $P$는 극대원소를 가진다.

응용:

2. 정렬 원리 (Well-Ordering Theorem)

모든 집합은 정렬순서를 부여할 수 있다.

이 정리는 체르멜로가 1904년에 증명하였으며, 선택 공리를 최초로 명시적으로 사용한 결과입니다. 직관적으로는 $\mathbb{R}$에 정렬순서를 부여할 수 있다는 뜻이지만, 그 정렬순서를 명시적으로 구성하는 것은 불가능합니다.

3. 티호노프 정리 (Tychonoff's Theorem)

콤팩트 위상공간의 임의의(무한 포함) 곱공간은 곱위상에서 콤팩트이다.

유한 개의 곱에 대해서는 선택 공리 없이도 증명 가능하지만, 무한 곱에 대해서는 AC가 필수적입니다. 실제로 켈리(Kelley, 1950)는 티호노프 정리가 AC와 동치임을 보였습니다.

AC의 반직관적 귀결:
  • 바나흐-타르스키 역설: 3차원 공간의 구를 유한 개 조각으로 분해한 뒤, 강체 운동(회전과 평행이동)만으로 재조립하면 원래와 같은 크기의 구 두 개를 만들 수 있습니다.
  • 비가측 집합의 존재: 르베그 측도를 부여할 수 없는 $\mathbb{R}$의 부분집합(비탈리 집합)이 존재합니다.
선택 공리 (AC) 초른의 보조정리 정렬 원리 티호노프 정리 곱집합 비공 정리

동치관계와 분할의 대응

관계 절에서 동치관계와 분할의 대응을 간략히 언급하였습니다. 여기서는 이 대응을 엄밀하게 증명합니다.

정의 복습

동치관계: 반사적, 대칭적, 추이적인 관계 $\sim$ (집합 $A$ 위)

분할: $A$의 부분집합들의 모임 $\{B_i\}_{i \in I}$로서 (1) 각 $B_i \neq \emptyset$, (2) $i \neq j$이면 $B_i \cap B_j = \emptyset$, (3) $\bigcup_{i \in I} B_i = A$

정리: 동치관계 → 분할

$\sim$이 $A$ 위의 동치관계이면, 동치류들의 모임 $A/{\sim} = \{[a] \mid a \in A\}$는 $A$의 분할입니다.

증명:

  1. 비어있지 않음: 반사성에 의해 $a \in [a]$이므로 $[a] \neq \emptyset$.
  2. 서로소: $[a] \cap [b] \neq \emptyset$이면 어떤 $c \in [a] \cap [b]$가 존재합니다. 그러면 $c \sim a$이고 $c \sim b$입니다. 대칭성과 추이성에 의해 $a \sim b$이므로 $[a] = [b]$입니다. 대우를 취하면 $[a] \neq [b]$이면 $[a] \cap [b] = \emptyset$.
  3. 합집합이 $A$: 반사성에 의해 모든 $a \in A$는 $a \in [a]$이므로 $A \subseteq \bigcup [a]$. 역 포함은 자명합니다.

$\blacksquare$

정리: 분할 → 동치관계

$\{B_i\}_{i \in I}$가 $A$의 분할이면, $a \sim b \iff$ 어떤 $i$에 대해 $a, b \in B_i$로 정의한 $\sim$은 동치관계입니다.

증명:

  1. 반사성: $a \in A$이면 분할의 조건 (3)에 의해 어떤 $B_i$에 $a \in B_i$이므로 $a \sim a$.
  2. 대칭성: $a \sim b$이면 $a, b \in B_i$이므로 $b, a \in B_i$, 즉 $b \sim a$.
  3. 추이성: $a \sim b$이고 $b \sim c$이면 $a, b \in B_i$이고 $b, c \in B_j$입니다. $b \in B_i \cap B_j$이므로 조건 (2)에 의해 $B_i = B_j$. 따라서 $a, c \in B_i$이므로 $a \sim c$.

$\blacksquare$

예시: 모듈러 산술

$\mathbb{Z}$ 위에서 $a \equiv b \pmod{3}$으로 정의한 동치관계의 동치류:

$$[0] = \{\ldots, -6, -3, 0, 3, 6, \ldots\}, \quad [1] = \{\ldots, -5, -2, 1, 4, 7, \ldots\}, \quad [2] = \{\ldots, -4, -1, 2, 5, 8, \ldots\}$$

이 세 동치류는 $\mathbb{Z}$의 분할을 형성하며, 몫집합 $\mathbb{Z}/3\mathbb{Z} = \{[0], [1], [2]\}$는 3개의 원소를 가집니다.

순서관계의 분류

순서관계는 수학 전반에 걸쳐 핵심적인 역할을 합니다. 여기서는 부분순서, 전순서, 정렬순서를 체계적으로 비교합니다.

부분순서 (Partial Order)

반사적, 반대칭적, 추이적인 관계. 모든 원소 쌍이 비교 가능할 필요는 없습니다.

대표적 예:

전순서 (Total Order, Linear Order)

부분순서이면서 비교가능성을 추가로 만족합니다: 모든 $a, b$에 대해 $a \leq b$ 또는 $b \leq a$.

대표적 예: $(\mathbb{R}, \leq)$, $(\mathbb{Z}, \leq)$, 사전식 순서

정렬순서 (Well-Order)

전순서이면서 모든 비어있지 않은 부분집합이 최소원소를 가지는 순서.

순서 유형반사반대칭추이비교가능최소원소
부분순서$(\mathcal{P}(S), \subseteq)$
전순서$(\mathbb{Q}, \leq)$
정렬순서$(\mathbb{N}, \leq)$

부분순서집합의 중요 개념

부분순서집합 $(P, \leq)$에서:

극대 ≠ 최대: $(\{\{1\}, \{2\}, \{1,2\}, \{2,3\}\}, \subseteq)$에서 $\{1,2\}$와 $\{2,3\}$은 둘 다 극대원소이지만 (더 큰 집합이 없으므로), 최대원소는 존재하지 않습니다 ($\{1,2\} \not\subseteq \{2,3\}$이고 $\{2,3\} \not\subseteq \{1,2\}$).
하세 다이어그램: P({1,2,3}) {1} {2} {3} {1,2} {1,3} {2,3} {1,2,3}

집합론의 역설과 해결

소박한 집합론(Naive Set Theory)의 무제한적 집합 구성 원리는 여러 역설을 초래하였으며, 이는 공리적 집합론의 발전을 촉진하였습니다.

러셀의 역설 (1901)

"자기 자신을 포함하지 않는 모든 집합의 집합"은 모순을 초래합니다. $R = \{x \mid x \notin x\}$로 정의하면, $R \in R$과 $R \notin R$ 중 어느 쪽도 모순 없이 성립할 수 없습니다.

이발사의 역설: 러셀의 역설을 일상 언어로 표현하면 다음과 같습니다. "자기 자신의 수염을 깎지 않는 사람의 수염만 깎아주는 이발사"가 있다고 합시다. 이 이발사는 자기 수염을 깎을까요? 자기 수염을 깎으면 "자기 자신의 수염을 깎지 않는 사람"이 아니므로 깎으면 안 됩니다. 깎지 않으면 "자기 자신의 수염을 깎지 않는 사람"이므로 깎아야 합니다.

칸토어의 역설 (1899)

"모든 집합의 집합" $V$가 존재한다고 가정하면, 칸토어 정리에 의해 $|V| < |\mathcal{P}(V)|$이어야 합니다. 그런데 $\mathcal{P}(V) \subseteq V$이므로(모든 집합의 집합이니까) $|\mathcal{P}(V)| \leq |V|$, 모순입니다.

부랄리-포르티의 역설 (1897)

"모든 순서수의 집합" $\Omega$가 존재한다고 가정하면, $\Omega$ 자체가 정렬집합이므로 순서수입니다. 그러면 $\Omega \in \Omega$이 되는데, 순서수의 정의에 의해 $\Omega < \Omega$이 되어 모순입니다.

역설의 해결: 공리적 집합론

이 역설들은 공통적으로 "너무 큰 모임"을 집합으로 취급한 데서 비롯됩니다. 해결책들:

해결 방법핵심 아이디어체계
유형 이론집합에 "계층(type)"을 부여하여 자기 참조를 금지러셀-화이트헤드의 Principia Mathematica
분리 공리"이미 존재하는 집합" 안에서만 분리 허용ZFC
고유 모임(Proper Class)"너무 큰 모임"은 집합이 아닌 "모임(class)"으로 구분NBG, MK
ZFC에서의 해결: ZFC의 분리 공리꼴(Axiom Schema of Separation)은 $\{x \in A \mid P(x)\}$ 형태만 허용합니다. 즉, 이미 존재하는 집합 $A$의 원소 중에서 조건을 만족하는 것만 골라내는 것이지, 무제한적으로 $\{x \mid P(x)\}$를 구성하는 것이 아닙니다. 이 제한으로 러셀 역설의 $R$은 구성할 수 없게 됩니다. "$R = \{x \in A \mid x \notin x\}$"로 정의하면 $R$은 합법적인 집합이지만, $R \notin A$일 수 있으므로 모순이 발생하지 않습니다.

참고자료