해석적 정수론 (Analytic Number Theory)

해석적 정수론(Analytic Number Theory)은 미적분학, 복소해석학 등 해석학(Analysis)의 도구를 사용하여 정수의 성질, 특히 소수(prime number)의 분포를 연구하는 수학 분야입니다. 18세기 오일러(Euler)가 제타함수를 도입한 이래, 리만(Riemann), 디리클레(Dirichlet), 아다마르(Hadamard) 등의 수학자들이 이 분야를 발전시켜 왔습니다.

왜 "해석적" 정수론입니까? 정수론은 원래 정수만 다루는 분야입니다. 그런데 소수가 어떤 패턴으로 나타나는지 알아내려면, 정수만 가지고는 한계가 있습니다. 연속적인 함수, 급수, 적분 같은 해석학(Analysis)의 도구를 빌려와서 정수 문제를 풀기 때문에 "해석적 정수론"이라고 부릅니다.

비유하자면, 구슬(정수)이 바닥에 흩어져 있을 때 하나하나 세는 대신, 물(연속 함수)을 부어서 물 높이의 변화로 구슬의 분포를 파악하는 것과 같습니다.

이런 곳에 쓰여요

  • 암호학: RSA 암호의 안전성은 큰 소수를 찾기 어렵다는 사실에 기반하며, 소수의 분포 이론이 핵심입니다
  • 난수 생성: 소수의 분포 성질을 이용한 의사난수 생성기(pseudorandom number generator) 설계
  • 신호 처리: 제타함수와 L-함수의 영점 분포가 양자 역학의 에너지 준위 분포와 관련됩니다
  • 물리학: 리만 제타함수의 영점은 무작위 행렬(random matrix) 이론과 깊은 연결이 있습니다

선수 지식: 정수론, 미적분학, 해석학

난이도: ★★★★☆ (대학교 전공 수준)

1. 산술함수 (Arithmetic Functions)

산술함수(Arithmetic Function)란 양의 정수 $n$을 입력으로 받아 복소수 값을 출력하는 함수 $f : \mathbb{N} \to \mathbb{C}$를 말합니다. 해석적 정수론에서는 이러한 산술함수들을 급수로 표현하여 분석합니다.

오일러 파이 함수

오일러 파이 함수(Euler's totient function) $\varphi(n)$은 $1$부터 $n$까지의 정수 중 $n$과 서로소(coprime)인 것의 개수입니다.

$$\varphi(n) = n \prod_{p \mid n}\left(1 - \frac{1}{p}\right)$$
예시: $\varphi(12) = 12 \cdot \left(1 - \frac{1}{2}\right)\left(1 - \frac{1}{3}\right) = 12 \cdot \frac{1}{2} \cdot \frac{2}{3} = 4$. 실제로 $1, 5, 7, 11$이 $12$와 서로소이므로 4개입니다.

오일러 파이 함수의 주요 성질은 다음과 같습니다.

뫼비우스 함수

뫼비우스 함수(Möbius function) $\mu(n)$은 정수론에서 포함-배제 원리를 공식화하는 핵심 함수입니다.

$$\mu(n) = \begin{cases} 1 & n = 1 \\ (-1)^k & n = p_1 p_2 \cdots p_k \text{ (서로 다른 소수의 곱)} \\ 0 & n\text{이 소수의 제곱을 인수로 가질 때} \end{cases}$$

뫼비우스 반전 공식(Möbius inversion formula)은 산술함수 사이의 관계를 뒤집는 강력한 도구입니다. $g(n) = \sum_{d \mid n} f(d)$이면 다음이 성립합니다.

$$f(n) = \sum_{d \mid n} \mu(d) \, g\!\left(\frac{n}{d}\right)$$

약수 함수

약수 함수(divisor function) $\sigma_k(n)$은 $n$의 약수들의 $k$제곱의 합입니다.

$$\sigma_k(n) = \sum_{d \mid n} d^k$$
예시: $n = 12$의 약수는 $1, 2, 3, 4, 6, 12$이므로, $\tau(12) = 6$이고 $\sigma(12) = 1 + 2 + 3 + 4 + 6 + 12 = 28$입니다.

디리클레 합성곱

두 산술함수 $f$와 $g$의 디리클레 합성곱(Dirichlet convolution)은 다음과 같이 정의됩니다.

$$(f * g)(n) = \sum_{d \mid n} f(d) \, g\!\left(\frac{n}{d}\right)$$

이 연산은 교환법칙과 결합법칙을 만족하며, 항등원은 $\varepsilon(n) = [n = 1]$입니다. 뫼비우스 반전 공식은 $\mu * \mathbf{1} = \varepsilon$로 간결하게 표현됩니다.

2. 디리클레 급수 (Dirichlet Series)

디리클레 급수(Dirichlet series)는 산술함수 $f(n)$에 대응하는 급수로, 다음과 같이 정의됩니다.

$$F(s) = \sum_{n=1}^{\infty} \frac{f(n)}{n^s}$$

여기서 $s$는 복소수(complex number)입니다. 이 급수는 해석적 정수론의 가장 핵심적인 도구입니다.

왜 디리클레 급수를 사용합니까? 디리클레 급수의 핵심 장점은 곱셈 구조를 보존한다는 것입니다. 두 산술함수의 디리클레 합성곱 $f * g$에 대응하는 디리클레 급수는 각각의 급수의 곱 $F(s) \cdot G(s)$가 됩니다. 이를 통해 곱셈적 관계를 가진 정수론 문제를 해석학으로 번역할 수 있습니다.

디리클레 급수의 중요한 성질은 다음과 같습니다.

오일러 곱 (Euler Product)

$f$가 곱셈적 함수(multiplicative function)이면, 디리클레 급수는 소수들에 대한 무한곱으로 표현됩니다.

$$\sum_{n=1}^{\infty} \frac{f(n)}{n^s} = \prod_{p\text{ prime}} \left(\sum_{k=0}^{\infty} \frac{f(p^k)}{p^{ks}}\right)$$

이것이 바로 오일러 곱(Euler product)이며, 소수의 정보를 급수에 직접 연결하는 핵심 공식입니다.

3. 리만 제타함수 (Riemann Zeta Function)

리만 제타함수(Riemann zeta function)는 해석적 정수론에서 가장 중요한 함수입니다. $f(n) = 1$인 디리클레 급수로 정의됩니다.

$$\zeta(s) = \sum_{n=1}^{\infty} \frac{1}{n^s}, \quad \text{Re}(s) > 1$$

오일러 곱 표현

오일러는 제타함수가 소수에 대한 무한곱으로 표현됨을 발견했습니다.

$$\zeta(s) = \prod_{p\text{ prime}} \frac{1}{1 - p^{-s}}, \quad \text{Re}(s) > 1$$
오일러 곱의 의미: 이 공식은 제타함수와 소수의 직접적인 연결 고리입니다. $\zeta(s) \ne 0$ ($\text{Re}(s) > 1$)이라는 사실도 이 곱 표현에서 바로 따라옵니다. 각 인수 $\frac{1}{1 - p^{-s}}$가 $0$이 아니기 때문입니다.

특수값

제타함수는 여러 아름다운 특수값을 가집니다.

해석적 연속 (Analytic Continuation)

급수 $\sum n^{-s}$는 $\text{Re}(s) > 1$에서만 수렴하지만, 해석적 연속(analytic continuation)을 통해 $s = 1$을 제외한 전체 복소평면으로 확장할 수 있습니다. $s = 1$에서는 단순극(simple pole)을 가지며, 유수(residue)는 $1$입니다.

대표적인 해석적 연속 방법으로 다음의 적분 표현이 있습니다.

$$\zeta(s) = \frac{1}{\Gamma(s)} \int_0^{\infty} \frac{x^{s-1}}{e^x - 1}\,dx, \quad \text{Re}(s) > 1$$

함수방정식 (Functional Equation)

리만 제타함수는 다음의 함수방정식(functional equation)을 만족합니다.

$$\xi(s) = \xi(1-s)$$

여기서 완비화된 제타함수(completed zeta function) $\xi(s)$는 다음과 같습니다.

$$\xi(s) = \frac{1}{2}s(s-1)\pi^{-s/2}\,\Gamma\!\left(\frac{s}{2}\right)\zeta(s)$$

이를 풀어 쓰면 다음과 같습니다.

$$\zeta(s) = 2^s \pi^{s-1} \sin\!\left(\frac{\pi s}{2}\right) \Gamma(1-s)\,\zeta(1-s)$$

이 함수방정식은 $\text{Re}(s) > 1$에서의 정보를 $\text{Re}(s) < 0$으로 "반사"시키는 대칭성을 나타냅니다.

4. 제타함수의 영점

$\zeta(s) = 0$이 되는 $s$의 값을 제타함수의 영점(zero)이라고 합니다. 영점은 두 종류로 나뉩니다.

자명한 영점 (Trivial Zeros)

함수방정식에서 $\sin(\pi s / 2)$ 항 때문에, $s = -2, -4, -6, \ldots$ 즉 음의 짝수 정수에서 $\zeta(s) = 0$이 됩니다. 이들을 자명한 영점(trivial zeros)이라 합니다.

비자명 영점 (Non-trivial Zeros)

자명한 영점 외의 모든 영점은 임계 대(critical strip) $0 \le \text{Re}(s) \le 1$ 안에 존재합니다. 이들을 비자명 영점(non-trivial zeros)이라 합니다.

오일러 곱으로부터 $\text{Re}(s) > 1$에서 $\zeta(s) \ne 0$이고, 함수방정식에 의해 $\text{Re}(s) < 0$에서는 자명한 영점만 존재하므로, 비자명 영점은 반드시 $0 \le \text{Re}(s) \le 1$에 있어야 합니다.

임계선 (Critical Line)

임계 대의 정가운데를 지나는 직선 $\text{Re}(s) = \frac{1}{2}$를 임계선(critical line)이라 합니다. 함수방정식의 대칭성으로 인해, 비자명 영점은 이 임계선에 대해 대칭적으로 분포합니다.

× 임계선 Re(s) = 1/2 Re=0 Re=1 Re Im 극 (s=1) 자명한 영점 비자명 영점 임계 대
영점이 왜 중요합니까? 제타함수의 비자명 영점의 위치가 소수의 분포를 결정합니다. 소수 계수 함수 $\pi(x)$의 "오차항"은 비자명 영점의 위치에 의해 결정되기 때문입니다. 영점이 임계선 가까이 모여 있을수록 소수의 분포가 더 규칙적임을 의미합니다.

5. 소수 정리 (Prime Number Theorem)

소수 정리(Prime Number Theorem, PNT)는 소수의 분포에 관한 가장 기본적이고 중요한 정리입니다.

진술

$\pi(x)$를 $x$ 이하의 소수의 개수라 하면, $x$가 충분히 클 때 다음이 성립합니다.

$$\pi(x) \sim \frac{x}{\ln x}$$

더 정밀하게는 다음과 같이 표현합니다.

$$\lim_{x \to \infty} \frac{\pi(x)}{x / \ln x} = 1$$
쉽게 말하면: $x$ 근처의 정수가 소수일 확률은 대략 $\frac{1}{\ln x}$입니다. 예를 들어, $10{,}000$ 근처에서는 약 $\frac{1}{\ln 10000} \approx \frac{1}{9.2}$, 즉 약 9개 중 1개 정도가 소수입니다.

증명의 핵심 아이디어

소수 정리는 1896년 아다마르(Hadamard)와 드 라 발레-푸생(de la Vallée-Poussin)이 독립적으로 증명했습니다. 증명의 핵심은 다음과 같습니다.

  1. 체비셰프 함수 $\psi(x) = \sum_{p^k \le x} \ln p$를 도입합니다. $\pi(x) \sim x/\ln x$는 $\psi(x) \sim x$와 동치입니다.
  2. $-\frac{\zeta'(s)}{\zeta(s)} = \sum_{n=1}^{\infty} \frac{\Lambda(n)}{n^s}$임을 이용하여 $\psi(x)$를 제타함수와 연결합니다.
  3. 페론 공식(Perron's formula)을 통해 $\psi(x)$를 복소 적분으로 표현합니다.
  4. $\zeta(1 + it) \ne 0$ ($t \ne 0$)임을 보입니다. 즉, $\text{Re}(s) = 1$ 위에 비자명 영점이 없음을 증명합니다.
  5. 유수 정리(residue theorem)를 적용하여 $\psi(x) \sim x$를 이끌어냅니다.
핵심 포인트: 소수 정리의 증명에서 가장 어려운 부분은 "$\zeta(1 + it) \ne 0$"을 보이는 것입니다. 제타함수의 영점이 $\text{Re}(s) = 1$ 직선 위에는 없다는 이 사실이 소수 정리 전체를 지탱합니다.

6. 소수 계수 함수

$\pi(x)$: 소수 계수 함수

소수 계수 함수(prime-counting function) $\pi(x)$는 $x$ 이하의 소수의 개수입니다.

$$\pi(x) = \#\{p \le x : p \text{는 소수}\}$$
$x$$\pi(x)$$x/\ln x$$\text{Li}(x)$
$10$$4$$4.34$$6.17$
$100$$25$$21.7$$30.1$
$1{,}000$$168$$144.8$$177.6$
$10{,}000$$1{,}229$$1{,}086$$1{,}246$
$1{,}000{,}000$$78{,}498$$72{,}382$$78{,}628$

$\text{Li}(x)$: 로그 적분 함수

로그 적분 함수(logarithmic integral) $\text{Li}(x)$는 $\pi(x)$의 더 정밀한 근사입니다.

$$\text{Li}(x) = \int_2^x \frac{dt}{\ln t}$$

위 표에서 확인할 수 있듯이, $\text{Li}(x)$는 $x/\ln x$보다 $\pi(x)$에 훨씬 가깝습니다. 소수 정리를 더 정밀하게 표현하면 $\pi(x) \sim \text{Li}(x)$입니다.

체비셰프 함수 (Chebyshev Functions)

체비셰프 함수(Chebyshev functions)는 소수 계수를 "가중치를 둔" 형태로 표현합니다.

$$\vartheta(x) = \sum_{p \le x} \ln p, \qquad \psi(x) = \sum_{p^k \le x} \ln p = \sum_{n \le x} \Lambda(n)$$

여기서 $\Lambda(n)$은 폰 망골트 함수(von Mangoldt function)입니다.

$$\Lambda(n) = \begin{cases} \ln p & n = p^k \text{ (소수 거듭제곱)} \\ 0 & \text{그 외} \end{cases}$$

소수 정리는 $\psi(x) \sim x$ 또는 $\vartheta(x) \sim x$와 동치입니다.

x 개수 0 25 50 75 100 100 300 500 π(x) Li(x) x/ln x

7. 디리클레 정리 — 등차수열에서의 소수

디리클레의 등차수열 정리(Dirichlet's theorem on primes in arithmetic progressions)는 1837년 디리클레가 증명한 정리로, 해석적 정수론의 시작을 알린 기념비적 결과입니다.

정리 (디리클레): $a$와 $q$가 서로소인 양의 정수($\gcd(a, q) = 1$)이면, 등차수열 $a, a+q, a+2q, a+3q, \ldots$ 안에 소수가 무한히 많이 존재합니다.
예시: $q = 4$, $a = 3$인 경우, 수열 $3, 7, 11, 19, 23, 31, 43, \ldots$에는 소수가 무한히 많습니다. "$4k + 1$ 꼴의 소수도 무한히 많고, $4k + 3$ 꼴의 소수도 무한히 많습니다."

더 나아가, 디리클레는 이 소수들이 "균등하게" 분포함을 보였습니다. $\pi(x; q, a)$를 $x$ 이하이고 $a \pmod{q}$인 소수의 개수라 하면 다음이 성립합니다.

$$\pi(x; q, a) \sim \frac{1}{\varphi(q)} \cdot \frac{x}{\ln x}$$

즉, $\gcd(a, q) = 1$인 각 잔류류(residue class)에 소수가 $\frac{1}{\varphi(q)}$의 비율로 균등하게 분포합니다.

증명의 핵심 도구

디리클레 정리의 증명에는 디리클레 지표(Dirichlet character)L-함수가 사용됩니다. 이것이 다음 절의 주제입니다.

8. 디리클레 L-함수

디리클레 지표 (Dirichlet Character)

디리클레 지표(Dirichlet character) $\chi$는 법(modulus) $q$에 대한 곱셈적 함수로, 다음 성질을 만족합니다.

법 $q$에 대한 디리클레 지표는 정확히 $\varphi(q)$개 존재합니다. 그중 $\chi_0(n) = [(\gcd(n,q) = 1)]$은 주지표(principal character)라 합니다.

L-함수의 정의

디리클레 L-함수(Dirichlet L-function)는 지표 $\chi$에 대응하는 디리클레 급수입니다.

$$L(s, \chi) = \sum_{n=1}^{\infty} \frac{\chi(n)}{n^s} = \prod_{p\text{ prime}} \frac{1}{1 - \chi(p)\,p^{-s}}$$

$\chi = \chi_0$ (주지표)이면 $L(s, \chi_0) = \zeta(s) \prod_{p \mid q}(1 - p^{-s})$로, 리만 제타함수와 직접 관련됩니다.

L-함수와 디리클레 정리의 연결: 디리클레 정리의 핵심은 비주지표 $\chi \ne \chi_0$에 대해 $L(1, \chi) \ne 0$임을 보이는 것입니다. 이것은 $\zeta(1+it) \ne 0$을 보여 소수 정리를 증명하는 것과 같은 구조입니다.

지표의 직교성

디리클레 지표는 다음의 직교 관계(orthogonality relation)를 만족합니다.

$$\frac{1}{\varphi(q)} \sum_{\chi \pmod{q}} \chi(n) \overline{\chi(m)} = \begin{cases} 1 & n \equiv m \pmod{q},\; \gcd(n,q)=1 \\ 0 & \text{그 외} \end{cases}$$

이 직교성을 이용하면 특정 잔류류에 속하는 소수만을 "골라내는" 것이 가능해집니다.

9. 리만 가설 (Riemann Hypothesis)

리만 가설(Riemann Hypothesis, RH)은 수학에서 가장 유명하고 중요한 미해결 문제(unsolved problem)입니다.

리만 가설: 리만 제타함수 $\zeta(s)$의 모든 비자명 영점은 임계선 $\text{Re}(s) = \frac{1}{2}$ 위에 놓인다.

즉, $\zeta(\rho) = 0$이고 $0 \le \text{Re}(\rho) \le 1$이면 $\text{Re}(\rho) = \frac{1}{2}$이다.

역사적 배경

1859년 리만은 단 8쪽짜리 논문에서 이 가설을 제시했습니다. 이 논문에서 리만은 제타함수의 해석적 연속, 함수방정식, 영점과 소수의 관계를 밝혔으며, 비자명 영점이 모두 임계선 위에 있을 것이라는 추측("매우 개연성이 높다(sehr wahrscheinlich)")을 남겼습니다.

현재까지의 진전

리만 가설의 의미

리만 가설이 참이면 소수 정리의 오차항에 대해 다음의 최적 추정이 성립합니다.

$$\pi(x) = \text{Li}(x) + O(\sqrt{x}\,\ln x)$$

즉, 소수의 분포가 $\text{Li}(x)$로부터 $\sqrt{x}$ 정도의 오차 범위 안에서 예측 가능하다는 것입니다. 이것은 소수가 "최대한 규칙적으로" 분포한다는 의미입니다.

비유: 소수를 "무작위로 뽑힌 당첨 번호"에 비유하면, 리만 가설은 "당첨 번호가 가능한 한 가장 고르게 분포한다"는 것을 의미합니다. 동전 던지기에서 앞면이 나올 확률이 $1/2$일 때, $n$번 중 앞면 횟수의 오차가 $O(\sqrt{n})$인 것과 같은 맥락입니다.

밀레니엄 상금 문제

리만 가설은 클레이 수학 연구소(Clay Mathematics Institute)가 선정한 밀레니엄 7대 난제(Millennium Prize Problems) 중 하나이며, 증명 또는 반례를 제시하면 100만 달러의 상금이 수여됩니다.

10. 체와 해석학

체 방법(sieve methods)은 에라토스테네스의 체(Sieve of Eratosthenes)를 일반화한 것으로, 소수 또는 "거의 소수"인 수들의 개수를 추정하는 조합론적·해석적 기법입니다.

에라토스테네스의 체와 그 한계

에라토스테네스의 체는 소수를 직접 찾아내지만, $x$ 이하의 소수 개수에 대한 점근적 추정(asymptotic estimate)을 얻기에는 부족합니다. 현대의 체 방법은 이 한계를 극복합니다.

브룬의 체 (Brun's Sieve)

1919년 브룬(Brun)은 자신의 체 방법을 사용하여 다음을 증명했습니다.

브룬의 정리: 쌍둥이 소수(twin primes)의 역수의 합은 수렴합니다. $$B = \sum_{\substack{p,\,p+2 \\ \text{둘 다 소수}}} \left(\frac{1}{p} + \frac{1}{p+2}\right) = \left(\frac{1}{3} + \frac{1}{5}\right) + \left(\frac{1}{5} + \frac{1}{7}\right) + \left(\frac{1}{11} + \frac{1}{13}\right) + \cdots \approx 1.902$$ 이 값 $B$를 브룬 상수(Brun's constant)라 합니다.

이 결과는 쌍둥이 소수가 유한개이든 무한개이든 관계없이 성립합니다. (소수의 역수의 합은 발산하므로, 쌍둥이 소수는 전체 소수보다 훨씬 "드물다"는 의미입니다.)

골드바흐 추측 (Goldbach's Conjecture)

골드바흐 추측(Goldbach's conjecture)은 다음과 같습니다.

골드바흐 추측: 2보다 큰 모든 짝수는 두 소수의 합으로 나타낼 수 있다.

현재까지 이 추측은 완전히 증명되지 않았지만, 해석적 방법을 통해 다음의 부분적 결과들이 얻어졌습니다.

쌍둥이 소수 추측 (Twin Prime Conjecture)

쌍둥이 소수 추측은 차이가 $2$인 소수 쌍 $(p, p+2)$가 무한히 많다는 것입니다. 예: $(3, 5)$, $(5, 7)$, $(11, 13)$, $(17, 19)$, $\ldots$

이 추측도 미해결이지만, 2013년 장이탕(Zhang Yitang)의 획기적인 결과 이후 큰 진전이 있었습니다.

11. 해석적 방법의 응용

바링턴–골드바흐 유형 문제

바링 문제(Waring's problem)는 모든 자연수를 $k$제곱수의 합으로 나타낼 때 필요한 항의 최소 개수를 구하는 문제입니다. 하디(Hardy)와 리틀우드(Littlewood)가 개발한 원 방법(circle method)으로 많은 경우가 해결되었습니다.

$$g(k) = 2^k + \left\lfloor\left(\frac{3}{2}\right)^k\right\rfloor - 2$$

원 방법 (Circle Method)

하디-리틀우드의 원 방법(circle method)은 가법적 정수론(additive number theory)의 핵심 도구입니다. 기본 아이디어는 다음과 같습니다.

  1. 표현 가능성을 생성함수로 표현합니다
  2. 코시 적분 공식을 이용하여 계수를 복소 적분으로 추출합니다
  3. 적분 경로를 주호(major arcs)비주호(minor arcs)로 나눕니다
  4. 주호에서의 기여는 정밀하게 계산하고, 비주호에서의 기여는 작음을 보입니다

제타함수와 물리학

리만 제타함수는 순수 수학을 넘어 물리학에서도 등장합니다.

일반화된 리만 가설 (GRH)

일반화된 리만 가설(Generalized Riemann Hypothesis, GRH)은 모든 디리클레 L-함수 $L(s, \chi)$의 비자명 영점이 임계선 $\text{Re}(s) = \frac{1}{2}$ 위에 놓인다는 가설입니다.

GRH가 참이면 다음과 같은 강력한 결과들이 따라옵니다.

t |ζ(½+it)| 14.1 21.0 25.0 30.4 32.9 비자명 영점 (ζ = 0) ── |ζ(½ + it)|
제타함수 영점의 처음 몇 개: 임계선 위의 비자명 영점 $\rho = \frac{1}{2} + it$에서 $t$의 처음 몇 값은 다음과 같습니다. $$t_1 \approx 14.135,\quad t_2 \approx 21.022,\quad t_3 \approx 25.011,\quad t_4 \approx 30.425,\quad t_5 \approx 32.935$$ 이 값들은 모두 수치적으로 $\text{Re}(\rho) = \frac{1}{2}$을 만족합니다.

12. 산술함수 심화

뫼비우스 반전의 다양한 형태

앞서 소개한 뫼비우스 반전 공식은 여러 형태로 확장됩니다. 가장 기본적인 형태를 다시 쓰면 다음과 같습니다.

$$g(n) = \sum_{d \mid n} f(d) \quad \Longleftrightarrow \quad f(n) = \sum_{d \mid n} \mu(d)\,g\!\left(\frac{n}{d}\right)$$

이것의 합 형태(summatory version)는 다음과 같습니다. $G(x) = \sum_{n \le x} g(n)$이고 $F(x) = \sum_{n \le x} f(n)$이면

$$G(x) = \sum_{n \le x} F\!\left(\frac{x}{n}\right) \quad \Longleftrightarrow \quad F(x) = \sum_{n \le x} \mu(n)\,G\!\left(\frac{x}{n}\right)$$
응용 예시: $\sum_{d \mid n} \varphi(d) = n$이므로 여기서 $g(n) = n$, $f(n) = \varphi(n)$입니다. 뫼비우스 반전을 적용하면 다음을 얻습니다. $$\varphi(n) = \sum_{d \mid n} \mu(d)\,\frac{n}{d} = n \sum_{d \mid n} \frac{\mu(d)}{d}$$ 이것이 바로 오일러 파이 함수의 곱 공식 $\varphi(n) = n\prod_{p \mid n}(1 - 1/p)$를 유도하는 방법입니다.

디리클레 합성곱의 환 구조

산술함수 전체의 집합을 $\mathcal{A}$라 하면, $(\mathcal{A}, +, *)$는 다음과 같은 가환환(commutative ring) 구조를 가집니다.

더 나아가, $f(1) \ne 0$인 산술함수는 디리클레 합성곱에 대한 역원(inverse)을 가집니다. 즉, $f * f^{-1} = \varepsilon$를 만족하는 $f^{-1}$이 유일하게 존재합니다. 예를 들어 다음이 성립합니다.

$$\mathbf{1}^{-1} = \mu, \qquad \text{id}^{-1} = \varphi \cdot \mu \text{ (여기서 } \text{id}(n) = n\text{)}$$

따라서 $f(1) \ne 0$인 산술함수들의 집합은 아벨군(abelian group)을 이루며, $(\mathcal{A}, +, *)$는 정역(integral domain)이 됩니다.

디리클레 급수와의 대응: 디리클레 합성곱 환 $(\mathcal{A}, +, *)$는 디리클레 급수의 환과 동형(isomorphic)입니다. $f \mapsto F(s) = \sum f(n) n^{-s}$라는 대응 아래에서 $f * g \mapsto F(s) \cdot G(s)$가 됩니다. 이 대응이 산술함수의 곱셈 구조를 해석학으로 번역하는 핵심 원리입니다.
디리클레 합성곱 관계도 ε (항등원) μ (뫼비우스) 1 (상수) φ (오일러) id (항등) σ (약수합) Λ (망골트) μ * 1 = ε φ * 1 = id id * 1 = σ μ * id = φ −ζ'/ζ ↔ Λ

13. 제타함수 심화

함수방정식 증명 스케치

리만 제타함수의 함수방정식 $\xi(s) = \xi(1-s)$의 증명은 여러 방법이 있습니다. 가장 고전적인 방법은 야코비 세타함수(Jacobi theta function)를 이용하는 것입니다.

단계 1. 감마함수의 적분 표현 $\Gamma(s/2) = \int_0^\infty t^{s/2-1} e^{-t}\,dt$에서 $t \mapsto \pi n^2 t$로 치환하면 다음을 얻습니다.

$$\pi^{-s/2}\,\Gamma\!\left(\frac{s}{2}\right)\frac{1}{n^s} = \int_0^{\infty} t^{s/2 - 1}\,e^{-\pi n^2 t}\,dt$$

단계 2. $n$에 대해 합산하면 다음과 같습니다.

$$\pi^{-s/2}\,\Gamma\!\left(\frac{s}{2}\right)\zeta(s) = \int_0^{\infty} t^{s/2 - 1}\,\psi(t)\,dt$$

여기서 $\psi(t) = \sum_{n=1}^{\infty} e^{-\pi n^2 t}$이며, 야코비 세타함수 $\theta(t) = \sum_{n=-\infty}^{\infty} e^{-\pi n^2 t} = 1 + 2\psi(t)$와 관련됩니다.

단계 3. 야코비 세타함수의 변환 공식(transformation formula)을 적용합니다.

$$\theta(t) = \frac{1}{\sqrt{t}}\,\theta\!\left(\frac{1}{t}\right)$$

이 공식은 푸아송 합 공식(Poisson summation formula)에서 유도됩니다.

단계 4. 적분을 $[0,1]$과 $[1,\infty)$로 나누고, $[0,1]$ 부분에 $t \mapsto 1/t$ 치환과 세타 변환 공식을 적용하면 $s \leftrightarrow 1-s$ 대칭이 나타나며, 최종적으로 $\xi(s) = \xi(1-s)$를 얻습니다.

핵심 포인트: 함수방정식의 본질은 푸아송 합 공식(또는 동치인 세타함수의 변환 공식)에 있습니다. 이 변환 공식 자체가 푸리에 해석학의 산물이므로, 제타함수의 대칭성은 궁극적으로 푸리에 변환의 자기쌍대성에서 비롯됩니다.

ζ(2)의 계산 — 바젤 문제

바젤 문제(Basel problem)는 1644년 메네골리(Mengoli)가 제기하고 1735년 오일러가 해결한 유명한 문제입니다.

$$\zeta(2) = \sum_{n=1}^{\infty} \frac{1}{n^2} = 1 + \frac{1}{4} + \frac{1}{9} + \frac{1}{16} + \cdots = \frac{\pi^2}{6}$$

오일러의 증명 아이디어: $\sin(\pi x) / (\pi x)$의 무한곱 표현 $\frac{\sin(\pi x)}{\pi x} = \prod_{n=1}^{\infty}\left(1 - \frac{x^2}{n^2}\right)$에서 $x^2$의 계수를 비교하면 됩니다. 좌변을 테일러 전개하면 $1 - \frac{(\pi x)^2}{3!} + \cdots$이고, 우변을 전개하면 $1 - \left(\sum_{n=1}^{\infty} \frac{1}{n^2}\right)x^2 + \cdots$이므로 다음을 얻습니다.

$$\sum_{n=1}^{\infty} \frac{1}{n^2} = \frac{\pi^2}{6}$$

ζ(2n)의 일반 공식

짝수 양의 정수에서의 제타함수 값은 베르누이 수(Bernoulli numbers) $B_{2k}$를 이용하여 닫힌 형태로 표현됩니다.

$$\zeta(2k) = (-1)^{k+1}\,\frac{(2\pi)^{2k}\,B_{2k}}{2\,(2k)!}, \quad k = 1, 2, 3, \ldots$$

처음 몇 개의 베르누이 수와 대응하는 제타함수 값은 다음과 같습니다.

$k$$B_{2k}$$\zeta(2k)$
$1$$\frac{1}{6}$$\frac{\pi^2}{6}$
$2$$-\frac{1}{30}$$\frac{\pi^4}{90}$
$3$$\frac{1}{42}$$\frac{\pi^6}{945}$
$4$$-\frac{1}{30}$$\frac{\pi^8}{9450}$
$5$$\frac{5}{66}$$\frac{\pi^{10}}{93555}$
홀수에서의 값: $\zeta(3), \zeta(5), \zeta(7), \ldots$ 등 홀수에서의 제타함수 값은 $\pi$의 거듭제곱으로 표현되지 않으며, 그 본질은 아직 완전히 밝혀지지 않았습니다. 아페리(Apéry)는 1978년에 $\zeta(3)$이 무리수임을 증명했으며, 이 값을 아페리 상수(Apéry's constant)라 부릅니다. $\zeta(3) \approx 1.20206$입니다.

14. 소수 정리 심화

증명의 핵심 단계 상세

소수 정리의 해석적 증명은 다음의 핵심 단계로 구성됩니다.

단계 1. 체비셰프 함수와 제타함수의 연결

폰 망골트 함수 $\Lambda(n)$의 디리클레 급수는 다음과 같습니다.

$$-\frac{\zeta'(s)}{\zeta(s)} = \sum_{n=1}^{\infty} \frac{\Lambda(n)}{n^s}, \quad \text{Re}(s) > 1$$

따라서 $\psi(x) = \sum_{n \le x} \Lambda(n)$은 $-\zeta'/\zeta$의 "계수의 부분합"이 됩니다.

단계 2. 페론 공식(Perron's formula)

페론 공식은 디리클레 급수의 계수의 부분합을 복소 적분으로 표현합니다.

$$\psi(x) = \frac{1}{2\pi i} \int_{c - i\infty}^{c + i\infty} \left(-\frac{\zeta'(s)}{\zeta(s)}\right) \frac{x^s}{s}\,ds, \quad c > 1$$

단계 3. 유수 정리의 적용

적분 경로를 왼쪽으로 이동하면, $-\zeta'/\zeta$의 극(pole)에서의 유수(residue)가 나타납니다. $-\zeta'/\zeta$는 $\zeta$의 영점과 극에서 극을 가집니다.

이를 종합하면 명시 공식(explicit formula)을 얻습니다.

$$\psi(x) = x - \sum_{\rho} \frac{x^{\rho}}{\rho} - \ln(2\pi) - \frac{1}{2}\ln\!\left(1 - x^{-2}\right)$$

여기서 합은 $\zeta$의 모든 비자명 영점 $\rho$에 대해 취합니다.

단계 4. 영점이 없는 영역(zero-free region)

$\psi(x) \sim x$를 보이려면, 비자명 영점 $\rho = \beta + i\gamma$에서 $\beta < 1$임을 보여야 합니다. 즉, $\text{Re}(s) = 1$ 위에 영점이 없어야 합니다.

ζ(1 + it) ≠ 0의 증명

$\text{Re}(s) = 1$ 위에 제타함수의 영점이 없다는 것은 소수 정리 전체를 지탱하는 핵심입니다. 증명에는 다음의 부등식이 사용됩니다.

$$3 + 4\cos\theta + \cos 2\theta = 2(1 + \cos\theta)^2 \ge 0$$

이로부터 다음이 유도됩니다.

$$\zeta(\sigma)^3 \cdot |\zeta(\sigma + it)|^4 \cdot |\zeta(\sigma + 2it)| \ge 1, \quad \sigma > 1$$

만약 $\zeta(1 + it_0) = 0$이라면, $\sigma \to 1^+$일 때 $|\zeta(\sigma + it_0)|^4 \to 0$이지만 $\zeta(\sigma)^3$은 $(σ-1)^{-3}$처럼 발산하고 $|\zeta(\sigma + 2it_0)|$은 유한하게 남으므로, 위 부등식의 발산 차수를 비교하면 모순이 발생합니다.

영점이 없는 영역 (Zero-Free Region)

드 라 발레-푸생은 더 나아가, $\text{Re}(s) = 1$ 근방에서 영점이 없는 영역을 정량적으로 확립했습니다.

$$\zeta(\sigma + it) \ne 0 \quad \text{단, } \sigma \ge 1 - \frac{c}{\ln(|t| + 2)}$$

여기서 $c > 0$는 절대 상수입니다. 이 고전적 영점 무영역(classical zero-free region)에 의해 소수 정리의 오차항이 결정됩니다.

$$\psi(x) = x + O\!\left(x\,\exp\!\left(-c'\sqrt{\ln x}\right)\right)$$
비노그라도프-코로보프(Vinogradov–Korobov) 영점 무영역: 1958년 비노그라도프와 코로보프는 독립적으로 더 넓은 영점 무영역을 확립했습니다. $$\zeta(\sigma + it) \ne 0 \quad \text{단, } \sigma \ge 1 - \frac{c}{(\ln |t|)^{2/3}(\ln\ln |t|)^{1/3}}$$ 이에 의해 소수 정리의 오차항이 $O(x\,\exp(-c(\ln x)^{3/5}(\ln\ln x)^{-1/5}))$로 개선됩니다. 이것은 현재까지 알려진 최선의 무조건적 오차항입니다.
영점 무영역 (Zero-Free Region) Re(s) = ½ Re = 0 Re = 1 Re Im 영점 없는 영역 비자명 영점 임계 대

15. 대수적 수체의 제타함수

데데킨트 제타함수 (Dedekind Zeta Function)

리만 제타함수는 유리수체 $\mathbb{Q}$에 대한 것입니다. 이것을 대수적 수체(algebraic number field) $K$로 일반화한 것이 데데킨트 제타함수(Dedekind zeta function)입니다.

$$\zeta_K(s) = \sum_{\mathfrak{a} \ne 0} \frac{1}{N(\mathfrak{a})^s} = \prod_{\mathfrak{p}} \frac{1}{1 - N(\mathfrak{p})^{-s}}, \quad \text{Re}(s) > 1$$

여기서 합은 $K$의 정수환 $\mathcal{O}_K$의 모든 $0$이 아닌 아이디얼 $\mathfrak{a}$에 대해, 곱은 모든 소 아이디얼(prime ideal) $\mathfrak{p}$에 대해 취합니다. $N(\mathfrak{a}) = |\mathcal{O}_K / \mathfrak{a}|$는 아이디얼의 노름(norm)입니다.

$K = \mathbb{Q}$이면 $\zeta_K(s) = \zeta(s)$가 됩니다.

데데킨트 제타함수의 성질

예시: $K = \mathbb{Q}(i)$ (가우스 정수체)의 경우, $\zeta_K(s) = \zeta(s) \cdot L(s, \chi_{-4})$로 분해됩니다. 여기서 $\chi_{-4}$는 법 $4$의 비주지표입니다. 유수 공식으로부터 $h_K = 1$, 즉 가우스 정수환 $\mathbb{Z}[i]$가 유일 인수 분해 정역(UFD)임을 확인할 수 있습니다.

확장된 리만 가설 (Extended Riemann Hypothesis)

확장된 리만 가설(Extended Riemann Hypothesis, ERH)은 모든 대수적 수체 $K$에 대해 $\zeta_K(s)$의 비자명 영점이 임계선 $\text{Re}(s) = \frac{1}{2}$ 위에 놓인다는 가설입니다. 이것은 GRH보다 더 포괄적인 가설입니다.

16. 셀버그 제타함수

셀버그 제타함수(Selberg zeta function)는 쌍곡 곡면(hyperbolic surface) 위의 측지선(geodesic)의 길이 스펙트럼으로부터 정의되는 제타함수로, 리만 제타함수와 구조적 유사성을 가집니다.

정의

컴팩트 쌍곡 곡면 $\Gamma \backslash \mathbb{H}$ (여기서 $\mathbb{H}$는 상반평면, $\Gamma$는 푹스 군(Fuchsian group))에 대해, 셀버그 제타함수는 다음과 같이 정의됩니다.

$$Z_\Gamma(s) = \prod_{\{P\}_0} \prod_{k=0}^{\infty} \left(1 - N(P)^{-(s+k)}\right)$$

여기서 $\{P\}_0$는 원시 쌍곡 켤레류(primitive hyperbolic conjugacy class)를 순회하며, $N(P) = e^{\ell(P)}$는 $P$에 대응하는 닫힌 측지선의 길이 $\ell(P)$로부터 정의됩니다.

리만 제타함수와의 비교

리만 제타함수 $\zeta(s)$셀버그 제타함수 $Z_\Gamma(s)$
소수 $p$에 대한 오일러 곱원시 닫힌 측지선에 대한 곱
소수 분포와 관련측지선 길이 스펙트럼과 관련
함수방정식 $\xi(s) = \xi(1-s)$함수방정식 존재
비자명 영점 $\leftrightarrow$ 소수 분포영점 $\leftrightarrow$ 라플라시안의 고유값
리만 가설: 비자명 영점 $\text{Re}(s) = \frac{1}{2}$영점의 위치가 정확히 알려져 있음
셀버그 대각합 공식(Selberg trace formula): 셀버그 제타함수의 영점은 라플라시안 $\Delta$의 고유값 $\lambda_n = s_n(1-s_n)$에 의해 $s = s_n$에서 나타납니다. 셀버그 대각합 공식은 이 스펙트럼 데이터(고유값)기하학적 데이터(측지선 길이)를 연결하며, 리만의 명시 공식의 기하학적 유사체입니다. 이 관점에서 리만 가설은 "적절한 연산자의 고유값이 실수인가"라는 문제로 재해석됩니다.

17. 체 방법 심화

체 방법의 일반 구조

체 방법의 목표는 유한 집합 $\mathcal{A}$에서 주어진 소수 집합 $\mathcal{P}$의 원소로 나누어지지 않는 원소의 개수를 추정하는 것입니다. 이를 체 함수(sifting function)라 하며 다음과 같이 정의합니다.

$$S(\mathcal{A}, \mathcal{P}, z) = \#\{a \in \mathcal{A} : \gcd(a, P(z)) = 1\}, \quad P(z) = \prod_{\substack{p < z \\ p \in \mathcal{P}}} p$$

에라토스테네스의 체 — 르장드르 공식

포함-배제 원리를 직접 적용하면 다음의 르장드르 공식(Legendre's formula)을 얻습니다.

$$S(\mathcal{A}, \mathcal{P}, z) = \sum_{d \mid P(z)} \mu(d)\,|\mathcal{A}_d|$$

여기서 $\mathcal{A}_d = \{a \in \mathcal{A} : d \mid a\}$입니다. 이론적으로는 정확한 공식이지만, $P(z)$의 약수의 수가 $2^{\pi(z)}$개이므로 실용적이지 않습니다. 또한 오차항이 축적되어 유의미한 점근 추정을 얻기 어렵습니다.

브룬의 체 (Brun's Combinatorial Sieve)

브룬은 포함-배제를 절단(truncation)하여 상한과 하한을 얻는 방법을 개발했습니다. 포함-배제를 짝수 단계에서 자르면 상한을, 홀수 단계에서 자르면 하한을 얻습니다(봉페로니 부등식). 이를 통해 다음과 같은 결과를 얻습니다.

$$S(\mathcal{A}, \mathcal{P}, z) \le X \prod_{p < z}\left(1 - \frac{\omega(p)}{p}\right)\left(1 + O\!\left(\frac{1}{(\ln z)^A}\right)\right) + R$$

여기서 $X = |\mathcal{A}|$, $\omega(p)$는 "밀도 함수", $R$은 나머지 항입니다.

셀버그의 체 (Selberg's Sieve)

1947년 셀버그는 완전히 다른 접근법을 도입했습니다. 뫼비우스 함수 대신 최적화된 가중치(optimized weights) $\lambda_d$를 사용합니다.

$$S(\mathcal{A}, \mathcal{P}, z) \le \sum_{a \in \mathcal{A}} \left(\sum_{d \mid (a, P(z))} \lambda_d\right)^2$$

$\lambda_1 = 1$로 고정하고, 우변을 최소화하는 $\lambda_d$를 선택합니다. 이것은 이차 최적화(quadratic optimization) 문제가 되며, 라그랑주 승수법으로 풀 수 있습니다. 결과적으로 다음의 상한을 얻습니다.

$$S(\mathcal{A}, \mathcal{P}, z) \le \frac{X}{V(z)} + R'$$

여기서 $V(z) = \sum_{d \mid P(z), d < z^2} \frac{\mu^2(d)}{\prod_{p \mid d} \frac{\omega(p)}{p - \omega(p)}}$입니다.

셀버그 체의 강점: 셀버그의 체는 상한에 대해 매우 강력하며, 브룬의 체보다 더 정밀한 결과를 줍니다. 특히 다음의 결과를 증명하는 데 사용됩니다.
  • $x$ 이하의 쌍둥이 소수 후보의 수는 $O(x / (\ln x)^2)$ 이하
  • 첸의 정리에서 "거의 소수"의 존재
  • 골드바흐 유형 문제의 부분적 결과

18. 지수합 (Exponential Sums)

지수합(exponential sum)은 해석적 정수론에서 핵심적인 도구입니다. 일반적인 형태는 다음과 같습니다.

$$S = \sum_{n=M+1}^{M+N} e(f(n)), \quad e(\alpha) = e^{2\pi i \alpha}$$

여기서 $f$는 실수값 함수이고, $e(\alpha)$는 복소 지수함수의 약기법입니다. 지수합의 크기를 추정하는 것이 많은 정수론 문제의 핵심입니다.

바일 합 (Weyl Sums)

바일 합(Weyl sum)은 $f$가 다항식인 경우의 지수합입니다.

$$W_k(\alpha) = \sum_{n=1}^{N} e(\alpha_k n^k + \alpha_{k-1} n^{k-1} + \cdots + \alpha_1 n)$$

바일(Weyl)은 1916년에 다음의 중요한 결과를 증명했습니다.

바일의 부등식(Weyl's inequality): $k \ge 2$이고 $\alpha_k$가 $|\alpha_k - a/q| \le q^{-2}$ ($\gcd(a,q)=1$)을 만족하면 다음이 성립합니다. $$|W_k(\alpha)| \ll N^{1+\varepsilon}\left(\frac{1}{q} + \frac{1}{N} + \frac{q}{N^k}\right)^{2^{1-k}}$$

바일의 등분포 정리(Weyl's equidistribution theorem)와의 연결: 수열 $\{f(n)\}$ ($\{x\}$는 소수 부분)이 $[0,1)$에서 등분포(equidistributed)되기 위한 필요충분조건은 모든 정수 $h \ne 0$에 대해 $\frac{1}{N}\sum_{n=1}^{N} e(hf(n)) \to 0$인 것입니다.

클로스터만 합 (Kloosterman Sums)

클로스터만 합(Kloosterman sum)은 1926년 클로스터만이 도입한 특수한 지수합입니다.

$$K(a, b; c) = \sum_{\substack{x \pmod{c} \\ \gcd(x, c) = 1}} e\!\left(\frac{ax + b\bar{x}}{c}\right)$$

여기서 $\bar{x}$는 $x$의 법 $c$에서의 역원 ($x\bar{x} \equiv 1 \pmod{c}$)입니다.

클로스터만 합에 대한 가장 중요한 결과는 바일 한계(Weil bound)입니다.

$$|K(a, b; c)| \le \tau(c)\,\sqrt{\gcd(a, b, c)}\,\sqrt{c}$$

여기서 $\tau(c)$는 약수의 개수입니다. 이 한계는 대수기하학(algebraic geometry)의 도구를 사용하여 증명되었으며, $\sqrt{c}$ 한계는 본질적으로 최적입니다.

클로스터만 합의 응용: 클로스터만 합은 다음과 같은 문제에서 핵심적으로 등장합니다.
  • 이차형식(quadratic form)으로 표현 가능한 정수의 수 추정
  • 푸앵카레 급수(Poincaré series)와 모듈러 형식의 이론
  • 쿠즈네초프 대각합 공식(Kuznetsov trace formula)
  • 원 방법에서 주호(major arc) 위의 적분 계산

19. 원 방법 심화 (Circle Method)

하디-리틀우드의 원 방법(circle method)은 가법적 정수론의 중심 도구입니다. 자연수 $n$을 특정 형태의 합으로 나타내는 표현 수(representation number)를 구하는 데 사용됩니다.

기본 설정

자연수 $n$을 $k$-제곱수 $s$개의 합으로 나타내는 수 $r_{s,k}(n) = \#\{(x_1, \ldots, x_s) : x_1^k + \cdots + x_s^k = n,\; x_i \ge 1\}$를 구하려 합니다.

생성함수 $f(\alpha) = \sum_{m=1}^{N} e(\alpha m^k)$를 정의하면, 직교성에 의해 다음이 성립합니다.

$$r_{s,k}(n) = \int_0^1 f(\alpha)^s\,e(-n\alpha)\,d\alpha$$

주호와 비주호의 분리

적분 구간 $[0, 1)$을 주호(major arcs) $\mathfrak{M}$과 비주호(minor arcs) $\mathfrak{m}$으로 분리합니다.

주호 $\mathfrak{M}$: $\alpha$가 유리수 $a/q$ ($q$가 작은)에 가까운 영역입니다.

$$\mathfrak{M} = \bigcup_{\substack{0 \le a \le q \le Q \\ \gcd(a,q)=1}} \left\{\alpha : \left|\alpha - \frac{a}{q}\right| \le \frac{1}{qN^{k-\delta}}\right\}$$

비주호 $\mathfrak{m}$: $\mathfrak{m} = [0, 1) \setminus \mathfrak{M}$, 즉 어떤 "작은" 유리수에도 가깝지 않은 영역입니다.

원 방법: 주호와 비주호의 분리 0/1 1/2 1/3 2/3 1/4 3/4 주호 (Major arcs) 비주호 (Minor arcs) a/q

주호에서의 기여: 특이 급수와 특이 적분

주호에서 $\alpha \approx a/q$일 때, $f(\alpha)$를 가우스 합(Gauss sum)과 연속 적분으로 근사하면 다음을 얻습니다.

$$\int_{\mathfrak{M}} f(\alpha)^s\,e(-n\alpha)\,d\alpha \approx \mathfrak{S}(n) \cdot \mathfrak{J}(n)$$

여기서 특이 급수(singular series)특이 적분(singular integral)은 다음과 같습니다.

$$\mathfrak{S}(n) = \sum_{q=1}^{\infty} \sum_{\substack{a=1 \\ \gcd(a,q)=1}}^{q} \left(\frac{S(q, a)}{q}\right)^s e\!\left(-\frac{an}{q}\right)$$ $$\mathfrak{J}(n) = \int_{-\infty}^{\infty} \left(\int_0^1 e(\beta t^k)\,dt\right)^s e(-n\beta)\,d\beta$$

$S(q,a) = \sum_{x=1}^{q} e(ax^k/q)$는 가우스 합입니다.

바링 문제에의 적용

바링 문제(Waring's problem): 모든 자연수를 $s$개의 $k$-제곱수의 합으로 표현하기 위해 필요한 최소의 $s$ 값, 즉 $G(k)$를 구하는 문제입니다.

원 방법을 적용하면, $s$가 충분히 크면 ($s \ge s_0(k)$) 충분히 큰 모든 자연수가 $s$개의 $k$-제곱수의 합으로 표현됨을 보일 수 있습니다. 알려진 결과는 다음과 같습니다.

$k$$G(k)$비고
$2$$4$라그랑주의 네 제곱수 정리
$3$$\le 7$$G(3) \ge 4$는 자명
$4$$15$다벤포트(Davenport)
일반 $k$$\le 2k + 1$울리 (Wooley), 최신 결과

20. 대수 이탈 원리 (Large Sieve Inequality)

대수 이탈 부등식(large sieve inequality)은 해석적 정수론에서 매우 유용한 도구로, 서로 다른 주파수에서의 지수합의 제곱평균에 대한 상한을 제공합니다.

해석적 형태

가장 기본적인 형태는 다음과 같습니다.

대수 이탈 부등식: $\alpha_1, \ldots, \alpha_R \in \mathbb{R}$이 $\|\alpha_r - \alpha_s\| \ge \delta > 0$ ($r \ne s$)을 만족하면, 임의의 복소수 $a_n$에 대해 다음이 성립합니다. $$\sum_{r=1}^{R} \left|\sum_{n=M+1}^{M+N} a_n\,e(n\alpha_r)\right|^2 \le \left(N - 1 + \delta^{-1}\right)\sum_{n=M+1}^{M+N} |a_n|^2$$

여기서 $\|\cdot\|$은 가장 가까운 정수까지의 거리입니다.

산술적 형태

대수 이탈 부등식의 산술적 응용으로, 봄비에리-비노그라도프 정리(Bombieri–Vinogradov theorem)가 있습니다.

$$\sum_{q \le Q} \max_{\gcd(a,q)=1} \left|\pi(x; q, a) - \frac{\text{Li}(x)}{\varphi(q)}\right| \ll \frac{x}{(\ln x)^A}$$

여기서 $Q = x^{1/2}(\ln x)^{-B}$이고, $A$는 임의의 상수, $B = B(A)$입니다. 이 정리는 "평균적으로 GRH가 성립한다"는 의미를 가지며, 체 방법과 결합하여 소수 분포에 대한 강력한 결과를 낳습니다.

봄비에리-비노그라도프 정리의 의미: 이 정리는 $q \le x^{1/2-\varepsilon}$ 범위의 법(modulus) $q$에 대해, 등차수열 $a \pmod{q}$에서의 소수 분포가 평균적으로 기대값과 일치함을 보장합니다. 이것은 GRH 없이도 GRH와 비견되는 결과를 (평균적으로) 제공합니다.

21. 오토모르픽 형식 개요 (Automorphic Forms)

오토모르픽 형식(automorphic form)은 현대 정수론에서 가장 핵심적인 개념 중 하나로, 모듈러 형식(modular form)을 대폭 일반화한 것입니다.

모듈러 형식 (Modular Forms)

모듈러 형식(modular form)은 상반평면 $\mathbb{H} = \{\tau \in \mathbb{C} : \text{Im}(\tau) > 0\}$ 위의 정칙 함수 $f$로서, $\text{SL}_2(\mathbb{Z})$의 작용에 대해 다음의 변환 규칙을 만족하는 것입니다.

$$f\!\left(\frac{a\tau + b}{c\tau + d}\right) = (c\tau + d)^k\,f(\tau), \quad \begin{pmatrix} a & b \\ c & d \end{pmatrix} \in \text{SL}_2(\mathbb{Z})$$

여기서 $k$는 가중치(weight)라 불리는 정수이며, $f$는 $\text{Im}(\tau) \to \infty$에서 적절한 증가 조건을 만족해야 합니다.

모듈러 형식은 푸리에 전개를 가집니다.

$$f(\tau) = \sum_{n=0}^{\infty} a_n\,e^{2\pi i n \tau} = \sum_{n=0}^{\infty} a_n\,q^n, \quad q = e^{2\pi i \tau}$$

이때 $a_0 = 0$이면 첨형식(cusp form)이라 합니다.

헤케 연산자와 L-함수

헤케 연산자(Hecke operator) $T_n$은 모듈러 형식의 공간 위에 작용하며, $T_n$의 동시 고유형식(simultaneous eigenform)의 푸리에 계수 $a_n$은 곱셈적 성질을 가집니다. 이로부터 L-함수를 정의합니다.

$$L(s, f) = \sum_{n=1}^{\infty} \frac{a_n}{n^s} = \prod_{p} \frac{1}{1 - a_p\,p^{-s} + p^{k-1-2s}}$$

이 L-함수는 해석적 연속과 함수방정식을 가지며, 제타함수 및 디리클레 L-함수의 자연스러운 일반화입니다.

라마누잔-피터슨 추측

라마누잔-피터슨 추측(Ramanujan–Petersson conjecture)은 가중치 $k$인 정규화된 첨형식 $f$의 푸리에 계수에 대해 다음을 주장합니다.

$$|a_p| \le 2\,p^{(k-1)/2}$$

이 추측은 들리뉴(Deligne)가 1974년에 바유 추측(Weil conjectures)을 증명함으로써 해결되었습니다. 이것은 대수기하학의 심오한 결과(에탈 코호몰로지, l-진 표현)가 정수론에 적용된 대표적인 예입니다.

랭글랜즈 프로그램과의 연결

랭글랜즈 프로그램(Langlands program)은 현대 수학의 거대한 통합 이론으로, 오토모르픽 형식과 갈루아 표현(Galois representation) 사이의 대응을 예측합니다. 핵심 주장은 다음과 같습니다.

이 프로그램의 특수한 경우가 와일즈(Wiles)의 페르마 마지막 정리(Fermat's Last Theorem) 증명에서 사용된 타니야마-시무라 추측(Taniyama–Shimura conjecture)입니다. 이 추측은 모든 유리수체 위의 타원곡선이 모듈러(modular), 즉 적절한 모듈러 형식에 대응한다는 것입니다.

페르마 마지막 정리와의 연결: 프레이(Frey)는 $a^n + b^n = c^n$의 해가 존재한다면, 이로부터 구성되는 타원곡선 $y^2 = x(x - a^n)(x + b^n)$이 모듈러가 아님을 (리벳(Ribet)이) 보였습니다. 와일즈가 모든 준안정(semistable) 타원곡선이 모듈러임을 증명하여, 모순에 의해 페르마 마지막 정리가 따릅니다.

22. 현대 해석적 정수론

골드스톤-핀츠-일디림(GPY) 방법

2005년 골드스톤(Goldston), 핀츠(Pintz), 일디림(Yıldırım)은 소수 간격에 대한 획기적인 결과를 발표했습니다.

GPY 정리: 연속적인 소수 $p_n, p_{n+1}$에 대해 다음이 성립합니다. $$\liminf_{n \to \infty} \frac{p_{n+1} - p_n}{\ln p_n} = 0$$ 즉, 소수 간격이 평균 간격 $\ln p_n$보다 임의로 작은 경우가 무한히 많습니다.

GPY 방법의 핵심 아이디어는 근사적 체(approximate sieve)를 사용하는 것입니다. 정수 $n$ 근방에 소수가 여러 개 있는 구간을 찾기 위해, 다음과 같은 가중치 합을 고려합니다.

$$\sum_{x < n \le 2x} \left(\sum_{\substack{i=1 \\ n + h_i \text{ 소수}}}^{k} 1 - m\right) w(n) > 0$$

여기서 $\mathcal{H} = \{h_1, \ldots, h_k\}$는 허용 가능한(admissible) $k$-튜플이고, $w(n) \ge 0$은 적절한 가중치입니다. 이 합이 양수이면, 어떤 $n$에 대해 $n + h_i$ 중 적어도 $m+1$개가 소수임을 의미합니다.

장이탕의 돌파구 (2013)

2013년 장이탕(Yitang Zhang)은 GPY 방법을 확장하여 다음을 증명했습니다.

$$\liminf_{n \to \infty} (p_{n+1} - p_n) \le 7 \times 10^7$$

이것은 유한한 소수 간격이 무한히 반복된다는 최초의 증명이었습니다. 장이탕의 핵심 기여는 봄비에리-비노그라도프형 정리를 $q > x^{1/2}$인 범위까지 확장한 것입니다.

메이너드의 다차원 체 (2013)

제임스 메이너드(James Maynard)는 2013년 독립적으로(그리고 타오(Tao)도 독립적으로) 다음을 증명했습니다.

$$\liminf_{n \to \infty} (p_{n+1} - p_n) \le 600$$

메이너드의 핵심 혁신은 GPY의 1차원 가중치를 다차원 가중치로 대체한 것입니다.

$$w(n) = \left(\sum_{\substack{d_1, \ldots, d_k \\ d_i \mid n + h_i}} \lambda_{d_1, \ldots, d_k}\right)^2$$

여기서 $\lambda_{d_1, \ldots, d_k}$는 매끄러운 함수 $F(t_1, \ldots, t_k)$에 의해 결정됩니다. 이 다차원 최적화 문제를 풀면, GPY보다 훨씬 효율적인 체를 얻게 됩니다.

메이너드의 추가 결과: 같은 방법으로 메이너드는 다음도 증명했습니다.
  • 임의의 $m$에 대해, $\liminf_{n \to \infty}(p_{n+m} - p_n) < \infty$. 즉, 동시에 가까운 소수가 $m+1$개씩 무한히 나타남
  • 금지된 마지막 자릿수를 가지는 소수도 무한히 많음 (마이어-테렌스-타오와 공동)

폴리매스 프로젝트와 현재 한계

2014년 타오가 주도한 폴리매스 8(Polymath 8) 프로젝트는 장이탕과 메이너드의 결과를 조합하여 상한을 계속 줄였습니다.

연구자/프로젝트연도$\liminf(p_{n+1} - p_n) \le$
장이탕2013$70{,}000{,}000$
폴리매스 8a2013$4{,}680$
메이너드2013$600$
폴리매스 8b2014$246$

현재 $246$이 최선의 결과이며, $2$까지 줄이면 쌍둥이 소수 추측이 증명됩니다. 기존 방법만으로는 $6$ 미만으로 줄이는 것이 불가능한 것으로 알려져 있으므로, 새로운 아이디어가 필요합니다.

소수 간격 연구의 진전 2005 GPY liminf = 0 (비율) 2013.4 장이탕 ≤ 7×10⁷ 2013.7 PM 8a ≤ 4,680 2013.11 메이너드 ≤ 600 2014 PM 8b ≤ 246 목표: ≤ 2 (쌍둥이 소수 추측) 현재 방법의 한계: 6

추가 참고 문헌

정리 및 핵심 공식 요약

개념핵심 공식 또는 진술
리만 제타함수$\zeta(s) = \sum n^{-s} = \prod_p (1 - p^{-s})^{-1}$
함수방정식$\xi(s) = \xi(1-s)$
소수 정리$\pi(x) \sim x / \ln x \sim \text{Li}(x)$
디리클레 정리$\gcd(a,q)=1 \Rightarrow$ 등차수열 $a+nq$에 소수 무한
디리클레 L-함수$L(s,\chi) = \sum \chi(n)\,n^{-s}$
리만 가설모든 비자명 영점은 $\text{Re}(s)=\frac{1}{2}$ 위
브룬의 정리쌍둥이 소수 역수의 합 수렴 ($B \approx 1.902$)
뫼비우스 반전$g = f * \mathbf{1} \Leftrightarrow f = g * \mu$
$\zeta(2k)$ 공식$(-1)^{k+1}(2\pi)^{2k}B_{2k}/[2(2k)!]$
영점 무영역$\sigma \ge 1 - c/\ln(|t|+2)$에서 $\zeta \ne 0$
데데킨트 제타$\zeta_K(s) = \sum_{\mathfrak{a}} N(\mathfrak{a})^{-s}$
대수 이탈$\sum_r |S_r|^2 \le (N - 1 + \delta^{-1})\sum |a_n|^2$
GPY / 메이너드$\liminf(p_{n+1} - p_n) \le 246$

참고 자료 및 관련 문서