해석적 정수론

개요

정수론은 크게 두 개로 나뉜다. 대수적 정수론과 해석적 정수론. 대수적 정수론이 소수 하나의 성질, 소수에 대한 대수적 성질에 관심있다면 해석적 정수론은 소수의 분포에 관심을 두고 있다. 그러니까, 소수가 어떤 방식으로 퍼졌는지 보는 것이다. 예를 들면 10억 이하의 소수의 개수는 대충 몇 개일까?? 라는 문제에서 해석적 정수론은 [math]\displaystyle{ \frac{10^9}{\ln 10^9} \approx 48254942 }[/math]라고 대답할 것이다. 왜냐하면 소수 정리에 의하면

[math]\displaystyle{ \displaystyle \sum_{p\le x}1=\frac{x}{\ln{x}}+O\left(\frac{x}{\ln^2{x}}\right) }[/math]

이기 때문이다.

해석적 정수론은 단순히 소수들의 모임 뿐만 아니라 특정한 소수들에 대해서도 관심이 많다. 디리클레 등차수열 정리가 대표적인 예인데, 이 정리에 따르면 [math]\displaystyle{ a,b }[/math]가 서로소라면 [math]\displaystyle{ an+b }[/math] 꼴 소수는 무한히 많다. 그리고 무한히 많을 뿐만 아니라

[math]\displaystyle{ \displaystyle\sum_{\substack{p\le x \\ p \equiv a \pmod q}}\ln{p}=\frac{x}{\varphi(q)}+O_A\left(\frac{x}{\ln^A{x}}\right) }[/math]

이기까지 하다. 그리고 쌍둥이 소수에 대해서도 생각할 수 있는데, 쌍둥이 소수란 [math]\displaystyle{ (p, p+2) }[/math]가 모두 소수인 순서쌍을 말한다. (여기서는 순서쌍의 한 쪽 [math]\displaystyle{ p }[/math]를 쌍둥이 소수라 칭한다) 이것이 무한한지 여부는 전혀 알려지지 않았지만, 브룬의 정리(Brun's theorem)에 의하면

[math]\displaystyle{ \displaystyle\sum_{p\text{ is twin prime }}\frac{1}{p}\lt \infty }[/math]

로, 그러니까 수렴함을 증명하였다. 좀 더 강력한 정리를 소개하자면

[math]\displaystyle{ \displaystyle\sum_{p\text{ is twin prime }}1\ll \frac{x}{\ln^2{x}} }[/math]

가 된다. 여기에서 [math]\displaystyle{ \ll }[/math] 표기는 해석적 정수론에서 자주 쓰이는 표기로 [math]\displaystyle{ =O(\cdots) }[/math]랑 의미가 같다. 그리고 또 하나 중요한 정리는 소수들을 작은 순서대로 [math]\displaystyle{ 2=p_1,3=p_2,p_3,p_4,p_5,p_6,\cdots }[/math]라고 나열한다면

[math]\displaystyle{ \displaystyle\liminf_{n\to \infty}(p_{n+1}-p_n)\le 248 }[/math]

이 성립한다. 이런 문제들을 풀 때 해석적 정수론은 우리가 원하는 소수만을 걸러내가 위한 특별한 함수를 생각하는데, 앞서 말한 디리클레의 정리에서는 디리클레 지표, 쌍둥이 소수에선 에라토스테네스의 체를 개조한 특별한 방법(sieve method)을 쓴다.

골드바흐 추측은 유명한 추측으로 4보다 크거나 같은 어떤 정수 [math]\displaystyle{ n }[/math]이 있으면 적당한 두 소수 [math]\displaystyle{ p,q }[/math]가 존재해서 [math]\displaystyle{ n=p+q }[/math]라는 내용이다. 이것은 두 소수의 합에 대한 분포의 문제라고 볼 수 있는데, 합들의 분포 문제는 하디-리틀우드 원 방법을 쓸 수 있으며 이것으로 골드바흐 추측은 해결하지 못했지만 약한 골드바흐 추측, 그러니까 7보다 크거나 같은 홀수 [math]\displaystyle{ n }[/math]에 대해서 적당한 소수 [math]\displaystyle{ p,q,r }[/math]이 있어서 [math]\displaystyle{ n=p+q+r }[/math]이라는 것은 하디-리틀우드 원 방법으로 해결하는데 성공했다. 그러니까, 해석적 정수론에서 초등정수론 문제를 해결할 때 가지는 철학은 다음과 같다. 분포를 알면 성질도 같이 알 수 있다.

리만 제타함수

수학에 관심 있는 사람들이라면 리만 제타함수(Riemann zeta function)에 대해서 많이 들었을 것이다. 해석적 정수론의 관점에서 리만 제타함수는 소수의 분포들을 품고 있는 함수인데,

[math]\displaystyle{ \displaystyle \zeta(s)=\sum_{n\ge 1}\frac{1}{n^s} }[/math]

라고 정의한다. 이는 [math]\displaystyle{ \text{Re}(s)\gt 1 }[/math]에서 절대수렴한다. 그리고 가장 중요한 성질 중 하나가

[math]\displaystyle{ \displaystyle \zeta(s)=\prod_{p}\left(1-\frac{1}{p^s}\right)^{-1} }[/math]

이라는 성질이다. 이는 중요한데, 여기에서 우리는 곧바로

[math]\displaystyle{ \displaystyle \sum_{p}\frac{1}{p}=\infty }[/math]

라는 놀라운 결과를 얻을 수 있다.

좀 더 소수들에 대한 분포를 다이렉트하게 얻고 싶다면

[math]\displaystyle{ \displaystyle -\frac{\zeta'(s)}{\zeta(s)}=\sum_{n\le 1}\frac{\Lambda(n)}{n^s} }[/math]

를 보면 된다. 여기에서 [math]\displaystyle{ \Lambda(n) }[/math]는 망골트 함수(Mangoldt's function)이라고 불리는 걸로

[math]\displaystyle{ \Lambda(n)=\begin{cases} \ln{p} & n=p^e \\ 0 & \text{otherwise }\end{cases} }[/math]

를 생각할 수 있다. 그렇다면 경로적분은 우리에게 [math]\displaystyle{ \zeta(s) }[/math]의 영점과 소수의 분포가 정말로 밀접한 관계가 있다는 것을 알려주는데, 영점이 없는 영역을 생각하면 모든 [math]\displaystyle{ c\gt 0 }[/math]에 대해서

[math]\displaystyle{ \displaystyle \sum_{n\le x}\Lambda(n)=x+O_{c}\left(xe^{-c\sqrt{\ln{x}}}\right) }[/math]

라는 것을 증명할 수 있다. 그리고 리만 제타함수의 모든 영점이 음의 정수쪽을 제외하면 실수 부분이 2분의 1이라는 리만 가설을 가정하면

[math]\displaystyle{ \displaystyle \sum_{n\le x}\Lambda(n)=x+O\left(x^{\frac{1}{2}}\ln^2{x}\right) }[/math]

까지 개선할 수 있다.

디리클레 L-함수

우리는 모든 소수의 분포가 아니라 특정한 소수의 분포만 원한다고 할 때, 그 소수만 집을 수 있는 함수가 필요하고, 우리가 생각할 수 있는 가장 단순한 함수는 [math]\displaystyle{ P }[/math]가 일부 소수들의 집합일 때

[math]\displaystyle{ \displaystyle f(p)=\begin{cases} 1 & p\in P \\ 0 & x\notin P\end{cases} }[/math]

일 것이다. 하지만 이렇게 정의하는 것은 계산에서 힘들다. 이것을 어떻게 변형해서 뭔가가 나온다는 법칙이 있는 것도 아니고, 그냥 아무것도 아니어 보인다. 하지만 이런 법칙이 있다면 어떨까.

[math]\displaystyle{ \displaystyle \sum_{\chi \in \mathrm{Hom}((\mathbb{Z}/q\mathbb{Z})^{\times},\mathbb{C}^{\times})}\chi(a)\bar{\chi}(b)=\begin{cases} 1 & a\equiv b \pmod q \\ 0 & a \not\equiv b \pmod q \end{cases} }[/math]

여기에서

[math]\displaystyle{ \displaystyle\mathrm{Hom}((\mathbb{Z}/q\mathbb{Z})^{\times},\mathbb{C}^{\times})=\{\chi:\mathbb{Z}\to \mathbb{C}^{\times}| \chi(ab)=\chi(a)\chi(b),\chi(a+q)=\chi(a),\chi(a)=0\text{ for all }a \text{ which is }(a,q)\ne 1\} }[/math]

로 정의한다. 그리고 이것의 원소를 디리클레 지표라고 한다. 이렇게 계산할 수 없어 보이는 것을 어떻게든 계산할 수 있게끔 만드는 것은 해석적 정수론에서 매우 중요하다. 소수 체 방법(sieve method)이 이런 종류이며, 이 방법은 디리클레 지표와는 달리 정확한 계산은 힘들지만 정말 광범위한 곳에 적용할 수 있다.

이제 다음을 정의하자.

[math]\displaystyle{ \displaystyle L(s,\chi)=\sum_{n\ge 1}\frac{\chi(n)}{n^s} }[/math]

이를 디리클레 L-함수라고 하는데, 리만 제타함수가 소수 전체를 대변했다면 디리클레 L-함수는 특정한 소수들, 특히 [math]\displaystyle{ q }[/math]로 나눴을 때의 소수들에 대해서만 대변해준다. 이것의 영점 분포는 리만 제타함수와 마찬가지로 소수들의 분포를 나타내고, 이것으로 [math]\displaystyle{ a,b }[/math]가 서로소일 때 [math]\displaystyle{ an+b }[/math]꼴 소수가 무한히 많음을 증명한다.

초등적 증명

초등적 증명이라는 것이 있는데, 보통 복소해석을 쓰지 않는 증명을 말한다. 리만 제타함수나 디리클레 L-함수나 소수의 분포를 알기 위해서 복소해석의 힘을 빌리는데, 복소해석 없이 초등적으로 증명하겠다는 것은 기초적인 소수의 성질과 계산노가다로만 증명하겠다는 것을 말한다. 대표적으로 소수 정리

[math]\displaystyle{ \displaystyle \lim_{x\to \infty}\frac{\left(\sum_{p\le x}1\right)\ln{x}}{x}=1 }[/math]

를 아틀레 셀베르그가 초등적으로 증명한 것이 있다. 그리고 복소해석 말고도 다른 고급 이론. 대표적으로 대수기하를 쓰지 않는 증명을 초등적 증명이라고 말하며 장이탕은 소수의 분포를 알아낼 때 베유 추측과 그로텐디크 공식에서 딸려나오는

[math]\displaystyle{ \displaystyle \left|\sum_{x\in \mathbb{F}^{\times}_{p}}e\left(\frac{2\pi i}{p}f(x_1,\cdots,x_n)\right)\right|\le (d-1)^np^{\frac{n}{2}} }[/math]

를 썼다. 이걸 증명하려면 먼저 베유 추측부터 증명해야 하는데, 해석적 정수론하고는 거의 상관없는 이야기를 해야 한다. 하지만 수학자들은 이런 정리 없이 순수하게 해석적 정수론의 도구만으로

[math]\displaystyle{ \displaystyle \lim_{n\to \infty}(p_{n+1}-p_n)\le 246 }[/math]

을 증명하는데 성공한다.