소수 관련 미해결 문제

반응형

소수 관련 미해결 난제가 많이 남아있는데 그중 대표적인 것은 골드바흐의 추측이다.

크리스티안 골드바흐(Christian Goldbach, 1690~1764)는 자신이 생각한 추측을 오일러에게 편지로 보내는데 그것이 골드바흐의 추측이다. 이 문제는 20세기 수학계 최대의 난제 중 하나로 힐베르트가 제안한 23개의 난제에 포함되어 있다.

 

골드바흐의 강한 추측: 2보다 큰 모든 짝수는 두 소수의 합으로 나타낼 수 있다.

 

골드바흐의 약한 추측: 5보다 큰 모든 홀수는 세 소수의 합으로 나타낼 수 있다.

 

골드바흐가 처음 제안한 추측은 ‘2보다 큰 모든 정수는 세 소수의 합으로 나타낼 수 있다’로 골드바흐의 약한 추측과 동치이다. 당시 골드바흐는 1을 소수로 간주하였다.

강한 추측이 참이면 약한 추측은 참이지만 그 역은 성립하지 않을 수 있다. 골드바흐의 추측을 소재로 한 아포스톨로스 독시아디스의 소설 ‘사람들이 미쳤다고 말한 외로운 수학 천재 이야기(Uncle Petros and Goldbach’s Conjecture)’는 잘 나가는 유명대학교 수학 교수인 삼촌을 바라보는 조카의 시점에서 진행되는데 집안의 자랑이었던 삼촌이 교수직도 버리고 골드바흐의 추측을 증명하기 위해 여생을 바치면서 집안의 골칫덩이로 전락하는 과정을 그린 소설로 실제로 이 소설처럼 별다른 성과 없이 무명으로 인생을 보낸 수학자들도 많이 있다고 한다.

 

푸앵카레 추측(19세기말 프랑스의 천재 수학자이자 위상수학(Topology)의 창시자로 알려진 푸앵카레가 추측한 것으로 ‘어떤 하나의 닫힌 3차원 공간에서 모든 폐곡선이 수축돼 하나의 점이 될 수 있다면 이 공간은 반드시 원구(圓球)로 변형될 수 있다’이다. 밀레니엄 7대 난제 중 하나로 많은 수학자들이 도전하였다가 실패한 유명한 문제이다. 2002년 러시아의 수학자 그레고리 펠레만에 의해 증명되었다. 펠레만은 필즈상, 밀레니엄상, 상금, 유명대학의 교수로 스카웃 제안 등 모두 거절하고 사라져 많은 화제를 낳기도 하였다. 푸앵카레 추측은 아인시타인의 특수 상대성 이론의 모태가 되었고 우주의 모양을 예측할 수 있도록 하였다)을 푸는데 인생을 바친 크리스토스 파파키리아코풀로스라는 실제 수학자를 모델로 소설을 썼다고 한다.

 

소수 관련 미해결 문제 중 두 번째는 너무나도 유명한 리만 가설이다. 7대 밀레니엄 문제로 선정되어 있으며 난제 중 난제로 꼽힌다.

리만(Georg Friedrich Bernhard Riemann, 1826~1866)이 자신의 스승인 가우스를 기리기 위해 1859년 발표한 논문 <주어진 크기보다 작은 소수들의 개수에 관하여(On the number of primes less than a given magnitude)>에서

가우스는 소수의 개수가 무한개이고 불규칙적으로 나오는 소수의 분포를 연구하던 중 충분히 큰 수 N에 대하여 N이하의 소수 밀도

라고 추측을 했고 이것을 가우스의 소수정리라고 한다. 리만은 가우스의 소수 밀도를 오일러의 제타 함수를 확장하여 이를 해결하고자 했던 연구 과정에서 나온 리만가설이다.

오일러의 제타함수는 1보다 큰 임의의 실수 s에 대하여

은 오일러가 증명하여 유명해진 바젤문제이다.

리만은 s의 범위를 1을 제외한 복소수로 확대하여 리만 제타함수를 정의했다.
리만의 제타함수에서 s=2, -4, -6,···,에서는 자명한 근을 갖고 나머지 근들은 실수부가 1부터 1사이에 분포해 있는데 이 자명하지 않은 근들의 실수부는 모두 1/2이라는 것이다.

수학뿐만 아니라 물리에서도 리만 가설이 참이라는 전제로 많은 논리가 이미 전개 되고 있는 상황이다. 이 난제 역시 많은 수학자가 도전하였다가 실패하였다. 

영화 뷰티플 마인드(The Beautiful mind)로 잘 알려진 천재 수학자이자 노벨 경제학상, 아벨상 수상자인 존 내시(John Forbes Nash Jr., 1928~2015)도 리만 가설을 증명하기 위해 노력하다가 조현병(정신분열증)이 생겼다는 얘기가 있다. 인도의 수학자 라마누잔 역시 리만의 가설 증명을 시도하였다가 오랜 기간 스트레스로 인한 복통에 시달렸다고 한다. 최근의 일로는 필즈상과 아벨상을 받은 마이클 아티야(Michael Atiyah)가 2018년 9월 21일 리만 가설을 증명하였다고 발표하고 9월 24일 생방송할 예정이라고 하였다. 그의 업적이나 경력으로 보아 대단한 수학자였기에 많은 수학자들은 반신반의 하였다. 하지만 아쉽게도 증명은 실패하였다. 수학자들 사이에선 리만의 저주라고 할 정도로 난제인 것이다.

논문 <주어진 크기보다 작은 소수들의 개수에 관하여>에서 리만은 4개의 영점까지만 찾고 5번째 영점은 값이 다르게 나와 더 찾지 않은 것으로 추측된다. 논문에서는 엄밀하게 증명할 필요가 없어 증명은 생략하고 넘어간다고 했다.
리만은 논문을 쓴 후 바이어슈트라스에게 보낸 편지 내용이다.

물론 이 가설(내가 찾은 4개의 영점 뿐만 아니라 모든 영점들이 모두 한 직선 위에 존재하는가?)을 엄밀하게 증명할 필요가 있을 것이다. 나는 몇 번 대략적인 시도를 하였지만 실패했네. 지금은 증명을 제쳐둔 상태네. 왜냐하면 연구의 다음 목표를 위해서 그 증명이 필수적이지 않기 때문이야.

페르마가 페르마의 마지막 정리의 증명을 여백이 부족하여 증명을 써 놓지 못한다는 것을 약간은 패러디한 느낌이 없잖아 있다. 

1637년 페르마(Fermat)는 1621년 출간된 <산학> 제2권 8번 문제에 주어진 제곱수를 두 제곱수의 합으로 나누기라는 문제가 있는데 그 문제 아래 여백에 임의의 세제곱수는 다른 두 세제곱수의 합으로 표현될 수 없고, 임의의 네제곱수 역시 다른 두 네제곱수의 합으로 표현될 수 없다. 일반적으로 3 이상의 지수를 가진 정수는 같은 지수를 가진 다른 두 수의 합으로 표현될 수 없다. 나는 이것을 놀라운 방법으로 증명하였으나 책의 여백이 충분하지 않아 옮기지는 않는다.라고 주석을 달았다. 일반적인 방법에 대한 증명을 남기지는 않았지만 인 경우에 대하여 페르마는 증명을 남겼다. 이것이 그 유명한 페르마의 마지막 정리이다.

1839년 소피 제르맹은 이 100 이하인 소수에 대하여 성립한다는 것을 증명하였다. 19세기 중반 에른스트 쿠머는 정규 소수 전체에 대하여 페르마의 마지막 정리가 성립한다는 것을 증명하였다. 1985년 게르하르트 프라이(Gerhard Frey)는 타니야마-시무라 추론으로 알려진 타원 곡선에 대한 모듈러성 정리가 참일 경우 모든 정수 에 대하여 페르마의 마지막 정리가 성립한다는 추측을 제시하였는데 이를 엡실론 추측이라고 한다. 1년 후 케네스 리벳이 엡실론 추측을 증명하였다. 페르마의 마지막 정리는 360여 년간 많은 수학자가 이를 증명하고자 노력한 끝에 1995년에 이르러서야 영국의 수학자 앤드류 와일즈(Andrew Wiles)가 모듈러성 정리가 참이라는 것과 페르마의 마지막 정리가 성립한다는 것을 증명하였다.

힐베르트가 선정한 20세기 수학자들이 반드시 해결해야 할 23가지 문제에 리만가설이 포함되어 있다. 힐베르트가 말하길 만약 내가 천년 동안 잠들어 있다가 깨어난다면 가장 먼저 리만 가설은 증명되었습니까? 라고 물을 거라고 말할 정도로 힐베르트도 난제로 생각한 것이다. 현대의 암호체계가 대체로 큰 자연수를 소인수분해하는 것과 관련되어 있어 리만 가설이 증명된다면 현재 소수 중심의 암호체계가 해독되어 큰 혼란이 올 것으로 예상한다.