오차 방정식의 일반 해를 구할 수 없음을 증명한 아벨

19세기 초 아벨과 갈루아는 같은 시대에 살면서 많은 공통점을 갖고 있다. 서로 만난 적은 없지만 둘 다 불운의 천재 수학자로 20대에 요절한 수학자들이다. 16세기말 4차 방정식의 해법이 발견된 이래 300여 년 동안 최대 난제였던 5차 이상 다항 방정식의 해를 대수적인 방법으로 일반 해를 구할 수 없다는 것을 증명한 것이었다. 아벨의 발표 후 갈루아도 독자적인 방법으로 증명하였다. 갈루아의 방법은 모든 다항 방정식에서 대수적으로 풀 수 있는 경우와 없는 경우를 판별할 수 있어 아벨의 발표보다 더 진보된 내용으로 볼 수 있다.

닐스 헨리크 아벨(Nieis Henrik Abel, 1802~1829)

아벨(Nieis Henrik Abel, 1802~1829)은 노르웨이 수학자로 오슬로 근교 작은 도시 핀되에서 태어났다. 아버지는 가난한 교회 목사였는데 술을 많이 마셨고 어머니는 유명한 피아니스트이자 가수였지만 자식들에게는 관심이 없어 자식들을 기숙학교에 맡겼다. 이때 아벨은 크리스티아니아 중학교에 입학하게 되는데 아벨은 불운한 수학자였지만 여기서 수학교사 홀름보에를 만난 것은 그에게 큰 행운이었다.

홀름보에는 아벨의 재능을 알아보고 그를 열정적으로 지도했고 그가 성장할 수 있도록 조언하였다. 18세가 되던 해 아버지는 과음으로 사망하였고 장남이었던 아벨은 가장으로서 동생들을 돌봐야 했다. 경제적으로 어려운 상황으로 대학진학은 엄두도 못 내는 상황이었지만 스승인 홀롬보에의 노력으로 정부의 보조금을 받게 되어 크리스티아니아 대학(현재 오슬로대학)에 입학하여 공부할 수 있었다.

22세가 되던 해 아벨은 300여 년간 찾지 못했던 5차 방정식의 일반적인 해법은 존재하지 않으며 5차 이상의 다항 방정식에는 제곱근 연산과 사칙연산만으로 풀 수 있는 근의 공식이 존재하지 않는다는 것을 처음으로 증명하였다. 당시로선 너무 난해하고 추상적인 아벨의 증명은 인정받지 못하여 자비로 출판할 수밖에 없었다. 자비로 출판하다 보니 경비를 줄이기 위하여 많은 부분을 생략하고 핵심적인 부분만 압축하여 출판하였는데 허무맹랑한 논리라는 냉정한 평가와 사람들의 비웃음을 받았다. 대수학자 가우스조차도 쓰레기라고 평가했다고 한다. 출판 직후 수학계의 일인자인 가우스에게도 논문을 보냈으나 가우스가 사망한 후 그의 유품에서 뜯어보지도 않은 아벨의 논문이 발견되었다고 한다. 

22살에 아벨은 정부의 지원을 받아 독일과 프랑스의 수학자들과 교류를 위해 여행을 떠난다. 그 기간에 아벨은 자신의 논문을 혹독하게 평가한 괴팅겐에 있는 가우스를 피해 베를린으로 가게 되는데 여기서 독일 수학자 아우구스트 레오폴트 크렐레(August Leopold Crelle, 1780~1855)를 만나게 된다. 크렐레는 아벨의 천재적인 수학적 재능을 인정하고 1826년 크렐레가 창간한 <순수 및 응용 수학 저널>에 아벨의 논문을 게재하였다. 그 당시 아벨의 연구는 파리에서 알려지지 않았기에 자신의 이름을 알리고자 아벨의 정리가 포함된 타원함수에 관한 연구 논문을 파리에 있는 프랑스 학사원에 제출하였으나 당시 논문을 받은 오귀스탱 루이 코시 역시 그 논문을 읽어 보지도 않았다고 한다. 

결국, 아벨은 별다른 성과를 얻지 못하고 결핵으로 건강이 나빠져 바로 귀국하였으며 귀국 후에도 꾸준히 연구 활동을 하여 대수 함수에 관한 아벨의 정리를 증명한 논문을 발표하였는데 이 논문으로 인해 많은 수학자에게 인정을 받게 되고 수학계에서도 높이 평가하게 되었다. 아벨은 안정적인 직장을 얻지 못하고 가정교사, 대학의 보조금 등으로 생활하는 경제적인 어려움을 겪고 있었다. 그의 경제적인 어려움을 덜어주고자 수학계에서는 노르웨이 왕에게 도움을 요청하는 서신을 여러 차례 보냈고 크렐레는 베를린대학에 수학 교수직을 마련해 주기 위해 노력하였다. 아벨의 논문이 수학계에서 인정받고 크렐레의 노력 덕분에 베를린 대학교에서 수학 교수로 아벨을 임명하기로 했다. 그러나 안타깝게도 임명을 알리는 전보가 도착하기 이틀 전날 아벨은 그동안 누적된 피로와 결핵으로 약혼녀인 크리스티네 켐프(Christine Kemp)의 품에서 26세의 나이로 사망하였다. 아벨은 수학 교수가 되는 것이 소원이었는데 죽은 후에 수학 교수로 임명된 것이었다.

또, 아벨은 홀롬보에 선생님에 대한 존경심을 표현하기도 하였는데 자신이 유명해져 수학적 성취의 비결에 대한 질문을 받았을 때 ‘위대한 수학자에게 직접 배워서 가능했다’라고 말했다고 한다.
아벨이 사망한 지 10년 뒤에 홀롬보에 선생님은 아벨의 업적을 기리기 위해 아벨전집을 발간하였다. 노르웨이 정부는 아벨의 업적을 기리기 위해 유로 화폐단위를 사용하기 전 노르웨이 화폐에 아벨 초상화를 넣기도 했고 아벨을 기념하는 우표를 발행하기도 했다. 아벨 탄생 200주년을 기념해 ‘아벨상’을 제정하고 2003년부터 매년 시상해 왔다. 아벨상은 필즈상과 더불어 가장 권위 있는 수학상이다. 아벨상은 나이 제한이 없고 응용 수학 분야까지도 인정된다. 반면 필즈상은 4년마다 열리는 국제수학자대회(ICM)에서 수학 분야별로 주는 상으로 40세 미만이라는 수상자 나이 제한이 있고 순수 수학 분야에 국한되어 있다.