3차, 4차 방정식의 해법에 얽힌 이야기

4천 년 전 바빌로니아 시대에 이미 간단한 이차방정식 풀이를 하였고 12세기 바스카라 2세에 의해 2차 방정식의 일반 해를 구하는 식이 완성된다. 그 후 3차 방정식의 근의 공식은 오랫동안 찾지 못하다가 16세기가 돼서야 삼차방정식의 해법이 발견된다. 

16세기 초 회계학의 아버지로 불리는 이탈리아 수학자 파치올리(Luca Pacioli, 1445~1515)는 당시 유럽에서 무역이 활발하여 상업의 중심지였던 베니스 상인들의 이익을 높이기 위하여 복식부기를 체계적으로 정리하였다. 인도에서 탄생한 복식부기는 아라비아 상인을 거쳐 이탈리아 제노바로 들어왔고 파치올리에 의해 유럽으로 전파되었다. 파치올리에 의해 체계화된 복식부기는 이후 자본주의 사회에서 경제활동에 엄청난 영향을 미쳤고 오늘날까지도 거의 변함없이 그대로 사용하고 있다. 파치올리는 당시 미술, 대수, 삼각법에 관한 지식을 정리하여 소개하였으며 레오나르도 다빈치와도 친분이 있었다. 이러한 파치올리가 3차 방정식의 일반해법은 존재하지 않는다고 발표하였다. 이차방정식의 해법이 알려지고 오랜 기간 3차 방정식의 해법이 밝혀지지 않아 많은 사람이 이를 거부감 없이 받아들였지만 역으로 이탈리아 수학자들이 3차 방정식의 해법에 관심을 갖게 되는 도화선이 되기도 하였다. 

아라비아 수학자들은 3차 방정식의 해법을 두 개의 원뿔곡선의 교점을 이용하여 기하학적으로 구하였다. 하지만 대수적인 해법은 아니었다. 처음으로 대수적인 방법으로 3차 방정식을 풀은 사람은 이탈리아 볼로냐 대학교의 수학 교수였던 페로(Scipione del Ferro, 1465~1526)로 이차항이 없는 3차 방정식을 대수적으로 풀었다.

15세기 유럽에서 지중해를 중심으로 상업이 발달함에 따라 일상생활에서 계산이 필요한 경우가 많이 생겨나고 이를 전문적으로 해결해 주는 수학자들이 있었다고 한다. 이러한 수학자들은 자신이 더 뛰어나다는 것을 보이기 위해 서로 실력을 겨루는 공개 시합을 하였는데 상대가 낸 문제를 정해진 시간 내에 많이 풀은 사람이 이기는 경기였다. 이러한 시합은 점차 대중화되고 수학자들의 우열을 가리는 데 이용되었다. 따라서 자신이 연구하고 발견한 내용을 혼자만 알고 있는 경우가 많았다. 승부에서 이기면 명성이 올라가고 지면 몰락의 길을 걷기도 했다. 

이런 공개 시합 중 유명한 것은 1535년 2월 22일 밀라노 성당에서 있었던 안토니오 피오레와 타르탈리아의 시합이다. 1530년 타르탈리아는 일차항이 없는 형태의 삼차방정식  에 대한 대수적 해법을 발견하였다. 그런 자신감으로 당시 유명하였던 페로의 제자 피오레에게 공개 시합 도전을 하였다. 페로는 자신이 알고 있는 3차 방정식의 해법을 자신의 제자인 피오레에게만 알려주고 세상을 떠났다. 타르탈리아는 피오레를 이기기 위해선 자신만이 알고 있는 해법 외에 페로가 전수한 이차항이 없는 3차 방정식 해법을 알아야 했다. 이차항이 없는 삼차방정식의 해법을 찾고자 노력한 끝에 시합을 열흘 앞두고 마침내 그 해법을 찾아냈다. 경기는 30문제를 50일 동안 푸는 것으로 진행되었는데 타르탈리아가 제시한 문제를 피오레는 한 문제도 풀지 못하였고 피오레는 예상대로 이차항이 없는 3차 방정식 문제를 제시하였으나 타르탈리아가 30문제 모두 풀어 일방적인 승리로 끝났다.

타르탈리아는 말더듬이란 뜻으로 그의 본명은 니콜로 폰타나였다. 
니콜로 폰타나(Nicolo Fontana, 1499~1557)는 어렸을 때 자신이 살던 이탈리아의 작은 마을 브레시아에 프랑스군이 침공하였는데 그때 심한 중상을 입게 되었다. 다행히 어머니의 극진한 치료로 목숨은 건졌지만 상처의 후유증으로 심한 말더듬이가 되었다고 한다. 그래서 사람들은 이름보다는 타르탈리아(Tartaglia, 말더듬이라 뜻)로 불렀다고 한다. 전쟁으로 아버지를 잃고 너무 가난하여 학교에 다닐 수 없어 헌책을 구하여 공동묘지에 묻힌 아버지의 묘비에 돌멩이로 글씨를 쓰면서 독학을 하였다. 그런 노력 끝에 폰타나는 베니스 대학의 수학 교수가 되었다. 

폰타나는 피오레와의 공개 시합에서 일방적으로 승리하면서 그는 전국적으로 알려지게 되었다. 폰타나는 더욱 연구하여 3차 방정식의 일반 해를 찾는 데 성공하였고 이러한 소문은 그의 명성과 함께 전국적으로 퍼져나갔다.

당시 밀라노에서 의사이면서 수학을 연구하던 카르다노(Girolamo Cardano, 1501~1576)는 소문을 듣고 폰타나를 여러 번 찾아가 설득한 끝에 자신만 알고 있겠다는 조건으로 3차 방정식의 해법을 알게 된다. 하지만 카르다노는 약속을 어기고 1545년 출간한 <위대한 계산법(Ars magna)>에 3차 방정식의 해법과 자신의 제자인 페라리가 밝혀낸 4차 방정식의 해법도 함께 발표한다. 폰타나는 배신감과 분노에 카르다노에게 항의하고 자신의 명예를 회복하고자 카르다노에게 공개 시합을 신청하였다. 하지만 공개 시합에 응한 사람은 카르다노가 아닌 그의 제자 페라리(Ferrai)였다. 페라리는 이미 4차 방정식의 해법까지 알고 있는 상태였기에 폰타나는 페라리에게 상대가 되지 않았다. 이 일을 계기로 폰타나는 사람들에게 점점 잊혀져 가고 분노로 시름시름 앓다가 1557년에 세상을 떠난다. 오늘날 3차 방정식의 해법은 카르다노의 해법으로 알려졌지만 실제로 해법을 찾아낸 사람은 폰타나이다.

카르다노는 이탈리아 르네상스 시대에 의사, 수학자, 철학자, 작가로 활동하였으며 괴팍한 성격의 소유자로 알려져 있다. 
카르다노의 자서전 <나의 생애>에서 한 창녀가 낙태에 실패하게 되면서 한 아이가 사생아로 태어나는 것으로 시작한다. 아버지는 당시 레오나르도 다빈치와 친분이 있는 유명한 변호사였다. 카르다노는 어려서부터 천재성을 보여 20대에 의사가 되었고 그 무렵 결혼하면서 아내가 가져온 결혼지참금을 밑천으로 도박을 시작했다고 한다. 카르다노의 삶은 평탄치 못하였다. 아들 셋이 있었는데 첫째 아들은 어머니(카르다노의 아내)의 부정을 알게 되어 어머니를 독살하였는데 이를 알고 카르다노는 아들을 고발하여 아들은 참수형을 당하게 된다. 이 일로 카르다노는 평생 마음의 병을 갖고 살게 된다. 둘째 아들은 병으로 사망하고, 셋째 아들은 도박꾼이 되어 카르다노의 재산을 탕진하였다고 한다. 또, 자신이 아끼는 제자 페라리는 도박과 술에 빠져 생활하다가 여동생에게 독살된다. 카르다노는 예수를 모욕했다는 죄목으로 종교재판에 넘겨져 투옥되었으나 자신의 주장을 철회하면서 몇 달 만에 풀려나기도 하였다. 말년에는 점성술에 빠져 별점을 봐주고 돈을 받으며 생활하였다. 어느 날 카르다노는 자신의 별점을 보고 죽는 날을 예언하였는데 예언한 날이 오자 자신의 예언이 맞았다는 걸 보이기 위해 자살하였다고 한다.

파스칼이 확률이론의 기틀을 마련하기 이전에 카르다노는 도박을 좋아하여 <주사위 게임에 관하여>라는 책을 저술하였는데 최초의 체계적인 확률론 책으로 평가받는다. 카르다노는 3차, 4차 방정식을 연구하면서 허수의 필요성을 느껴 허수를 처음으로 도입하였고 수학과 의학, 점성술 분야에도 상당한 업적을 남겼다. 카르다노는 의사로서 장티푸스를 제대로 진단한 최초의 의사이기도 하였다.