1996년.

공대생이라면 누구나 대학 1학년 때 미적분학을 배운다. 하지만 이제 막 대학에 들어가서 좀 놀아볼까 하는 새내기들이 미적분학처럼 고루한 과목에 열을 내지는 않는다. 요즘은 어떤지 몰라도 96년에는 그랬다. 천여 명의 공대생이 동시에 들어야 하다 보니 교수가 누구인지도 모른 채 클래스 하나를 배정받아야 했던 과목이었다.

일반물리라면 모를까 미적분학 강의실에 캠퍼스의 낭만은 없었다. 일반물리 강의실의 낭만이란 이를 테면, 대형 강의실 맨 뒷자리에서 과대표가 정예부대를 조직하면 수업이 끝나는 대로 142번 버스를 타고 나가 신촌에서 이대생들과 미팅을 하고 돌아오는 것이었다. 대학 새내기의 5월은 이토록 아름다웠다.

수학과 건물은 빛바랜 붉은 벽돌 건물이었다. 건물 앞 공터에 이름 붙여진 '붉은 광장'은 모스크바의 '붉은 광장'을 따온 것이라 했지만 실상은, 낡아서 바닥에 떨어진 벽돌가루가 신발 밑창에 잔뜩 묻는다고 해서 붙여진 이름이었다.

여학생이라고는 찾아볼 수 없는 미적분학 강의실. 우리 과 동기생들은 총원 295명 중 여학생이 10명이었다. 40명 정도의 교실 단위로 반을 나누고 보면 마치 중학교 시절로 돌아간 듯했다. 시멘트 바닥의 네모난 강의실, 1인용 책상와 걸상, 녹색 칠판과 하얀 분필.

나의 미적분학 선생님은 영화에서 전형적으로 묘사되곤 하는 수학자의 모습이었다. 수업 시간에 개인적인 얘기나 농담은 거의 하지 않으셨고, 미분으로 시작해서 적분으로 끝나는 수업에 충실하셨다. 한 마디로 학생들에게 인기를 끌 만한 스타일의 강의는 아니었다.

하지만 나는 미적분학 수업이 좋았다. 생각지도 못했던 방식으로 수학을 바라보는 관점을 접할 때마다 미적분의 아름다움을 느꼈다. 대수와 기하를 넘나들며 칠판에 뿌려대는 선생님의 수식들은 백묵으로 쓴 한 편의 시였다.

미팅, 동아리, 당구장, 게임방, MT 등 온갖 유혹으로 정신없었던 5월, 나는 미적분학 중간고사에서 높은 점수를 받고 싶었다. 아름다운 수학 강의에 바치는 오마주가 될 것이라고 생각했다. 까까머리 중학생 때 짝사랑하던 교생 선생님 과목이었던 생물 점수가 중요했던 것처럼.

2014년.

세계수학자대회는 수학계에서 가장 큰 컨퍼런스다. 필즈상 시상식을 비롯하여 여러 강의와 세미나가 일주일 동안 이어진다. 올해 세계수학자대회는 특히 언론의 주목을 받았는데, 서울에서 열리기도 했거니와 수학자로서 큰 영광으로 여겨지는 기조강연자로 한국인이 초청받아 무대에 서기 때문이었다. 세계수학자대회를 앞두고 연일 언론에 이름이 오르내린 황준묵 교수가 나의 미적분학 선생님이다.

며칠 전 KAIST ‘정오의 수학 산책‘에 황준묵 교수님이 오신다는 소식을 들었다. 강의 제목은 ’무리식의 부정적분‘이었다. 세계수학자대회 기조연설자의 강의 제목이 무리식의 부정적분이라니 약간 생뚱맞기도 하지만, 어쨌거나 나로서는 18년 만에 듣는 미적분 강의가 된 셈이다.

강의 내용을 간략히 옮겨 본다.

무리식의 적분은 오랫동안 해결되지 않는 문제였다. 17세기 수학자들이 갖가지 방법으로 시도해 보았지만 풀리지 않았다. 오일러가 1751년에 발표한 덧셈 정리가 실마리가 될까 싶었지만, 오일러의 덧셈 정리는 일반화가 쉽지 않았다.

수십 년이 지나서야 노르웨이 수학자 아벨에 의해 또 한 번의 진전을 이룬다. 아벨은 오일러 덧셈 정리를 일반화하여 아벨 적분을 유도하였는데, 1826년에 제출한 논문은 심사 중인 채로 서랍 속에 있다가 16년이 지난 1841년이 되어서야 출판되었다. 아벨은 이미 죽은 후였다.

뒤늦게 발표된 아벨의 논문은 학계에 충격을 던져 주었다. 아벨 적분은 오일러 덧셈 정리 일반화 이상의 의미를 담고 있었다. 아벨이 알아낸 사실은, 당시 수학자들이 알고 있던 함수 꼴 외에도 무궁무진한 함수가 존재한다는 것이었다. 어떤 수학자가 “아벨이 수학자들에게 150년 동안 할 일을 줬다”고 한 것은 이 때문이었다. 하지만 아벨 적분은 계산이 너무나 복잡해서 19세기 해석학에서 가장 골치 아픈 문제로 남게 된다.

오일러와 아벨에게 주어진 문제는 리만의 손으로 넘어갔다. 리만은 1857년에 출간한 ‘아벨 함수론’ 논문에서 아벨 적분 문제를 손쉽게 해결해 버렸다. 새로운 패러다임으로 접근한 것이다. 리만은 적분과 함수로 주어진 문제를 기하학 문제로 치환했다.

리만의 논문에는 미적분학 계산 대신 개념적인 그림이 등장한다. 수학 논문 역사상 계산 문제를 그림으로 풀이하는 경우는 없었다.

리만의 논문은 복소기하학의 시초가 되었으며, 아인슈타인의 일반상대성이론에 결정적인 기여를 한다. 어떤 수학자가 리만의 논문을 가리켜 ‘슈퍼노바‘라고 부른 것도 무리가 아니다. 리만 면에 대한 연구는 현재 진행형이다.

강의를 다 듣고 나서야 무리식의 부정적분이 의미하는 바를 알게 되었다. 복소기하학이라는 학문의 뿌리가 거기에 있었다. 타원 궤도로 태양을 도는 행성의 위치를 예측하는 계산 문제에서 새로운 기하학이 탄생한 것이다. 황준묵 교수의 전공이 복소기하학이다.

흔히 수학의 아름다움을 말할 때 ‘답이 하나’라는 점을 꼽는다. 명료한 논리가 이어져 답에 이르는 과정에 수학의 맛이 있다고 말한다. 하지만 수학의 미감은 그렇게 단순하게 설명되지 않는다.

유클리드 원론에 등장하여 2천 년 동안 풀리지 않던 정17각형 작도 문제가 있었다. 이를 19살의 가우스가 삼각함수 연산 문제로 치환하여 작도 가능함을 대수로 증명했다. 기하학의 문제를 대수학의 영역에서 해결한 것이다. 가우스가 자신의 묘비에 정17각형을 새기고 싶다고 할 정도로 획기적인 사건이었다.

수학이 아름다운 이유는 실존하는 세계와 다른 또 하나의 세계를 창조할 수 있다는 점에 있다. 수학 역사상 유명했던 난제들은 논리의 전개가 아니라 세계관의 전환에 의해서 해결되곤 했다. 기존 세계를 벗어나 다른 세계를 채택하는 것이 가능하다는 점에서 수학은 특히 아름답다. 

18년이 지났건만 선생님의 미적분 강의는 여전히 아름다웠다.

◆이정원 ETRI선임연구원은

이 연구원은 이정원의 문화 산책을 통해 자연과 인류가 남긴 모든 종류의 아름다운 것들에 대한 감상을 나누고자 합니다.

이정원 연구원은 서울대학교 전기공학부에서 공부하고 동 대학에서 의용생체공학 석사를 마쳤습니다. 현재 ETRI에서 근무하고 있으며 KAIST에서 바이오및뇌공학과 박사과정을 진행 중입니다.