#맥레인 #수학형식과기능 #카테고리이론

"수학 형식과 기능" 소온더즈 맥 레인 2001 이상구

(소온더즈 맥 레인 2001)

Mathematics; Form and Function by Saunders Mac Lane Springer-Verlag, New York Inc. 1986.

수학; 형식과 기능 역자: 이상구, 곽영직, 권기호, 한태식, 오채환, 청음사, 서울.수원 2001

역 자 서 문

사람이 하는 일을 크게 대별하자면 한결 더 높은 다른 목표를 위한 수단적 성격이 강한 경우와 그 자체로서 궁극적 목표인 경우가 있다. 나의 경우 이 책을 이 땅에 소개하는 일은 분명히 후자의 경우, 즉 그 자체가 하나의 목표라고 판단했다. 그만큼 이 책을 대하고 또 소개하는 일에 임하는 자세는 각별하여 차라리 비장하다는 표현이 어울릴 정도였다. 그렇지만 상정된 목표를 완수하는 데에 너무 오랜 시간(아마도 저자가 이 책을 직접 저술하는 데 걸린 것보다 더 긴 시간)이 지체된다면 그것은 정상적인 목표라기보다는 힘겹고 주제 넘는 욕심으로 봐야 마땅할 것이다. 지식과 관련된 일종의 오기 내지 과욕이랄까. 또 한편으로는 이 책이 우리보다 앞서 일본에서 소개되었다는 사실이 편치 않은 강박으로 작용하기도 하면서, 마냥 늦어지는 숙제를 끌어안고 지내기를 6년여. . . 결국 Springer-Verlag 출판사와의 약속을 거듭 번복해야만 했던 사실은 뭐라고 변명하기조차 어려운 지경이 되었지만, 불가피 자위하기 위하여 내린 아전인수격 결론은 '그만한 가치가 있는 너무도 대단한 책이기에'였다.

어쨌든 처음 이 책을 본 역자에게 소개한 최 선생의 이름조차 아스라한 지금이라도, 미흡한 형태로나마, 이 책이 빛을 보게 되었다는 사실은 그야말로 'beyond description'의 심경이다. '어떻게든 책이 나오기는 하는구나' 하는 식의 자조적 감회의 정도 및 성격의 차이는 있겠으나 기꺼이 동참하신 (그 죄로 애꿎게 고생하신) 다른 네 분 선생님들도 마찬가지 심경일 것이다. 그밖에도 실로 많은 분들의 고생 또한 일일이 헤아리기 민망할 지경이지만, 感傷은 언제나 당사자의 몫이니 이쯤에서 접어두기로 하자. 다만 한 가지 더 밝혀 둘 사실은 이 책의 번역작업이 처음부터 다섯 명이 일관되게 시행한 것이 아니었다는 점이다. 한국어 판권을 소유한 청음사에서 곽영직.이상구.오채환 이 세 명이 각자 전공에 맞게 네 章씩을 맡아 1995년에 착수했으나 발간 계약기일이 임박한 1998년이 되어서도 마무리에 애를 먹고 있었다. 그러던 중 육사 교수부 수학과의 한태식.권기호 두 교수도 같은 책을 독자적으로 상당한 분량을 작업해 놓았으나 막상 저작권 문제로 애를 태우고 있다는 소식을 전해 들었다. 한편으로 안타깝기도 했으나, 솔직한 심정은 내심 반가웠다. 비록 경로는 달랐으나 같은 정상을 향해 大長征에 비견되는 외롭고도 지난한 작업을 하는 분들이 이 땅의 어딘가에 또 있다는 사실의 발견은 일견 회생 불가능한 장기(臟器)의 상호공여와도 같은 희망을 북돋웠다. 나는 그런 소식을 그 해 겨울 어느 산 정상에서 들었다. 이후 모든 나머지 여정도 접어두고 한달음에 내려와 소위 '장기 상호이식'을 위하여 통념적인 이해타산은 뒤로 할 것을 반 강요하다시피 하면서 대수술에 들어갔다. 그렇지만 소생의 희망도 잠시였다. 나는 외과의사가 아니어서 실제 생체 수술이 얼마나 어려운지는 몰라도 문자적 접합.이식수술 역시 그 못지 않게 어렵다는 사실을 절감하다 못해 절망하고 말았다. "아, 나는 왜 이 고산의 정상 언저리에서 버거운 숨을 몰아쉬며 힘들어하고 있는가? 그것도 지리할 정도로 오래도록."

문자적 접합이라는 고달픈 노동의 시원(始原)을 굳이 따지자면, 혼란이라는 어원을 갖는 바벨탑의 건설과 실패에서 찾을 수 있다. 이후 통일언어에 대한 열망은 거듭해서 시도되고 또 그 회수만큼의 좌절이 계속되었다. 그렇다고 해도 이 책 번역의 완성도가 떨어지는 책임을 면하기는 어렵다. 특히 인명과 아직 한국에서는 통일된 형태로 정착하지 못한 용어 때문에 많은 애를 먹었는데, 결국 현실적인 타협점을 찾았다. 일거에 완성적인 판본을 내지 못하더라도 꾸준히 완성된 형태를 지향하며 보완해 나가겠다는 생각이 그것이다. 아마 극심한 피로는 학문과 관련된 작업을 하는 사람이 지녀야 할 최소한의 양식과 분별력마저 둔화시켜 본의 아니게 뻔뻔하게 만드나 보다. 어쨌든 예견되는 질타만 해도 헤아리기 힘들 지경이므로 푸념성 자책은 그만 하련다.

이 책은 '수학, 형식과 기능' 전체를 완역한 것이다. 이 한국어판의 출판에 즈음하여 원저자는 '한국어판 서문'을 실어 주었다. 그리고 원저의 미흡한 부분을 나중에 고친 상세한 정오표까지 보내 주었다. 그런 만큼 번역문이 알기 쉬우면서도 원문에 충실하도록 노력했으나 역부족을 인정해야 하는 미흡한 부분이 많지 않을까 우려된다. 제7장 이후부터는 대학의 이공계에서만 다루는 전공 내용도 다루지만, 꼭 필요한 설명은 본문 가운데 제시되고 있기 때문에 관심있는 독자라면 누구나 읽기에 큰 어려움은 없으리라고 생각된다.

각 장을 순서대로 일람하면, 제1장에서는 수학의 본질이라고 저자가 전제하고 있는 형식성이라는 개념이 제시된다. 수학이란 일상활동으로부터 얻어지는 사실이나 발상에 기초를 두면서도 그런 것들을 직접적으로 취급하진 않고, 그로부터 엄격하게 형식화된 제반구조를 취급한다는 저자의 기본적 생각이 뚜렷하게 제시된다. 따라서 수학이론의 정당성은 현실의 사실에서 반증되지 않는다는 귀결에 이른다. 그렇지만 형식화는 단일한 구조를 갖는 것이 아니라 갖가지 상이한 방법에 의해 이룩된다는 소위 형식화의 다양성을 아울러 강조하고 있다. 또 같은 관점에서 수학의 여러 기본적 부문들을 개관하고 있다. 제2장에서는 자연수 정수 유리수를, 제3장에서는 고전적 유클리드 기하학 및 비유클리드 기하학을, 그리고 제4장에서는 실수가 다뤄진다. 모두 친숙한 대상들이지만 이 책에서는 특히 그것들의 공리적 취급을 중점적으로 거론한다. 제5장에서는 함수의 개념이 진화되어온 과정상의 여러 견해를 소개한 후, 그것이 집합론을 기초로 삼으면서 비로소 정확한 틀을 갖춘 형식화가 가능해졌다는 사실이 지적된다. 이는 다시 제11장의 내용과 연결된다. 한편 함수의 합성이라는 사고로부터 군의 개념이 유도된다. 군에 관련된 광범위한 자료를 제시한 후 저자는 대수계 중에서도 군개념이 특히 풍부한 내용을 갖는 이유를 따져 물으며 자신의 견해를 밝힌다. 제6장에서는 미적분학의 기초적 이론을 다루면서, 그것이 한편으로는 컴팩트성과 거리공간 등 토폴로지의 제반개념을 도출하고, 다른 한편으로는 현대해석학으로 발전하게 되는 과정을 밝혀주고 있다. 그리고 제8, 9, 10장은 이에 대한 보다 상세한 취급이라 하겠다. 제7장은 선형대수로서, 수학의 여러 분야에서 볼 수 있는 선형성(lineality)이 벡터공간의 이론으로 형식화되는 과정을 거론한다. 특히 텐서와 외적대수, 단인자론 등에 관해서 핵심을 꿰면서도 간명하고 알기 쉬운 설명이 담겨 있다. 제8장에서는 현대기하학 중에서도 가장 중요한 개념의 하나인 다양체와 그 곡률이 어떻게 정식화되어 왔는가 하는 주제에 주목한다. 여기서 독자들은 다음과 같은 저자의 대가다운 식견을 눈여겨볼 필요가 있다. "기하학은 시각에 의해 얻어진 상을 형식적인 도구로 바꾸는 하나의 수단이다." (이에 관한 구체적 언급은 이어지는 8, 9, 10절을 통해서 찾을 수 있다.) 11절에서는 '층'이라는 개념이 나타나는데, 이것이 또 하나의 다양체 정식화를 부여한다는 사실을 저자는 환기시키고 있다. 이것은 이 책 전체를 관통하고 있는 "하나의 아이디어를 정식화하는 방법은 단일하지 않고 다양할 수 있다"는 주장의 좋은 예라 하겠다. 이같은 층의 개념은 더욱 발전하여 수학기초론(제11장)에 가면 전혀 생각지도 않았던 응용을 접하게 된다. 또 같은 개념이 다양한 방식과 경로를 취하는 예가 고전역학과 미분기하학 사이에서 나타나는데, 이는 제9장에서 다루고 있다. 뉴톤 역학이 보편적 형식을 갖추어 가는 과정을 추적하면서, 서로 다른 두 분야간에 같은 개념이 생기는 경위를 찾아본다. 특히 라그랑즈 형식에서 헤밀턴 형식으로의 이행에 관해서 저자 자신의 견해가 피력된다. 8절에서는 범세계적 석학이 헤밀턴 방정식의 유도과정을 제대로 이해하는 데 50년이 넘게 걸렸음을 고백하고 있는데, 이 대목에서 역자는 아연 숙연해지며 저자에 대한 학문적 경외심을 더하지 않을 수 없었다. 제10장은 <복소해석과 위상>이라는 제목을 달고 있는데, 그 내용은 표준적 함수론의 교과서적 서술이지만 워낙 풍부한 제재가 간명하고도 명쾌하게 수록되어 있기 때문에 함수론을 급히 정리할 독자에게 권하고싶은 장이라 하겠다. 이 장은 제목처럼 복소해석에 대한 단순 해설에 그치는 것이 아니라 저자가 수학 전체에 걸쳐 줄기차게 품어온 사상의 요체를 드러내고 있다. 그 간파를 위해서는 독자들이 다른 장과의 연관관계에도 관심을 기울일 필요가 있다. 제11장에서는 소위 수학기초론을 본격적으로 다룬다. 내용적인 면에서 보면 이 장이 본서의 중심을 이루고 있다. 전반은 괴델의 불완전성 정리의 증명에 주력하는데, 실제 기술된 내용은 대단히 이해하기 쉬운 형태로 제시되어 큰 어려움 없이 읽어나갈 수 있다. 그러나 사이사이 수록된 저자의 깊이있는 철학을 놓쳐서는 이 책을 읽는 진가를 맛보지 못할 것이다. 이 점 유의해야 하며, 그것은 이 장의 후반부에서도 똑같이 유효하다. 후반은 연속체가설 등의 독립성을 증명하는 데 사용된 코헨의 강제법 층이론에 의한 기하학적 정식화를 보여준다. 이 정식화에는 저자 자신의 이름으로 탄생하고 발전한 카테고리 이론 및 구조함수(functor)가 이용된다. 마지막으로 제12장은 앞서 언급한 전체 내용을 아우르면서 수학을 전공하지 않은 독자들까지 모두 포함하여 나름대로의 입장에서 참여할 수 있는, 소위 수리철학의 논의가 전개된다. 이를테면 7절의 '일반화와 추상화'에 대한 정리는 수학 이외의 많은 분야에 걸쳐서도 유효하고 유익한 내용이다. 저자는 진지하고도 원숙한 노대가의 입장을 '형식적 기능주의'라는 이름으로 명명하면서 적지 않은 분량의 지적 여정을 마감한다.

어느 분야나 마땅히 있어야만 할 것 같은 고전이 있다. 그런 책은 세월이 지나면서 '아우라'까지 더해가기 십상이다. 이 책은 수학에 관한 한 그러한 운명이 예견되는 책이라고 믿는다. 읽고 옮기는 데 드는 고통과 수고 자체가 곧 보상인 책. 거기에 동참하고 일조함으로써 얻는 보람이 여타의 질타를 포함한 모든 것을 견디게 하리라. 끝으로 영문으로 된 저자 프로필에 추가할 몇 가지 사항을 말해야겠다. 저자는 예일대를 졸업하고 시카고 대학원에서 연구를 시작했으며, 1931년 유럽으로 건너가 주로 독일 괴팅겐에 있었다. 그 때는 나치 정권이 들어서기 직전으로 힐버트가 아직 건재하던 시기였다. 맥 레인의 청년 수학자 시절은 그러했다. 전쟁터인 유럽에서 미국으로 건너온 수학자가 많아지면서 미국은 수학연구의 세계적 중심이 되었고 저자 역시 그 심장부인 하버드에서 왕성한 활동을 하며, 특히 현대대수학 분야에서 학문적 금자탑을 세웠다. 대수적 토폴로지에 관한 수많은 업적을 발표한 이후, 그것이 계기가 되어 호몰로지 대수로 불리는 신분야가 급속히 발전했다. 저자는 이 방면의 내용도 다시 취합하여 버콥과 함께 쓴 명저 Survey of Modern Algebra를 전문 연구자를 대상으로 개정한 Algebra를 1967년에 냈다. 4년 후에는 또 이 분야의 기초개념인 카테고리 이론을 일반 독자를 대상으로 해설한 업서를 냈으며, 이 책의 원서는 다시 그로부터 10년이 넘어서 착수한 속편에 해당된다. 많은 수학자들과의 교류를 거치며 4년 간의 각고 끝에 완성된 것이 이 책이다. 수학 전반에 걸친 방대한 내용을 다루되 어느 한 부분도 소홀히 하지 않고, 특히 기하학, 역학, 복소해석학 등에 관해서도 일반독자들을 대상으로 흥미깊게 파헤친 해설은 압권이다. 그러한 책의 저자를 그저 카테고리 이론의 창시자쯤으로 요약하는 것은 범해서는 안 될 무분별 내지는 결례라는 생각이 든다.

옹색한 형태나마 이 책의 한국어판이 나오기까지 많은 분들의 노고에 신세를 졌다. 전체적 감수를 추가로 맡은 성대 수학과 이상구 교수는 물론 말할 것도 없고, 번거로운 교정에 동참해 준 박사과정 여러분들께도 깊은 감사의 마음을 전한다. 어려운 조판작업을 맡아 백 개가 넘는 일러스트를 일일이 직접 제작하기까지 한 김명유 선생은 제책 과정에서 결정적인 기여를 했다. 재정적 지원을 기꺼이 해 준 (주)아텍의 이호성 사장은 또 다른 성격의 은인이다. 그럼에도 불구하고 드러나는 책의 결함은 전적으로 최종원고를 마무리 한 본인의 책임이다. 지금으로서는 부디 이 책이 우리나라의 많은 독자들에게 읽혀서 학계에 좋은 자극제가 되기를 기원하는 한편, 완성도가 높은 판본을 내겠다는 독자들과의 약속까지 지킬 수 있었으면 더 바랄 것이 없겠다.

2001년 12월

함께 옮겨 펴낸이

저 자 서 문

지난 4년간 나는, "수학의 철학"에 대한 기초작업으로서, 수학의 형식과 기능을 어떻게 기술하면 좋을지를 생각해 왔다. 이 책은 그 과정에 얻은 결과를 기록한 것이다. 그간의 나의 노력은 Alexander von Humboldt 재단의 후원으로 이루어진 하이델베르그에서의 강의와, 시카고 대학 및 Institute for Mathematics and Its Applications에서 후원한 미네소타 대학에서의 강의를 통해서 크게 도움을 받았다. Jean Benabou 는 이 책의 원고 전체를 주의 깊게 통독한 후 날카로운 의견을 제시해주었다. George Glauberman, Carlos Kenig, Christopher Mulvey, R. Narasiman, Dieter Puppe 등으로부터도 몇몇 章에 걸쳐서 비슷한 도움을 받았다. Fred Linton 은 용어선택에서 보다 정확성을 기해야 할 부분들을 지적해 주었다. George Mackey 와 나눈 많은 대화에서는 수학의 본질에 대한 소중한 통찰을 얻을 수 있었다. 마찬가지로 Alfred Aeppli, John Gray, Jay Goldman, Peter Johnstone, Bill Lawvere, Roger Lyndon 등으로부터도 많은 도움 얻었다. 또 이 책에서 다루는 문제 전반에 걸쳐서는 동료인 Felix Browder, Melvin Rothenberg 와 함께 한 오랜 논의에서

유일한 도움을 얻을 수 있었다. Tammo Tom Dieck, Albrecht Dold, Richard Lashof, Id Madsen은 기하학에 대한 탐구에 도움을 주었으며, Jerry Bona, B. L. Foster 는 역학에 대한 검토에 도움을 주었다. 한편 수리논리에 대한 記述에 관해서는 Gert Muller, Marian Boykan Pour-El, Ted Slaman, R. Voreadou, Volker Weispfennig, Hugh Woodin 의 정밀한 검토를 받아야 했다. 그리고 철학적인 제반 문제에 대해서는

C. Corcoran, Philip Kitcher, Leonard Linsky, Penelope Maddy, W. V. Quine,

Michael Resnik, Howard Stein 과의 토의에서 힘입은 바가 크다. 여러 문제에 관한 나의 기존 입장 중 일부에 대해서는 Joel Fingerman, Marvin J. Greenberg, Nicholas Goodman, P. C. Kolaitis, J. R. Shoenfield, David Stroh 가 건설적인 제안을 아끼지 않았다. 이 모든 분들 -그리고 이름이 거명되지 않은 다른 여러 분들- 로부터 진심 어린 조언을 받았으며, 그 조언에 따르지 아니 한 부분도 적지 않으나, 그 분들 모두에게 진심으로 감사드리는 바이다.

아내 Dorothy Jones Mac Lane 은 이 책이 집필되는 기간 내내 필자를 정성껏 보필해 주었다. 그녀의 격려가 없었다면 이 책은 완성되지 못 했을 것이다.

마지막으로 Springer-Verlag 출판사의 모든 분들, 특히 편집진 여러분이 나의 원고를 한 권의 책으로 만드는 과정 내내 보여주신 수고에 감사의 마음을 전한다.

1985년 7월 4일

Indiana Dune Acres 에서 Saunders Mac Lane

역자 서문 ... v

서 문 ...x i

들어가는 말 1

제 1 장 형식적 구조의 기원 ....9

자연수 ..10
무한집합 ..15
치 환 .....17
시각과 순서 ..........19
공간과 운동 ..........24
대 칭 성 ..28
변 환 군 ..32
군 ........34
부울 대수 .41
미적분학/연속성/위상 .44
인간활동과 아이디어 ..51
수학적 활동 ..........55
공리적 구조 ..........60

제 2 장 자연수 유리수

자연수에서 유리수로 .63

자연수의 여러 성질 ....63
페아노의 공준 .........65
점화정리에 의해 기술되는 자연수 ...71
수 론 ....72
정 수 ....74
유 리 수 ..76
합 동 식 ..77
기 수 ....81
순 서 수 ..85
수란 무엇인가? .......88

제 3 장 기 하 학 ..93

공간관련 제 활동 ......93
도형을 이용하지 않는 증명 .........95
평행선공리 ..........101
쌍곡기하학 ..........105
타원기하학 ..........109
기하학적 양 ..........112
운동에 의한 기하학 ...115
방향 정하기 ..........123
기하학에서의 군 ......127
군에 의한 기하학 ....131
입체기하학 ..........134
기하학은 과학인가? ..138

제 4 장 실수

실 수 ..141

양의 측도 141
기하학적 측도로서의 양 ..........143
크기의 연산 ..........146
크기의 비교 ..........148
실수의 공리 ..........154
실수의 산술적 구성 ...157
벡터 기하학 ..........161
해석 기하학 ..........164
삼각법(Trigonometry) .165
복소수 ..170
입체사영과 무한 .....174
허수는 실제로 있는 것인가? ......176
추상 대수학의 출현 ..178
4 원수(The Quaternions-and Beyond)..........................179
요 약 ..180

제 5 장 함수 변환 및 군

함수, 변환 및 군 ....183

함수의 유형 ..........183
사 상 ....186
함수란 무엇인가? .....188
순서쌍들의 집합으로서의 함수 .....190
변환군 ...198
군 .......201
Galois 이론 ..........205
군의 구성 211
단순군 ...217
요약: 상과 합성에 관한 아이디어들 218

제 6 장 미적분학의 개념 ....223

기 원 ....223
적 분 ....225
도함수 ...228
적분학의 기본정리 ....231
Kepler의 법칙과 뉴우톤의 법칙 ....235
미분방정식 ..........238
미적분학의 기초 ......241
근사와 Taylor급수 ....248
편도함수 .250
미분형식 257
미적분학에서 해석학으로의 발전 ..263
개념들의 상관관계 ...271

제 7 장 선형 대수학 .........273

선형성의 근원 ........273
행렬과 변환의 비교 ...277
고유값 ...282
쌍대공간 .285
내적공간(Inner product space) .....291
직교행렬 .295
수반변환(Adjoints) ....297
주축정리 (The Principal Axis Theorem) ..301
쌍선형과 텐서곱 (Bilinearity and Tensor Products) ..............304
상(Factor)에 의한 크기의 축소(Collapse) .....310
외적 대수학(Exterior Algebra)과 미분 형식 ..................314
닮음과 합 ..........317
요 약 ..324

제 8 장 공간의 형태 .........327

곡 률 ....327
곡면에 대한 Gauss 곡률 ..........332
호의 길이와 내재 기하학 ..........337
다가 함수(Many-valued functions)와 리만 곡면 ........340
내재(intrinsic)곡면과 위상공간 .....350
매끄러운 다양체 ......361
경로와 양(Paths and Quantities) ...366
리만 척도(Riemann Metrics) ......373
층(Sheaves) .........375
기하학이란 무엇인가? 380

제 9 장 역 학

케플러의 법칙 ........387
운동량, 일, 에너지 ....394
Lagrange 방정식 .....399
속도와 접다발 ........410
수학에서의 역학 ......414
Hamilton의 원리 ......415
Hamilton의 방정식 ....421
기교 대 아이디어 .....430
주함수 ...432
Hamilton-Jacobi 방정식 ..........438
팽 이 ...442
역학의 형식 .........451
양자역학 454

제 10 장 복소해석과 위상

복소 변수의 함수들 (복소 함수들) ..459
병리적인(Pathological) 함수들 ......464
복소도함수 ..........467
복소 적분(Complex Integration) ....474
평면의 경로 ..........481
코시(Cauchy) 정리 ....490
평등 수렴 497
멱급수(Power Series) .502
코시 적분 공식 .......504
특이성(singularities) ..509
리만 표면 ..........514
씨눈과 층(Germ 과 Sheaf) .......524
해석학, 기하학, 위상수학 .........531

제 12 장 수학의 네트워크

형 식 성 .614
수학의 바탕개념 ......621
네트워크 .624
주요부문, 특수분과 및 세부과목 ....632
문 제 ...642
수학을 이해하기 ......646
일반화와 추상화 ......650
새로운 수학의 이채로운 기원 ......656
수학은 사실인가? .....658
플라톤주의 ..........668
바람직한 연구방향 ...672
요 약 ..677

Bibliography

List of Symbols

Index

들어가는 말

이 책에서는 수학의 실용적 기원 및 개념적 기원은 무엇인가, 그리고 그 발전의 특성은 어떠한 것인가를 -역사적 관점에서가 아닌- 수학의 내재적 본질을 탐색하는 입장에서 記述하고자 한다. 따라서 수학의 기능은 무엇인가, 그리고 그 형식은 어떠한 것인가? 하는 질문을 하게 된다. 이 물음에 효과적으로 답하기 위해서는 가장 우선적으로 '수학이란 무엇인가'에 대해서 주목해야 할 필요가 있다. 따라서 이 책은 수학을 구성하는 기본적인 부분들을 개관하는 것으로부터 시작한다. 그렇게 함으로써 앞서 언급한 일반적 물음에 대해서도 주의 깊게 취합된 적절한 증거 위에의 답을 얻을 수 있을 것이다. 요컨대, '수학의 철학'(소위 數理哲學)은 수학 자체의 검토를 거친 토대 위에 서지 않으면 설득력이 없다. 비트겐슈타인(을 포함한 다수의 철학자들)은 이 점을 간과했었다.

지금부터 우리가 애써 해답을 구하고자 하는 일반적인 문제는 다음과 같은 6가지로 나뉜다.

첫째, 수학의 기원은 무엇인가? 라는 문제이다. 산술과 대수적 계산을 성립시키고, 다시 그로부터 수학적 정리와 이론에까지 이르게 하는 외부적 원천은 무엇인가? 혹은 수학 자체에도 어떤 내재적 원천이 있어서, 수학이론들 중 일부는 순전히 상상력과 내부성찰만으로 진행되기도 하는가? 이 문제는 “수학은 발견되는 것인가 아니면 발명되는 것인가?”하는 아주 유서 깊은 물음과 밀접한 연관이 있다.

둘째, 수학은 어떻게 조직(Organization)되어 있는가? 라는 문제가 있다. 분명 수학처럼 방대하며 다양성을 지닌 학문은 대규모의 체계적인 조직을 필요로 한다. 전통적으로는 수학이 대수학, 기하학, 해석학, 응용수학 이 4부문으로 나뉘는 것이 보통이다. 그러나 이런 구분은, 예컨대 학부과정의 과목을 편성할 때, 처음에는 용이하겠으나 얼마 안 가서 수정을 필요로 하게 된다. 이를테면 (정)수론은 통상적으로 대수학의 한 분야로서 편성과목에 포함되겠지만, 그것은 종종 도구로서 해석학을 이용하기도 한다. 또 유한수학(혹은 이산수학)이 요즈음 유행하고 있는데, 그것이 과연 대수학인지 논리학인지 아니면 응용수학인지 분명치 않다. 대수학은 群論 (group theory), 體論(field theory), 環論(ring theory) 및 선형대수(행렬대수)로 나뉜다. 이들 부문은 다시 또 세분된다: 정수론에는 초등 정수론, 해석적 정수론 혹은 대수적 정수론 등이 있다; 군론의 연구는 유한군 분야와 무한군 분야로 확연히 구분되는 반면, 환론의 경우에는 가환환(commutative ring)과 비가환환 (non-commutative ring) 이론으로 나뉘되 각각의 용도나 정리 내용에 차이가 있다. 해석학은 실해석, 복소해석, 함수해석 등으로 나뉠 것이다. 기하학의 경우, 대수기하학은 사영기하학에 기초하고 있고 미분기하학은 해석학의 부분들과 밀접하게 연관되어 있다. 또 위상수학(topology)은 점집합 위상수학, 기하학적 위상수학, 대수적 위상수학, 미분위상기하학 등의 명칭을 가진 분야들을 포함한다. 전통적인 구분의 4번째 영역인 '응용수학'은 한층 더 다양하다. 왜냐하면 그것은 동력학, 유체역학, 탄성론과 같은 고전적인 응용분야에 주로 적용되는 경우도 있지만, 시스템과학, 게임이론, 통계학, 오퍼레이션 리서어치(OR), 사이버네틱스 등과 같은 최근의 응용분야에 주로 적용되는 경우도 있기 때문이다. 마지막으로, 활발한 연구가 진행되고 있는 편미분방정식론은 (특히 수치 해석적 방법이 포함된 경우) 일면 응용수학에 속하고, 일면 해석학에도 속하며, 또 (미분형식을 이용한 불변형식을 갖는 경우) 일면 미분기하학에도 속한다. 그렇지만 지금 열거한 細部分科 목록도 아직 완전한 것은 아니다; 예컨대, 논리학과 수학기초론 및 그것들을 컴퓨터과학에 응용하는 분과가 빠져 있다.

요약하면 지금 말한 수학의 분류는 부정확하며, 중복과 애매성을 필연적으로 포함하고 있다. 한층 더 자세한 세부과목들(현재의 연구논문들을 분류 정리하는 데에 Mathematics Reviews가 사용하고 있는 것과 같은 60여 분야들)을 동원한다고 해도 마찬가지의 어려움은 여전히 나타나고 있다. 그렇다면 우리는 수학이라는 학문을 단순히 개개의 특수분야들로 세분하는 것으로써 수학의 진정한 조직을 파악할 수는 없다고 결론지어도 되는가? 그렇다면 좀더 깊이 있는 조직화의 방법이 있는 것일까? 수학의 여러 분야들을 전개하는 적절한 순서는 무엇이고, 또 그 가운데 어느 분야가 가장 먼저 올 것인가? 혹시 수학에는 중요하지 않은 분야나 잘못해서 수학에 편입된 분야도 있을까?

수학적 개념들은 미리 결정된 일정한 순서에 따라 나타나는 일이 많기 때문에, 혹자는 일련의 수학기초론이 수학과목의 훌륭한 조직화를 제공하지 않을까 하고 생각할 수도 있다.

이 책을 통해서 보여지겠지만, 수학의 각 분야는 반드시 형식적인(formal) 면을 갖고 있다. 구체적인 문제들은 계산을 필요로 한다; 그러나 그 계산은 구체적 사실들에 대하여 지속적인 관심을 기울이면서 시행되는 것이 아니라, 미리 결정된 형식적 규칙에 따라 진행된다; 더구나 바른 형식적 계산의 결과는 정확하게 사실과 일치하고 있는 것이다. 기하학에서의 증명들도 공리에서 출발하는 순수 논리적인 추론에 의해서 진행되지만, 그 결과적 정리들은 실제세계의 사실들과 잘 부합하고 있다. 그러므로 우리는 형식적인(formal) 것과 구체적인(factual) 것 사이의 관계를 조사해 볼 필요가 있다. 이에 우리는 우선적으로 맨 첫 章에서, 수학의 기본적인 형식적 구조 몇 가지를 제시하면서 본문을 시작하고 있다.

이상의 고찰은 세 번째 문제로 우리를 이끈다: 수학의 형식주의(formalism)는 사실에 기초를 둔 것인가?(즉, 사실로부터 이끌어진 것인가?) 만일 그렇지 않다면 형식주의는 어떻게 해서 나온 것인가? 이 문제는 다음과 같이 말할 수도 있다: 수학이 순수한 형식적 게임이라면, 그로부터 도출된 형식적 결론들이 어떻게 그토록 사실과 잘 부합할 수 있는 것일까?

네 번째 문제는 이것이다: 수학은 어떻게 발전해 나가는가? 자연과학과 공학에서 발생하는 정량화 문제가 수학 발전의 동기였을까? 아니면 수학적 전통 내부에서 발생해 온 난제들에 의해서 발전이 촉진되는가, 그것도 아니면 기존의 수학적 전통을 보다 잘 이해하고자 하는 욕구가 발전의 진원인가? 예컨대 정수론은 페르마(Fermat)의 마직막정리를 증명코자 했던 부단한 노력에 얼마나 많은 빚을 지고 있는가? 유서 깊은 난제의 해결은 수학이 이룩하는 학문적 위업의 정점일까, 아니면 비교.일반화.추상화 등에 의한 새로운 개념의 도입에도 '보다 더 체계적인 업적'이라는 평가에 필적하는 영예가 부여될 수 있는 것일까? 특히 후자에 대해서 부언하면, 추상화는 어떻게 생겨나며 어떤 추상화가 적절한지를 우리는 어떻게 아는가?

이같은 수학 발전의 역동성과 관련된 문제는 또 하나의 문제 -게다가 훨씬 더 곤란한 문제- 즉 수학연구의 깊이와 중요성은 어떻게 평가해야 하는지에 대한 문제가 연관되어 나온다.

증명에 관한 면밀한 방법 및 규준(canon)은 처음에는 기하학에서 발달했다(제3장). 이어서 크게 성공을 거둔 것은 미적분학이라는 분야인데, 처음에는 엄밀한 증명에 의거하지 않고 '무한소량'이라는 논란많고 애매한 개념을 이용했었다. 그 때문에 미적분학에도 엄밀한 기초를 부여해 주어야 하는 문제가 대두되었다(제6장). 이들 두 경우로부터 다시 다섯 번째의 일반적인 문제, 즉 수학의 엄밀성에 관한 문제가 도출된다; 엄밀성의 절대적 기준은 존재하는가? 수학의 올바른 기초란 무엇인가? 이와 관련해서 서로 주장이 맞서는 학설이 적어도 다음에 소개된 6개 이상 존재한다.

論理主義(Logicism) 버트란드.러셀은 주장하기를, 수학이란 논리학에 포함되는 한 분야이고, 따라서 수학의 기초와 그 엄밀성은 논리학의 여러 원리들에 관한 첫 번째 명제를 면밀히 검토하면 파악될 수 있다고 했다. 더욱이 러셀은 자신의 선배이자 동료인 화이트헤드와 더불어 이 문제를 Principia Mathematicas 라고 하는 방대한 분량의 공동저서(그러나 지금은 거의 주목받지 못하는 책)를 통해서 개진해 보였다.

集合論(Set Theory) 거의 모든 수학적 대상이 집합개념(물론 여기에는 집합들의 집합도 포함된다)을 통해서 성립될 수 있다는 사실은 주목할 만하다. 이를 근거 삼아, 수학이란 다름 아닌 집합에 담긴 내용을 다루는 것이며, 따라서 수학이란 적절한 집합공리들의 목록 -혹은 Zermelo Freankel의 공리나 거기에 아직도 정립되지 않은 몇 가지 사항이 보완된 형태- 으로부터 반드시 연역될 수 있다는 입장이 생겨났다.

플라톤주의(Platonism) 수학의 집합론적 記述은 집합이라는 수학적 대상이 마치 어떤 이상적(이데아的) 영역 안에 객관적으로 실재한다는 강한 신념과 결부되곤 한다. 실제로 쿠르트 괴델과 같은 몇몇 수리철학자는 우리가 이런 이상적 영역을 감지할 수 있는 (五官과는 다른) 특수감관을 지니고 있다고 보기도 했다. 또 수학에 대한 플라톤주의에는 이밖에도, 이상적 영역(realms)이란 數와 空間的形式('이상적 삼각형' 따위)으로부터 성립되고 있다는 식의, 여러 부파(version)가 있다.

형식주의(Formalism) 힐버트를 지지하는 학파는 수학을 마치 하나의 게임과도 같은 순수한 기호조작 형식으로 여길 수 있다고 주장한다. 이 같은 기호조작은 우리들이 수학의 정리들(theorems)을 공리(axioms)로부터 엄밀하게 증명코자 할 때 흔히 도입되는 기법이다. 이러한 형식주의적 발상이 '힐버트 프로그램'의 근간이 있었다: 즉 그것은 '수학에 대한 어떤 적당한 공리계가 무모순(consistent)임'을 보이기 위한 프로그램, 더 정확히 말하자면 '그 (공리계의) 내부체계에 의거한 증명에서는 결코 0=1 따위와 같은 모순에 빠지지 않음'을 보이기 위한 프로그램을 의미한다. 이 때문에 수학에서의 증명은 순전히 (기호)조작 관련 형식으로 간주되어 엄격한 "유한의 (finite)" 방식 (따라서 "확고한"secure 방법)에 의해서 객관적으로 연구될 필요가 있었다. 그러나 그 같은 無矛盾性의 증명은 아직도 완성되지 않았다. 더구나 괴델의 유명한 '불완전성 정리'(incompleteness theorem, 제11장에서 논의됨)를 보면 그것은 실현가능하지도 않은 것 같다.

직관주의(Intuitionism) 브라우어(Brouwer)를 중심으로 하는 학파는 수학이 어떤 본초적인 직관, 예컨대 자연수열에 대한 것과 같은 직관에 기초하고 있다고 생각한다. 게다가 수학적 대상들의 존재에 대한 증명은 반드시 그들 대상을 직시함으로써 행해져야 한다고 주장한다. 이런 연유로 직관주의는 논리학의 고전적 원리들 중 일부, 더욱 정확히 말하자면 '排中律'(tertium non datur, either P or not P)을 배격한다. 이런 직관주의에도 여러 갈래의 부파(version)가 있고, 그 가운데는 '건설적 증명'(proofs which are constructive)의 중요성을 강조하는 버전도 있다.

경험주의(Empiricism) 경험주의자들은 수학도 경험과학의 한 분야로 보고, 따라서 수학은 공간과 수의 '과학'인 만큼 엄격한 경험적 기초를 가지지 않으면 안 된다는 주장을 한다.

근년에 들어서는 수학의 본성과 기초에 관한 이러한 (이외의 것도 포함한) 표준적인 견해들로부터 새로운 통찰과 이해가 산출되지 못 하고 있는 실정이다. 그런 연유로 해서 이 책의 출발점에서는 이들 견해 가운데 그 어느 것도 취하지 않으려고 한다. 그 대신 우리는 수학이 현실적으로 보여지는 실질적인 모습과 그 형식성이 어떠한 것인지를 검토하고자 한다. 그렇게 하고 나서야 비로소, 확실한 증거 위에서, 수학의 기초는 무엇이며 또한 무엇이어야 하는지에 관한 문제로 들어갈 것이다.

우리의 마지막이자 가장 근본적인 문제는 '수학의 철학'에 관한 것이다. 이것은 실로 독립적인 문제라기보다 다음과 같은 일련의 여러 문제 전체를 의미한다: 우선 수학적 실체의 존재론적인 문제로서, '수학의 대상은 무엇이며 (그것이 존재한다면) 어디에 존재하는가?' 라는 문제가 있다. 다음은 형이상학적 문제로서, '수학적 진리의 본질 (nature)은 무엇인가?' 라는 문제가 있다. 이것은 철학자들이 진리에 대하여 탐구할 때 흔히 '절대적' 진리의 典刑으로서 수학적 진리를 들면서 즐겨 제기하게 되는 문제이다. 또 하나는 인식론적 문제로서 '우리는 수학적 진리나 수학적 대상에 대한 지식을 어떻게 갖게 되는가?' 하는 점이다. 이 문제의 경우 그 대답은 수학적 진리나 대상이 의미하는 바에 따라 결정된다 하겠다.

한편, 그밖에도 좀더 직접적이고 실제적인 문제도 있다: 수학이란 오직 공리로부터의 형식적(혹은 논리적) 연역에 지나지 않는다면, 어떻게 해서 수학은 자연과학에서 그토록 경이적인 유효성을 발휘할 수 있단 말인가(E. Wigner)? 바꿔 말하면, 우리가 현상세계를 이해하는 데 수학은 대단한 효능을 제공하는데 그 원천은 무엇인가?

수학적 기초론의 여러 학파들은 제각기 이들 문제에 대해서 나름대로 해답을 구하고자 다양한 시도를 했으나 전반적인 확신을 주는 해답은 아직 없다. 대부분의 경우 (특히 철학자들의 저작에서 보면) 그 해답을 구하고자 하는 시도가 거의 예외 없이 지극히 초등적인 부분(數와 連續性 정도)에 머물고 있다. 그렇지만 그보다 훨씬 더 많은 자료들이 우리 가까이에 있다. 지금 우리가 수학의 다양한 제 분야에 대해서 새로운 관점에서 접근 하고자하는 것도 그 때문이다.

이런 목적 때문에 제1장에서 우선 '수학이란 수와 공간의 과학'이라고 하는 전통적인 관점에서 출발할지라도, 그것은 통상의 역사적 순서는 무시된 것으로서, 이 출발 관점은 몇몇 기본적인 형식적 개념(變換群, 連續性, 距離空間)에 직접적으로 도달될 수 있음을 보여준다. 그 다음 제2장에서는 자연수를 하나의 構造로 파악하고서 표면적 측면과 심층적 면모를 두루 기술하고 있다. 제3장에서는 기하학의 전통적인 기초개념이 요약되고 있다: 그러나 거기에는 運動群(groups of motions)이 항상 밑바탕 구실을 하고 있다는 점과, 거의 모든 기본적인 기하학적 아이디어가 오직 2차원의 테두리 안에서도 개진될 수 있다는 주목할 만한 사실에 대한 강조가 실려있다. 제4장의 주제는, 매우 다양한 크기의 척도(양, 공간, 시간 관련)들이 모두 實數라고 하는 단 하나의 구조로 바꾸어 설명된 수 있다는 주지의 사실(그러나 경이로운 사실), 바로 그것이다. 다음 제5장에서는 '함수'개념의 기원과 함수의 정의에 따르는 난점을 논의했다: 이 함수개념은 變換개념을 거쳐서 다시 群개념에 이르고, 다음과 같은 문제에 이르게 된다; 지극히 단순한 군의 공리로부터 그토록 깊은 구조적 결과에 이르는 사태는 도대체 어떻게 가능한 것일까? 제6장 '미적분학의 개념'에서는 그 기원 및 물리법칙과의 관계, 해석학으로의 발전과정 등에 얽힌 개념들의 상관관계를 정리했다. 제7장 '선형대수학'의 출발점은 "원인에 비례하는 결과"라는 현상의 분석이지만, 거기서 파생되어 나오는 내용의 일부(예컨대 '고유값'의 개념 따위)는 대수학의 범위를 넘나들기도 한다. 그 다음 제8장에서는 고등기하학의 몇 가지 측면을 다룬다: 즉 '다양체(manifold)란 무엇인가?'와 같은 문제가 그것이다. 이들 개념 중에는 고전역학과 밀접한 관련을 갖는 것도 있는데, 그런 것들은 제9장 '역학' 편에서 순수수학과 응용수학 사이의 복잡한 관계를 여실히 보여주게 된다. 복소해석을 다룬 제10장에서는 다시 함수의 연구 -그러나 이번에는 정칙함수(holomorphic function)의 연구- 로 되돌아 간다. 그것은 제8장의 다양체와 밀접한 관계가 있고, 또 위상수학(토폴로지)의 기원과도 깊게 관련되어 있다. 마지막으로 이 책의 종반부(제11, 12장)에서는 다시 수학기초론의 문제로 되돌아가서 앞서 제기한 6개의 철학적인 문제를 다루게 된다. 그렇지만 이제는 광범위한 수학적 내용의 자료를 검토한 연후이기 때문에, 이들 철학적 문제들도 지금까지와는 달리 좀더 본질에 다가선 모습을 보게될 것이다.

이 책에서 다루는 논의는 초등수학의 범위 전반에 두루 걸쳐있기 때문에, 독자는 수학에 대해서 어느 정도 예비지식을 가진 것으로 가정하고 있다: 그렇지만 논의에 등장하는 모든 수학적 개념에 대해서, 그것이 어떻게 착안되었으며 어떻게 정의되는지를 명확히 하고자 만전을 기했다. 정의가 부과되는 각 용어들은 이태릭체로 구별짓고 있다. 한편 '§Ⅶ.6'이라는 표시는 '제7장 6절'을 가리키는 반면, ' (Ⅶ.6.5)'는 '제7장 6절의 5번째의 식'을 가리킨다; 같은 장의 다른 절 안에서 인용되는 식은 장의 표시를 생략하여 '(6.5)'의 꼴로, 절까지 같은 경우에 인용되는 식은 그냥 (5)의 꼴로 나타내었다.

우리들의 개관은 고전적인 초등수학 분야 전반을 두루 다루기 때문에, 독자들께서는 필요에 따라 참조할 수 있는 적절한 교재를 가까이 두고 있는 것이 바람직할 것이다. 이 책 말미의 참고문헌에의 참조표시는 본문을 보충하는 데에 필요한 경우에 한해서, 'Bourbaki ??1946??'과 같은 형태로 명시하였다. 자주 인용되는 참고문헌은 Survey of Modern Algebra 및 Algebra 로서, 두 권 모두 버콥(Birkhoff)과 본인(Mac Lane)이 공동 저술한 것이며. Homology 및 Catergories Work(후자는 "Catergories for the Working Mathematician"의 略記)는 본인 단독의 저서이다. 이어서 수학을 개관하는 다른 책도 몇 권 언급해 보자. 부르바키의 장대한 업적(예컨대 Bourbaki ? ?1946??)에서는 많은 고급의 내용을 훌륭한 형식적 체계에 담아내긴 했지만, 거기에는 불행히도 지금 이 책의 목표가 되는 수학의 기원과 기능에 대한 배려가 '깨끗하게' 배제되어 있다. 이보다 한결 초등적인 수준의 개관서로는 Gärding에 의한 1977년의 試論(Essay)이 있는데, 거기서 다루고 있는 논제들은 우리의 책과 많이 일치하나 강조되는 내용이 판이하게 다르다. 한편 Davis와 Hersh가 함께 쓴 1981년판 개관서는 대중적 견지가 더욱 배가된 책이다.

출판사 : 청음사, 02-529-9020

Author's Profile

In 1989 President Bush presented Saunders Mac Lane the National Medal of Science, the nation's highest honor in science, "... for revolutionizing the language and content of modern mathematics by his collaboration in the creation and development of the fields of homological algebra and category theory, for outstanding contributions to mathematics education, and for incisive leadership of the mathematical and scientific community."

author

Saunders Mac Lane was born in 1909 in Norwich, Connecticut, and was an undergraduate at Yale university. In 1933 he received his D. Phil. from the Mathematical Institute at Göttingen. After instructorships at several universities he joined the mathematics faculty at Harvard in 1938, and in 1947 he became professor of mathematics at the University of Chicago.

A Survey of Modern Algebra, written by Saunders Mac Lane and Garrett Birkhoff and published in 1941, was the standard undergraduate text in abstract algebra for twenty-five years. Professor Mac Lane has also written Homology (1963), Algebra (1967), Categories for the Working mathematician (1971), and Mathematics: Form and Function (1985).

One of the classic collaborations in mathematics, that between Saunders Mac Lane and Samuel Eilenberg, began in 1941 and resulted in the creation of the fields of homological algebra and category theory. This work changed the way in which mathematicians in many areas think about the subject.

Saunders Mac Lane has served the mathematical and scientific communities extensively. He has been president of the Mathematical Association of America (1951-74). He has also served as vice president of the American Philosophical Society (1970-71) and of the National Academy of Sciences (1973-81).

Related-Notes

References

소온더즈 맥 레인. 2001. 수학 형식과 기능. Translated by 이상구. http://matrix.skku.ac.kr/sglee/macbook/formandfunction.htm.

🧠Junghanacs

Recent Notes

#마음챙김: #텍스트마스터 - 창조적 인간론

#조직모드 #템플릿 #샘플 - latex menuscript

#대시보드 #dashboard

#비둘기 - pigeon

#리처드파인만 #물리학자 #봉고