《뉴욕타임스》가 뽑은 수학에 관한 가장 지적인 이야기
수학 공식과 기호 없이 읽는, 문과생을 위한 20세기 수학사

1892년부터 2010년까지《뉴욕타임스》에 실렸던 수학에 관한 기사를 선임기자 지나 콜라타가 주제별로 큐레이션한 책이다. 수학이란 무엇인가에 대한 철학적인 질문부터 통계, 수학 난제들, 카오스 이론, 암호 이론, 컴퓨터와 수학의 관계는 물론 수와 식, 증명에 인생을 건 수학자들의 이야기가 담겼다.
수학 공식이나 어려운 방정식 없이도 학문적, 사회적, 정치적 사건을 망라한 20세기 수학의 역사를 따라갈 수 있다. 존 앨런 파울로스, 제임스 글릭, 지나 콜라타 등 퓰리처상 후보에 빛나는 저자들과 수학과 과학 전문 저술가와 기자들의 개성 있는 문체와 글쓰기 방식도 흥미롭다.

20세기 수학에 관한 수학적 연대기
？？뉴욕타임스 수학？？에는 방정식 대신 포커에서 이기려면 카드를 몇 번 섞어야 하는지, 넉 달 동안 두 번 복권에 당첨될 확률은 정말 희박한 것인지 등의 일상적인 이야기와 이란의 핵무기를 둘러싼 국제 정세와 2000년 미국 대선, 눈[雪]의 결정은 왜 좌우 대칭으로 모두 다른지, 무리를 지어 이동하는 새 떼와 물고기 떼의 패턴 등이 나온다. 이런 주제를 다룬 기사로 자연스럽게 통계, 카오스 이론, 카타스트로피 이론, 게임이론 등을 이해하는 것이다.
‘5장 암호기술, 그리고 정말로 해독이 불가능한 암호의 등장’에서 안전한 암호화가 일상화된 우리의 일상은 미국 국가안전국NSA의 통제에 맞선 수학자들의 고뇌와 투쟁 없이는 이루어질 수 없었다는 역사적 맥락을 읽을 수 있다. ‘3장 유명한 문제들, 풀린 문제와 미해결 난제들’에서는 페르마의 마지막 정리, 푸앵카레 추측, 4색 추측 등 유명한 난제가 해결된 20세기 수학의 발전 과정을 읽을 수 있다.
새로운 수학적 발견과 그 유용성에 대한 추측이 시간이 지남에 따라 어떻게 과학적으로 또 기술적으로 안착되고 활용되는지를 확인하는 것 또한 흥미롭다. ‘1장 수학이란 무엇인가?’, ‘5장 암호기술, 그리고 정말로 해독이 불가능한 암호의 등장’, ‘6장 컴퓨터, 수학의 세계로 들어가다’에서는 수학과 과학 그리고 기술의 진보를 확인할 수 있다. 컴퓨터를 인정하지 않거나 경계하던 수학자와 컴퓨터의 관계는 물론 인간이 어떻게 수학을 이용하고 발전시켰는지를 확인할 수 있다.
수학은 자연과학과 달리 인간과 인간의 학문이다. 위대한 수학적 발견이나 증명에는 반드시 수학자가 있다. 7대 수학 난제 중 푸앵카레 추측을 증명했지만 필즈상과 여타 상과 상금도 거절한 채 은둔하는 그리고리 페렐만, 자택 다락방에서 7년간 홀로 연구한 끝에 페르마의 마지막 정리를 증명한 앤드루 와일스, 집도 없이 전 세계를 떠돌며 하루에 20시간 동안 수학 문제를 풀고 1,500개 이상의 논문을 발표한 에르되시 팔, 인도의 시골구석에서 변변한 교육조차 받지 못했고 32살이란 젊은 나이에 요절한 천재 스리니바사 라마누잔 등 천재와 괴짜의 경계를 자유롭게 넘나드는 현대 수학자들의 세계도 엿볼 수 있다. 특히 1988년부터 1995년까지 페르마의 마지막 정리 증명을 둘러싼 기사 들은 수와 식, 증명에 인생을 건 당대 최고 수학자들의 열정과 노력, 고뇌와 좌절을 생생하게 느낄 수 있다. 이렇게 ？？뉴욕타임스 수학？？은 피타고라스와 유클리드에서 멈춘 절대다수의 수학사를 에르되시 팔, 앤드루 와일스, 그리고리 페렐만 등 현대 수학까지 확대한다.
파티에서 대화할 때 어울릴 법한 이야기에서부터 심오한 이야기까지 《뉴욕타임스》에서 기대할 만한 조리 있고 똑똑한 목소리로 다양한 주제와 저자들이 등장하고 또 등장한다. 수많은 흥미로운 문제를 수학 공식에 기대지 않고 문외한도 이해할 수 있는 언어로 설명한다. 수학에 일시적인 흥미를 넘어서 관련 책을 더 읽어볼 만큼 흥미로운 주제가 많다는 것을 알게 될 것이다. 현실 세계와 관련 있는 기사를 모아놓은 이 책은 수학이나 문제해결에 관심이 많은 사람에게 흥미를 불러일으킬 것이다.
《퍼블리셔스 위클리》

이 책은 주제별로 구분되어 있으며 미국 국가안전국(NSA)에서 암호해독 프로그램에 관해 논문을 준비하는 수학자들을 협박하는 이야기, 페르마의 마지막 정리를 증명한 앤드루 와일스의 유명한 이야기, 푸앵카레 추측을 증명한 뒤 보비 피셔처럼 자취를 감춘 그리고리 페렐만 이야기 등이 실려 있다. 특집 기사인 동시에 뉴스 기사이기도 한 이 글들은 모두 보도된 당시에 작성된 것이므로 유명한 역사 이야기에서는 볼 수 없는 긴박감을 제공한다. 이 책에 실린 기사 중에는 중요한 것도 있고 심심풀이성 기사도 있지만, 어느 것이든 흥미진진하다. 열렬한 수학 팬이라면 누구에게나 추천한다.
《라이브러리 저널》

수학에서 가장 권위 있는 상을 받은 수학자들은 청중들에게 그들의 업적이 무엇을 위한 것인지 말할 수 있을까?
3개의 필즈 상과 네반린나 상을 거머쥔 4명의 젊은이들이 기쁨에 들떠서 그들의 연구가 무엇에 대한 것인지 일반 청중에게 이야기하고 있었다. 두 사람은 4차원 공간 내 형체들에 대한 놀라운 사실을 발견했다. 한 사람은 복잡한 문제를 어렵게 만드는 원인을 통찰할 수 있는 중요한 방법을 개발했다. 한 사람은 일군의 방정식이 유한개의 유리수 해만을 가질 수 있다는 모델 추측을 증명했다.
월요일에 막을 내린 세계수학자대회에 참석한 4,000명에 달하는 수학자들이 보기에 연구들은 순수 과학에 새로운 활력을 불어넣는 비약적인 발전이었다. 그러나 지방 방송국 소속 기자는 수상자 중 적어도 한명에게라도 근본적인 질문을 하고 싶었다. 그들의 업적이 지금 집에서 텔레비전을 보고 있는 시청자들의 삶을 어떻게 향상시킬 수 있단 말인가?
당혹스러움에 침묵이 흘렀다. 수학자들은 갑자기 급하게 해야 할 다른 일들을 떠올리고 있는 것 같았다. 그들은 서로 얼굴을 쳐다봤다. 모델 추측을 증명하여 위대한 수학자의 반열에 올라선 금발의 서독 청년 게르트 팔팅스Gerd Faltings는 어색한 미소를 띠며 질의응답을 단호히 거절했다.
캘리포니아대학의 기하학자 마이클 프리드먼Michael Freedman이 일어나 모든 수학자가 느끼고 있던 바를 이야기했다. “수학자들은 연구를 할 때 실용성에 대해선 고려하지 않는다. 그들의 업적은 사고의 발전을 이루는 것이다. 나중에 어떻게 쓰일지는 미래의 우연에 맡겨두고 묵묵히 연구를 한다.” 유클리드 기하학을 기묘하게 휘어진 곡면으로 표현해놓은 것은 바로 물리학자들이 일반상대성이론을 만들어내는 필요한 체계가 되었다. 비실용적이기로 악명 높은 정수론의 기법들은 미국국가안전보장국이 효율적이고 안전한 코드를 만드는 데 매우 중요하게 사용되었다.
보통 입 밖으로 꺼내지는 않지만 언제나 마음속에 갖고 있는 생각은 수학을 순수하게 연구하는 것, 내재된 나침반을 따라가는 것, 불가사의하고 추상적인 세계에서 간결함과 미를 추구하는 것이 결국에는 응용적인 과학에 이바지하는 제일 좋은 방식이라는 믿음이다. 물리학이나 생물학이 발전하는 것처럼, 수학자들은 수십 년 동안 쓸모가 없어서 묻혔다고 여겨졌던 순수 수학의 몇 가지 이상한 부분들을 통해 앞으로 나아갈 길이 또렷해지는 것을 반드시 발견하게 될 것이다.
ㅡ제임스 글릭, 1986년 8월 12일자 〈진리와 아름다움으로 충분하지 않은가?〉

아마추어 수학자들은 원을 사각형으로 만들 때 보통 원주율을 22/7이나 355/113처럼 근사치로 반올림한다. 그래서 결과로 나온 사각형은 기껏해야 원의 크기와 아주 비슷할 뿐, 정확하게 일치하지는 않는다.
더들리 박사는 “이런 사람들은 불가능이란 말이 무슨 뜻인지 모른다. 그냥 아주 어려운 것이라고 생각한다”며 안타까워했다.
그게 아니라면 증명이 불가능하다는 말 자체를 믿지 않는 것이다. 스튜어트 박사는 이렇게 말했다. “그런 사람들은 불가능하다는 것을 증명해놓은 정리가 있다는 건 알지만, 그래도 어쨌든 자기가 증명했다는 말로 편지를 시작한다. 정리에 분명 틀린 곳이 있을 거라고 말한다. 개념 없이 연구를 하는 것이다. 그러니 이상한 결과만 나올 수밖에 없다.”
수학자들이 금방 깨닫게 되는 한 가지 원칙은 괴짜처럼 보이는 사람에게는 절대 답하지 말라는 것이다. 편지 겉봉에 하버드대학이나 스탠퍼드대학의 어느 교수, 심지어 미국 상원의원이 ‘보증’한 연구라고 쓰인 경우도 많다. 그런데 그 근거라고 동봉한 유명인사들의 답장을 보면 “흥미로운 편지를 보내주셔서 감사합니다”라는 식으로 정중하게 무시한 것에 불과하다. 수학자들이 형식적인 답변을 써서 보내면, 그 답변이 괴짜의 다음 번 편지에 포함되어 다른 사람에게 보내질 수도 있는 것이다.

ㅡ조지 존슨, 1999년 2월 9일자, 〈천재적 재능일까? 아니면 헛소리일까? 수학 괴짜들의 기이한 세계〉

처음에는 조지 부시가 앨 고어를 플로리다에서 1,784표로 이겼다. AP 통신은 비공식적 집계를 통해 그의 우세가 1,784표의 반도 안 된다고 했다. 그러면 어느 집계표가 수학적으로 옳을까? 통계학자는 이런 질문에 웃었다.
뉴저지 프린스턴대학 교육평가원의 통계학자 하워드 웨이너Howard Wainer는 “오류는 언제나 있다. 표를 셀 때마다 매번 수가 달라질 것이다”라고 말했다.
오하이오주립대학 정치학과 교수 다이애나 머츠Diana C. Mutz는 과학자들이 연구할 때 한 과정을 여러 번 반복하고 자료값의 중간 즈음에서 진실을 가장 잘 반영하고 있는 것 같은 수를 선택할 것이라고 말했다. 하지만 머츠를 비롯한 다른 학자들의 말에 따르면, 여러 번 재검표를 하는 것은 대통령 선거에서 바람직하지 않은 것 같다. 시간이 계속 지체되고 불확실성만 늘어나기 때문이다. 말다툼이 오가는 건 말할 것도 없다. 지고 있는 사람은 누구나 재검표를 더하자고 주장할 수 있다. (…) 일부 민주당원들은 많은 사람이 고어에게 투표하려고 했는데 실수로 부캐넌에게 투표했다고 말했다. 이를 수정할 방법이 없을까? 통계적으로 조정하는 방법은 혹시 없는 걸까?
안타깝게도 통계학자들은 없다고 말한다. 어떤 조정을 하든지 문제는 더 나빠지기만 할 것이다. 통계학자 퍼시 디아코니스는 그 상황이 인구조사 때의 상황을 떠올리게 한다고 말했다. 당시 누락된 사람들이 있어서 수가 적어진 것을 수정하려고 인구조사를 조정해보았다. 그렇게 수정된 인구조사는 악몽이 되고 말았다. 새로운 오류가 등장했고 다툼거리는 더 많아졌다고 한다.
“수정하거나 조정하는 과정은 악화되기만 합니다. 전혀 간단한 과정이 아닙니다.”
ㅡ지나 콜라타, 2000년 11월 10일자, 〈2000년 대통령 선거: 수 세기의 과학〉

서문 …… 폴 호프만 004
들어가며 …… 지나 콜라타 008

chapter 01 수학이란 무엇인가?
유용한 발명 혹은 절대적 진리: 수학이란 무엇인가? …… 조지 존슨 022
진리와 아름다움으로 충분하지 않은가? …… 제임스 글릭 032
수학자가 컴퓨터의 아이디어를 논박하다 …… 지나 콜라타 039
드디어 수학자들이 로그온하다 …… 제임스 글릭 043
컴퓨터가 수학적 증명을 하여 번득이는 추리력을 보여주다 …… 지나 콜라타 047
여전히 컴퓨터는 아름다운 수학을 할 수 없다 …… 지나 콜라타 055
10경 계산, 해냈다! …… 지나 콜라타 060
이론가는 컴퓨터를 통계적으로 불확실한 것에 이용한다 …… 지나 콜라타 063

chapter 02 통계, 우연의 일치, 놀라운 사실들
1조 분의 1의 우연일까? 아니다! …… 지나 콜라타 071
무거운 사물이 위로 올라가는 이유는? …… 제임스 글릭 079
몬티 홀 문제: 퍼즐과 논쟁 …… 존 티어니 084
아무도 눈치 채지 못한 42번가 교통 통제 …… 지나 콜라타 093
왜 어떤 수들은 어림값밖에 알 수 없을까? …… 지나 콜라타 097
날씨가 관절염 통증과 관계있을까? …… 지나 콜라타 102
날씨를 수치로 나타내는 컴퓨터 …… 시드니 샐럿 108
보험을 연구하는 사람들 …… 113
레온티예프의 의견 …… 레너드 실크 116
작은 사건들이 쌓여 대멸종이 일어난다 …… 맬컴 W. 브라운 120
측정 마니아 …… 존 앨런 파울로스 125
이기려면 카드를 7번 섞어야 한다 …… 지나 콜라타 129
게임이론은 이란의 핵무기 보유 시점을 예상할 수 있을까? …… 클라이브 톰슨 135
리스크 모델링에서 인적 요소는 제외되었다 …… 스티브 로어 153
내기와 승산 …… 조지 존슨 160
월요일의 퍼즐: 생일 문제의 해답 …… 프라딥 무탈리크 165
유전자 룰렛의 승산은 얼마나 될까? …… 지나 콜라타 176
2000년 대통령 선거: 수 세기의 과학 …… 지나 콜라타 182
사업설명서: 컴퓨터 프로그램이 시장을 파악할 수 있을까? …… 재닛 스타이츠 184
탈세자를 찾아내는 새로운 수단 …… 데이비드 케이 존스턴 189

chapter 03 유명한 문제들, 풀린 문제와 미해결 난제들
새로운 수학이 두 세계를 연결하다 …… 윌리엄 로렌스 199
이해하기 어려운 증명과 이해하기 어려운 사람 …… 데니스 오버바이 204
과학에게 질문하다: 푸앵카레의 추측 …… 데니스 오버바이 214
그리고리 페렐만의 숭고한 정신 …… 야샤 호프만 222
수학 난제의 상금 100만 달러를 거절하다 …… 데니스 오버바이 225
‘4색 문제’ 연구의 시작 …… 윌리엄 로렌스 228
4색 추측 증명 …… 230
골드바흐 추측의 증명 여부는 아무도 모른다 …… 조지 존슨 232
수학 전문가가 곧 350년 묵은 문제를 풀 것이다 …… 제임스 글릭 235
페르마의 정리가 풀렸을까? 아직은 아니다 …… 제임스 글릭 238
페르마의 마지막 정리는 아직 풀리지 않았다 …… 제임스 글릭 240
드디어 ‘유레카’를 외치다 …… 지나 콜라타 245
페르마의 정리 …… 제임스 글릭 252
수학 증명에서 결함이 발견되었지만 계속 수정되고 있다 …… 지나 콜라타 261
1년이 지났지만 페르마의 수수께끼는 완전히 증명되지 않았다 …… 지나 콜라타 265
페르마 정리 증명의 결함이 어떻게 해결되었는가 …… 지나 콜라타 267
25년 후에 답을 얻은 두 가지 중요한 문제 …… 존 오스문센 277
경영에 적용된 포커 게임의 수학 이론 …… 윌 리스터 284
비눗방울이 오래된 수학 문제에서 새로운 역할을 한다 …… 조셉 윌리엄스 291
수학의 발전이 매듭의 비밀을 파헤치다 …… 제임스 글릭 294
사면체로 공간을 완벽하게 채우는 방법 …… 케네스 창 303
혼란스러운 흐름 속에서 질서를 찾다 …… 비나 벵카타라만 307
거품과 금속, 형태 변형의 예술 …… 케네스 창 313
완벽한 대칭에 대한 과학의 기대 …… 케네스 창 316
아직도 수학자들이 추측하는 143년 된 문제 …… 브루스 셰터 319
오늘날 수학에서 가장 중요한 문제는 무엇인가? …… 지나 콜라타 325
오랜 수수께끼의 해답: 지름길은 얼마나 짧을까? …… 지나 콜라타 328

chapter 04 카오스, 카타스트로피, 그리고 무작위성
새로운 미적분학이 정의한 카오스 …… 336
재난 예측을 둘러싼 전문가들의 논쟁 …… 맬컴 W. 브라운 339
카오스라는 수학의 수수께끼 풀기 …… 제임스 글릭 345
기하학을 다시 만든 사람 …… 제임스 글릭 368
과학적 탐구로 눈송이의 수수께끼를 풀다 …… 제임스 글릭 387
카오스 이야기: 재주넘기 하는 위성과 불안정한 소행성 …… 제임스 글릭 393
유체 수학이 ‘약간’ 간단해졌다 …… 제임스 글릭 399
카오스가 시장을 지배할 때 …… 제임스 글릭 403
새 떼의 복잡도를 새롭게 이해하기 …… 제임스 글릭 419
부서지지 않는 파동이 초전도체를 이해하는 열쇠를 쥐고 있다 …… 제임스 글릭 427
진정한 무작위성에 대한 탐구가 성공을 거두다 …… 제임스 글릭 434
컴퓨터 동전 던지기도 미묘한 편향을 보이는 것으로 밝혀졌다 …… 맬컴 W. 브라운 442
과학이 카오스적 불확실성에 가려진 미래를 흘낏 보다 …… 맬컴 W. 브라운 448
질병다발지역 조사: 탐지하기는 쉽지만 원인을 밝히기는 어렵다 …… 지나 콜라타 454
그럴 확률은 얼마인가? …… 리사 벨킨 459
프랙탈 비전 …… 제임스 글릭 486

chapter 05 암호기술, 그리고 정말로 해독이 불가능한 암호의 등장
암호 연구에 정부가 압력을 행사했다는 의혹이 제기되다 …… 맬컴 W. 브라운 494
학자들이 미국 정부에게 논문 사전검토를 허용하다 …… 리처드 세베로 499
암호기술의 발전에 맞춰 보안규칙을 강화하다 …… 월터 설리번 503
새로운 비밀보호 방법을 발견하다 …… 제임스 글릭 509
미국이 압력을 넣었다는 증거에 분노한 학자들 …… 맬컴 W. 브라운 516
가장 흉폭한 수학문제를 길들이다 …… 맬컴 W. 브라운 521
가장 큰 수를 나누는 연구가 수학에 큰 발전을 가져오다 …… 지나 콜라타 529
보안 코드를 깨뜨릴 수학적 방법을 개발한 과학자들 …… 존 마코프 535
곤경에 빠진 암호학자들, 한계를 시험하다 …… 지나 콜라타 540
비밀 암호에 대한 공개적인 논쟁 …… 존 마코프 546
민간 영역을 차지하려고 경쟁하는 미국 보안기관 …… 존 마코프 553
연구자들이 컴퓨터 암호가 깨질 수 있다는 것을 증명하다 …… 세라 로빈슨 560
냉전 시대의 암호학자 닉 패터슨, DNA의 심오한 비밀을 파헤치다 …… 잉페이 첸 563
보안 위협 목록에 수학이 추가되다 …… 존 마코프 570
상과는 별도로, P vs NP 문제 연구자들이 성과를 내다 …… 존 마코프 573

chapter 06 컴퓨터, 수학의 세계로 들어가다
고등 수학을 하는 ‘사고 기계’, 인간은 수개월 걸리는 방정식을 풀다 …… 580
새롭게 등장한 거대한 ‘뇌’가 마법 같은 일을 해내다 …… 582
전자 뇌, 전쟁 관련 계산을 더 빨리 수행하다 …… 월 리스너 585
전자 디지털 컴퓨터: 기원과 작동 원리, 그리고 기능 …… 헨리 L. 리버먼, 루이스 로빈슨 589
긴 수학 증명에 적용할 수 있는 쉽고 간단한 방법을 새로 발견하다 …… 지나 콜라타 618
더 효율적으로 영상을 저장하는 신기술이 등장하다 …… 지나 콜라타 625
거대 컴퓨터가 사실상 시공간을 정복하다 …… 조지 존슨 634
컴퓨터 혁신가 그레이스 M. 하퍼 해군 소장, 85세로 사망하다 …… 존 마코프 642
소프트웨어의 개척자, 84세의 프란시스 E. 홀버턴 …… 스티브 로어 646
아코디언처럼 데이터 압축하기 …… 피터 웨이너 650
디지털 뇌가 패턴을 인식하다 …… 앤 아이젠버그 654
소련 수학자의 발견이 수학계를 뒤흔들다 …… 맬컴 W. 브라운 658
건강보험 논란: 효과적인 방법은 없는가 …… 지나 콜라타 664
1단계: 이해하기 어려운 증명을 게시판에 올린다 2단계: 격렬한 논쟁을 구경한다 …… 존 마코프 672

chapter 07 수학자, 그리고 그들의 세상
수학의 선구자이자 여행자였던 에르되시 팔, 83세로 세상을 떠나다 …… 지나 콜라타 680
소수素數를 향한 머나먼 여정 …… 케네스 창 685
최고 권위의 상을 거부한 수학자 …… 케네스 창 693
존 H. 콘웨이, 이해하기 어려운 수학이라는 세상에 편안함을 느끼다 …… 지나 콜라타 697
1916년, 비트의 창시자 클로드 섀넌 태어나다 …… 제임스 글릭 705
고립된 천재라는 숙명 …… 제임스 글릭 709
350년 된 문제와 씨름하는 수학의 달인 앤드루 와일스 …… 지나 콜라타 720
레너드 애들먼, 컴퓨터 이론의 정점을 찍다 …… 지나 콜라타 728
71세의 수학자, 쿠르트 괴델 박사 …… 피터 B. 플린트 739
천재적 재능일까? 아니면 헛소리일까? 수학 괴짜들의 기이한 세계 …… 조지 존슨 741

필자 약력 749
찾아보기 755