가장 즐거운 길로, 깊은 사유에 이르는
경이로운 수학이 여기에 있다

간명한 모습의 유희 사이에 우주의 비밀들을 살며시 숨겨 놓고 독자에게 찾아보라고 권한다.
그의 수학의 핵심은 항상 경탄과 즐거움이다.
— 김민형, 에든버러대학교 위터커 석좌교수 및 국제수리과학연구소(ICMS) 소장

재미로 보나 깊이로 보나, 마틴 가드너는 최고의 수학퍼즐 작가이다.
— 김상현, 고등과학원 수학부 교수

『수학의 유희』는 생명현상을 수학으로 해석하는 나에게 창의적 문제 해결의 영감을 준다.
— 김재경, KAIST 수리과학과 교수

백만 독자가 사랑하고 수학·과학계가 존경한 거장
마틴 가드너가 25년간 탐구한 도전적 문제들
‘수학 게임(Mathematical Games)’의 정수

정수론, 산술, 기하학, 확률, 위상수학, 게임이론, 무한 등
12개 대주제로 엮은 궁극의 수학책

미국의 저명한 수학 및 과학 저술가 마틴 가드너(Martin Gardner, 1914~2010)가 1956~1981년 사이 《사이언티픽아메리칸(Scientific American)》에 연재한 ‘수학 게임’ 칼럼을 집대성했다. 반세기 이상 전 세계의 최신 수학적 성과를 소개하며 수학의 대중화를 이끈 마틴 가드너는, 자신의 경력에서 최고로 꼽는 인기 있는 수학 칼럼 50편을 엄선 및 보완 집필하여 유희 수학의 결정판으로 선보였다. 2004년 “The Colossal Book of Mathematics(위대한 수학책)”라는 제목으로 출간되어, 전문가든 아마추어든 수학에 관한 호기심 있는 독자를 위한 필독서로 자리 잡았다.
이 책은 국내에 필로스 시리즈 51번, 『수학의 유희』로 아르테에서 선보인다. 이 책의 해제자 김민형 수학자는 마틴 가드너를 추억하며, 20년이 지나 드디어 한국에 출간되는 것을 반가워했다. ‘전무후무한 수학/과학의 고전’이자, ‘청년기의 김민형을 문제 풀이와 수학의 세계로 이끈 책’이기 때문이다.
다루는 주제는 12개로 ‘산술과 대수학, 평면기하학, 입체기하학, 대칭, 위상수학, 확률, 무한, 조합론, 게임과 결정이론, 물리학, 논리와 철학’으로 폭넓다. 이 책만큼 우리의 세계가 수학적 세계로 둘러싸여 있다는 사실을 흥미롭게 일깨우는 책이 있을까? 수학 애호가들과 수학자들 사이에서 밈처럼 통하는 말이 있다. “저주받을 마틴 가드너!”라는 표현이다. “평범한 일상을 살고 있던 우리에게 그의 수학이 바이러스처럼 찾아온다. 그의 매혹적인 문제에 감염되면 다른 건 다 잊고 몰두해 풀어야만 하기 때문에!”(수학자 이선 에이킨/모턴 데이비스) 이제 한국 독자들이 감염될 차례이다. 유희 가득한 마틴 가드너의 세계에 푹 빠져들어 보자.

가장 즐거운 길로, 깊은 사유에 이르는
경이로운 수학이 여기에 있다

마틴 가드너를 아는 사람이라면 잘 알겠지만, 이 책은 수학 지식의 주입식 서술을 배격한다. 흥미롭고 매력적이며 철학적인, 혹은 예술적인 화두 하나를 던지고, 그를 이리 굴리고 저리 굴리며 수학과 과학의 근본 ‘원리’로 기막히게 안내한다. 저자의 또 다른 직업이었던 마술사처럼 말이다. 수학공식에 익숙하든 익숙지 않든, 그 과정은 경탄과 놀라움의 연속이다.
회문(palindrome)과 대칭의 아름다움, 공간을 가득 채운 에셔(M. C. Escher)의 테셀레이션(tessellation) 그림, 스콧 김(Scott Kim)의 ‘반전’ 작품인 앰비그램, 욕실이나 성당에서 볼 수 있는 무한의 타일링, 뫼비우스띠와 클라인병 등 기하학적 세계를 보여 준다.
마틴 가드너와 함께라면, 세상의 차원을 넘어서는 일 또한 가능하다. 2차원의 평면 세계에서 살아 보기도 하고, 4차원공간과 그 이상의 우주를 상상할 수 있는 수학적 세계를 소개한다. “4차원 교회”에서는 플라톤의 동굴로 향하고 마술과 수학의 만남을 기획한다.
프랙털의 자연에서 경이로움을 느끼게 하고, 문제 이면에 자리한 공식을 발견하여 정교한 아폴론적 미에 빠져들게 한다. 유명하지만 난해한 몬티홀문제를 이렇게 재미있고 쉽게? 죄수의 역설 등 확률 게임에 이르면 머리에 쥐가 나고 과몰입하게 될 수도 있지만, 평생 수학을 통한 대중과의 소통을 추구한 가드너의 열정은 유희와 아름다움으로 결실을 맺는다.

반세기 동안 지성계를 뒤흔든 거장,
마틴 가드너의 사유를 집대성한 궁극의 수학책!
— 고전 퍼즐, 자연 원리에서 AI 시대의 알고리즘까지

★ 300여 시각 자료로 즐기는, 패러독스·퍼즐·아포리즘
“저주받을 마틴 가드너! 그의 수학이 바이러스처럼 찾아온다.”

『수학의 유희』는 일평생 수학의 대중화(대중의 수학화)를 위해 헌신한 마틴 가드너의 역작이다. 그가 25년간 연재한 《사이언티픽아메리칸》의 ‘수학 게임’ 칼럼 중 최고로 꼽는 50편을 엄선하여 열두 분야로 나누고, 최신 연구 성과와 전문가 및 독자와 소통한 내용을 덧붙여 집필한 궁극의 수학책이다.
핵심은 두뇌 티저다. 머리를 풀가동하게 하는 주제와 예화를 제시하고, 300여 시각 자료로 이해를 돕고, 예술적이며 추상적인 질문에 접근할 수 있도록 한다. 역설과 유머, 짧은 시와 인용구 등 아포리즘으로 읽는 재미를 더한다.
클래식한 수학 문제로 시작해 ‘기하학’과 ‘위상수학’ 등 차원 높은 문제로 나아간다. ‘확률과 무한’, ‘조합론’ 등 현재에도 활발하게 논의되는 분야로 확장하고, 오늘날 AI의 원시적 형태로 볼 만한 ‘게임과 자동 학습기계’ ‘생명 게임’을 선보인다.
SF와 물리학, 논리와 철학의 경계를 넘나들며, 소라 껍데기의 나선, 자연의 프랙털, 방산충 등 자연 세계의 수학적 원리에도 천착한다. 흥미진진한 주제로 엮인 유희 수학의 결정체이자 수학의 총체가 이 책에 녹아 있다.

수학과 게임은 멀지 않다?
— 전 세계를 ‘수학 열풍’에 빠뜨린 가드너의 입담: 수학퍼즐, 보드게임의 원류

• 그의 수학의 핵심은 항상 경탄과 즐거움이다! — 김민형
• 재미로 보나 깊이로 보나, 최고의 수학퍼즐 작가. — 김상현
• 생명현상을 수학으로 해석하는 나에게 창의적 문제 해결의 영감을 준다. — 김재경
• 합리성과 좋은 과학을 옹호하는 가장 밝은 등대. — 스티븐 제이 굴드(Stephen Jay Gould)
• 이 책은 모든 학교 도서관과 모든 수학자, 수학 교사의 서가에 있어야 한다. — 제니 머리(Jenny Murray)
• 수학을 시작하는 가장 좋은 방법. — 에드 페그 주니어(Ed Pegg Jr.)

국내외를 막론하고 수학자, 과학자가 이 책을 극찬했다.
“수학자들의 수학자”라는 별칭은, 그를 대표했던 오랜 수식어다. 전문가든 전문가가 아니든, 그의 문제에 접속하면 물음에 물음이 이어지고 사고의 회로를 켠다.
저자는 다음과 같이 독자의 호기심을 불러일으킨다. 1) 간단한 수학 문제처럼 보이지만 부정방정식을 활용해야 접근할 수 있다. 2) 부정방정식에 향하는 다양한 원리들을 제시한다. 3) 해당 문제에 얽힌 역사적·철학적 지식을 덧붙인다. 4) 당대 다른 연구자들이 제시한 색다른 해결책과도 비교한다.
이를테면, 클라인병(Klein bottle)은 안도 밖도 없는 닫힌 곡면이다. 튜브의 아래쪽 끝을 잡아 늘이고, 위로 구부리고, 튜브의 측면에 관통시킨 다음, 튜브의 위쪽 입구에 연결한다. 유리로 만들어진 실제 모형을 보면 이해가 쉬울 것이다(271쪽). 미네소타대학교의 수학자 대니얼 페도(Daniel Pedoe)는 클라인병을 종이로는 만들 수 없는 곡면이라고 설명하는데, 정말 그러한가? 마틴 가드너에 따르면 아니다. 클라인병을 종이로 만드는 방법은 무수히 많다. 이 책은 이러한 문제 해결 방법을 여럿 소개하고 있는데, 실제로 해 보면 이해하기 쉽고, 더 재미있게 수학과 만날 수 있음을 보여 준다.
친구와 오목을 두듯 종이와 연필로 하는 다양한 보드게임(129, 136, 370쪽)도 좋고, 콘웨이가 개발한 생명 게임(472쪽)을 하는 것도, 종이를 접은 후 까뒤집는 플렉사곤(Flexagon, 445쪽)이나 종이접기(오리가미, 487쪽), 양자물리학 강의 중 피에트 하인이 고안하고, 가드너의 소개로 전 세계적 열풍을 일으켰던 3차원 입체 퍼즐 소마 큐브(459쪽)를 시도해 보는 것도 좋다. 수학과 게임은 멀지 않다!

‘유희 수학’은 어떻게 ‘SF 걸작’과 ‘현대 물리학’의 모태가 되었나?
— 2차원 플래니버스에서 4차원 초공간까지

수학적 호기심은, 통찰력의 정수를 제공한다. 1907년 찰스 하워드 힌턴(Charles Howard Hinton)이 발표한 ‘평면 세계’에 대한 책 『플랫 랜드의 에피소드(An Episode of Flatland)』에 주목한 가드너는 “2차원의 물리학과 평평한 세계에서 작동될 법한 여러 단순한 기계장치를 추측하는 것은 재미있다”라며 이를 소개했다. 웨스턴온타리오대학교의 컴퓨터과학자 알렉산더 키웨이틴 듀드니(Alexander Keewatin Dewdney)는 가드너의 발언에 영감을 얻어 1979년 『2차원의 과학기술(Two-dimensional Science and Technology)』이라는 사고실험 모노그래프를 출판했다. 플래니버스(planiverse)라는 평면 세계의 물리 법칙을 정교화하고, 각종 도구를 발명하는 것으로 나아간다(8장).
듀드니의 SF 『플래니버스』(1984)에는 그가 아스트리아(Astria)라고 부르는 지구가 있으며, 이는 평면 공간에서 자전하는 행성이다. 아스트리아의 “축”은 선이 아니라 원형 행성의 중심에 있는 한 점이다. 아스트리아인은 행성의 가장자리에서 직립보행을 하고, 방향은 3차원이 아니라 동과 서, 위와 아래만이 구별된다. 남과 북은 없다. 이 평평한 세계에서도 삶에 필요한 기계장치들이 필요한데, 그것은 3차원과 다른 단순한 장치이다. 삶의 방식을 상상하는 데 그치지 않고 기중기와 망원경, 접히는 가구, 지렛대, 경사면, 증기기관, 실린더, 피스톤, 스프링, 열쇠 장치 등을 발명한다. 평면으로 축소한 2차원 보드게임도 만들 수 있다. 이런 2차원 사고실험은 세상을 상상하는 영감을 제공한다. 심지어 오늘날 물리학의 한 분야로 평면 현상을 연구하고 있다고 하니, 마틴 가드너가 불러온 나비효과가 크다고 할 수 있다.
저자는 특히 기하학 부분에서 유희 수학을 통해 3차원의 세계 너머를 상상하도록 유도한다. 초구(超球)를 시각화하는 것은 불가능하지만, 초구의 여러 성질은 하위 차원의 구로부터 유추하여 예상할 수 있다. “원은 중심‘점’을 중심으로 회전하고, 구는 중심‘선’을 중심으로 회전하며, 4차원 구는 중심 ‘평면’을 중심으로 회전”하는 식이다. 수학적 일관성을 통해 얻어진 유추들을 조합하여 상상의 세계를 공식으로 추상화하고, 이런 초구의 성질을 시각적으로 보여 주기 위해 노력한다(11장). 문제에서 해법으로 나아가는 길을 열어 준다. 플라톤의 동굴로 들어가 마술적 세계를 경험하는 픽션 “4차원 교회”에서 초입방체 그림을 볼 수 있는 시야를 열어 주고(12장), 다양한 n차원공간의 특성을 계량화해 초입방체, 초구, 초부피, 초곡면 등 상상하기 쉽지 않은 형상들을 수학적 사고를 통해 다가갈 수 있는 방법을 알려 준다(13장).

천재들은 어떻게 놀았나?
— ‘파인먼, 칸토어, 콘웨이, 라마누잔’의 머릿속에 접속하는 확실한 방법!

유희 수학의 기막힌 일화들을 따라가다 보면, 어느새 천재들의 머릿속을 생생하게 들여다보게 된다. 오직 수의 세계에 몰두한 인도의 천재 수학자 라마누잔(Srinivasa Ramanujan) 일화는 압권이다. 병원에 입원해 있던 라마누잔에게 영국의 수학자 G. H. 하디(G. H. Hardy)가 병문안을 와서는, 자신이 올 때 탔던 택시의 차량번호가 1729라며 좀 밋밋한 숫자라고 말한다. 그러자 라마누잔이 즉각 답하길, “정반대로 그 수는 서로 다른 세제곱수 둘의 합으로 표현할 수 있으며, 그런 쌍이 두 개인 가장 작은 양의 정수”라고 말한다. 즉, 1729=12의 세제곱+1의 세제곱=10의 세제곱+9의 세제곱이다.(767쪽)
생명(Life) 게임의 창시자로 유명한 존 호턴 콘웨이(John Horton Conway)는 책에 자주 등장한다. 타일링, 매듭이론, 초현실수, 조합론, 확률과 게임 등 무수한 수학 분야에 명성이 있는 그는 뿔이 달렸다는 의미로 존 혼드(Horned) 콘웨이라는 별명을 지녔다. 그는 단순한 이행 규칙을 이용하여 세포자동자 구조(cellular automaton structure)를 창조하고는, 곧이어 가능한 가장 단순한 구분을 도입하고 몇 가지 간단한 규칙, 정의, 관례를 추가하여 2인 게임이 가능한 구조를 여럿 구축했다. 이 책에는 관련된 무수한 게임과 그 뒷이야기를 소개하고 있다(28, 31장).
플렉사곤위원회 발족 일화도 흥미롭다. 1939년 가을, 당시 23세이던 영국 출신 대학원생 아서 H. 스톤(Arthur H. Stone)은 수학과 펠로십으로 프린스턴대학교에 있었는데, 자신의 영국산 바인더에 맞게 미국산 공책 용지 가장자리를 1인치(2.54센티미터) 잘랐다. 그는 남은 이 종이띠를 이러저러한 방법으로 접기 시작했고, 그렇게 만든 종이 도형 하나가 특별히 흥미로웠다. 이렇게 만든 육각형을 반대 방향을 까뒤집으니 꽃봉오리가 열리듯 다시 열렸고 완전히 새로운 면이 드러났다. 예를 들어, 원래의 육각형 윗면과 밑면이 다른 색상으로 칠해져 있다면, 까뒤집음으로써 전혀 다른 색상을 얻는 것이다. 구부러지는 능력을 뜻하는 이 “플렉사곤(flexagon)”이 학교에 유행하기 시작했고, 플렉사곤위원회가 발족하기에 이른다. 스톤 외에 수학과 대학원생 브라이언트 터커먼(Bryant Tuckerman), 물리학과 대학원생 리처드 P. 파인먼(Richard P. Feynman), 젊은 수학 강사 존 W. 투키(John W. Tukey) 등이 멤버였다.
이 밖에도 보여이 퍼르커시(Bolyai Farkas)의 아들 야노시(Janos)의 평행선공준에 얽힌 웃픈 일화를 비롯해 프리드리히 가우스(Karl Friedrich Gauss), 스타니스와프 울람(Stanisław Ulam), 게오르크 칸토어(Georg Cantor), 도널드 커누스(Donald Knuth), 폰노이만(John von Neumann) 등 수학자들의 성과를 조명하는 한편, 그들의 머릿속에 폭발하던 지적 호기심을 저자의 위트 있는 목소리로 생생히 입체화한다.

수학은 어떻게 위대한 예술이 되었나?
— 에셔, 달리, 모차르트, 보르헤스를 매혹시킨 로직을 배우다!

이 책은 유희 수학이 미술, 음악, 디자인, 문학 등 예술과 함께 발전해 왔음을 잘 보여 준다. 에셔의 테셀레이션과 스콧 김의 앰비그램, 회문은 시각적 즐거움을 선사한다. 테셀레이션은 타일링처럼 도형이 규칙적으로 반복되며 공간을 채우는 것으로 쪽매맞춤이라고도 하고, 회문(回文)은 “똑바로 읽어도 ‘우영우’ 거꾸로 읽어도 ‘우영우’”처럼 앞뒤로 똑같이 읽히는 문장이나 숫자를 말한다. 스콧 김은 이를 시각적으로 조형한 거장으로, 180도로 회전하거나 거울반전을 해도 똑같이 읽히는 앰비그램을 통해 기하학적 미의 정수를 구현했다. 이 외에도 몬드리안과 마티스의 작품, 살바도르 달리의 작품 특히, 〈십자가에 못 박힌 예수-초입방체〉(183쪽, 202쪽)가 비중 있게 다뤄진다.
스웨덴의 많은 중역 사무실에 놓여 있는 타원형 책상, 좀 더 정확히는 피에트 하인의 초타원 세계를 풀어내고, 한 악보를 테이블 위에 놓고 두 연주자가 마주 앉아 화음을 맞출 수 있게 한 회문적 성격을 지닌 모차르트의 2성(聲) 카논 악보를 보여 준다. 또한 주사위를 활용해 모차르트 느낌이 나는 왈츠 1114개를 생성할 수 있는 게임(725~727쪽)이나, 기계학습을 통한 멜로디와 문구 생성기(730~733쪽) 등 수학(확률, 조합론)이 예술과 어떻게 결합하는지 그 로직을 선보인다. “좋은 멜로디는 예측 가능한 패턴과 뜻밖의 요소들의 혼합물”이라는 것이 저자의 설명이다.
나아가 H. G. 웰스와 로드 던세이니, 보르헤스의 문학을 징검다리 삼아 4차원공간, 신의 존재 확률과 무한후퇴, 시간 여행과 시간 정지 등을 풍부하게 논하고, 더글러스 호프스태터(Douglas Hofstadter)의 『괴델, 에셔, 바흐』도 소개한다.
이렇듯 『수학의 유희』에서 마틴 가드너는 수많은 현대의 지성을 한자리에 초대해 즐겁게 웃고 놀이하며, 수학과 예술의 경이로운 융합의 장을 주선한다.