인류에게 빛이 되어준 유용한 상징,
수학기호의 기원과 진화를 추적하다!

▼ 우리가 몰랐던 수학기호의 비밀
1+1\u003d2라는 수식과 “하나에 하나를 더하면 둘이 된다.”는 문장 중 어느 편이 수학에 어울리는지를 묻는다면, 대부분의 사람들이 당연하다는 듯 수식이라고 답할 것이다. 우리에게는 그만큼 아라비아숫자와 덧셈부호, 뺄셈부호, 등호 같은 수학기호가 자연스럽게 느껴진다. 그리고 이것들이 아주 오래전부터 쓰였을 것이라고 생각한다.
그런데 15세기까지는 수학 표기에 진정한 기호가 사용되지 않았다. 놀랍게도, 겨우 몇 백 년 전까지만 해도 수학기호를 이용해 함축적으로 표현하는 수학보다 ‘말로 풀어내는’ 수사적 수학이 당연한 것이었다.
고대 그리스의 수학자인 유클리드의 《원론》은 임의의 두 원의 넓이의 비가 그 지름의 제곱의 비와 같다는, 증명하기 어려운 사실의 증명을 포함하고 있으면서도 거듭제곱이나 덧셈을 나타내는 대수기호가 전혀 보이지 않는다. 왜냐하면 그의 서술이나 증명은 기하학적이면서 완전히 이야기 형식이기 때문이다. 지금으로서는 기호가 빠진 수학을 상상하기가 어렵지만, 16세기 초반까지만 해도 유럽의 수학 저작물은 본질적으로 《원론》처럼 수사적이었다.

▼ 쉽지만 깊이 있게 알아보는 수학기호의 발전 과정
대부분의 고대 문화권에서 처음 세 가지 숫자를 나타내는 기호는 수평선이나 수직선으로 손가락이나 막대기를 표현하는 데서 진화된 것 같다. 4를 나타내는 기호에 이르면 일반적으로 수직선이나 수평선은 사라지고 네 개인 것 같은 선의 배열이 보인다. 어떤 문화권에서는 평행선 표시에서 다른 형태로 가는 전환이 6부터 시작된다. 중국 체계는 논리적인 손가락셈이나 막대기 셈의 발전을 볼 수 있는 가장 오래된 체계로 꼽힌다. 여기서 6을 위한 기호는 수직 막대기가 여섯 개여선 안 된다. 왜냐하면 세어 보지 않고는 수직 막대기 다섯 개와 여섯 개를 구별하기가 어렵기 때문이다. 숫자 체계를 만드는 핵심적 이유는 세어 볼 필요가 없다는 점이다.
더하고 곱하는 인류의 능력은 분명히 어떤 표시 체계와 함께 시작되었다. 손가락이나 돌멩이를 세는 것이나 가상의 어떤 것에서 시작되었든 말이다. 초기의 셈은 분명히 구체적인 대상을 하나하나 가리키면서 했다. 남아 있는 아즈텍 언어는 수를 돌 하나, 돌 둘, 돌 셋 하는 식으로 사용한다. 남태평양 언어들은 과일 하나, 과일 둘, 과일 셋 하는 식으로 센다. 그러나 시간이 지나면서 셈은 손가락, 돌, 과일, 낱알 같은 대상의 특성이 더는 중요하지 않은 추상적인 단계로 발전했다. 이것이 바로 수학이다.

▼ 수학기호를 통해 보는 지식 교류의 역사
빈자리를 나타내는 0과 1부터 9에 이르는 숫자 아홉 개가 인도로부터 아랍을 거쳐 서구로 전해진 것은 분명해 보인다. 인도숫자는 5세기쯤 무역로를 따라 시리아를 지나 알렉산드리아에 전해졌을 가능성이 아주 높다. 숫자는 유럽과 긴밀히 연관되어 있던 알렉산드리아에서부터 서쪽으로 이동했다. 거대한 도서관을 항구에 들어온 배에 실린 책의 사본으로 가득 채웠던 도시, 알렉산드리아에 수학자들이 연구를 위해 방문하는 것은 아주 자연스러운 일이었다. 숫자는 모양이 가지가지였지만, 이탈리아 수학자 피보나치가 《산반서》를 쓰던 13세기 초까지는 오늘날 우리가 보는 것과 같은 기호로 정착했다. 당시 로마숫자를 가지고 힘들게 수를 읽고 계산하던 유럽인들은 선물을 받았다. 무한히 많은 모든 수 중 임의의 수를 나타내는 데 단지 기호 열 개만으로 충분하다는 걸 깨달은 것이다.
한편 9세기가 되기 직전 바그다드에는 ‘지혜의 전당’으로 알려진 도서관이자 번역소가 설립되었고, 이곳은 그 뒤 500년간 이슬람 황금기에 중요한 지식의 중심지가 되었다. 그리스어, 중국어를 비롯해 여러 언어로 된 점성술, 수학, 농학, 의학, 철학 저작들이 지혜의 전당에서 아랍어로 옮겨졌다. 대수학의 아버지로 불리는 이슬람 수학자, 알콰리즈미가 바로 이곳에서 일하면서 《브라마스푸타시단타》를 포함해 인도에서 유래한 모든 저술에 관심을 가졌다. 0이 처음 등장하는 이 책에 담긴 새로운 숫자는 가끔 인도숫자로 불렸고, 아라비아숫자라고 불리기도 했다.

▼ 수학기호가 우리에게 미치는 영향
수학의 전형적인 기호는 연산, 무리 짓기, 관계, 상수, 변수, 함수, 행렬, 벡터, 집합론, 논리학, 수론, 확률론, 통계학에서 쓰이는 것들이다. 기호들 각각은 수학자의 창의적인 사고에 별 영향을 미치지 않을지 몰라도, 이들이 합쳐지면 유사성·연상·동일성·닮음·반복적인 형상화를 통해 강력한 연관성을 획득한다. 심지어 깨닫지 못했던 생각을 창조할 수도 있다. 어떤 수학기호는 경험과 미지의 것을 연결하거나 유사성과 닮음을 통해 의미를 전달할 수 있는 비유적 생각을 전하기 위해 계획적으로 고안되기도 한다.
의미와 이해는 경험을 통한 연상과 유사성과 집단적 잠재의식에 깊이 삽입되어 있을지도 모른다. 미적으로 설득력 있는 기호라는 문화적 경향은 시와 예술뿐만 아니라 수학에서도 우리의 아름다움에 대한 감정적 평가에 안성맞춤일지 모른다. 그렇지만 수학에서 증명의 우아함, 설명의 단순함, 창의성, 복잡성의 단순화, 의미 있는 연관 만들기는 대부분 똑똑하고 깔끔한 기호들의 빛나는 효율성에서 나온다.

“《수학기호의 역사》는 수학에서 사용되는 기호들의 기원에 대해 설명한다. 그러나 이 재미난 책은 그보다 훨씬 많은 것을 담고 있다. 흥미로운 이야기들, 마음을 사로잡는 소재, 그리고 즐거운 관찰들로 가득 차 있으면서, 독자들에게 수학의 본성에 대한 더 나은 이해와 수학사에 대한 훌륭한 개요를 제공한다.” - 도미니크 클리베_센트럴 워싱턴 대학교

 

“수학적 상징들은 종이 위의 구불구불한 선들 이상이다. 그것들은 강력한 통찰의 원천이다. 이 책에서 조지프 마주르는 상징들의 기원으로 가는 매혹적인 여정으로 우리를 이끈다. 당신은 더 좋은 안내자를 찾을 수 없을 것이다.” - 케네스 리베트_UC 버클리

 

수학에서 수사적 표현을 기호로 표시한 형태는 편리한 속기의 차원을 넘어선다. 먼저, 기호는 특정 언어에 한정되지 않는다. 다른 서체로 쓰일 수는 있어도 전 세계 거의 모든 언어가 같은 표기법을 쓰기 때문이다. 둘째, 아마 자연언어로 적힌 단어 때문에 생기는 모호함과 오역을 극복하도록 돕는다는 것이 가장 중요하다. 기호는 특정 서술을 일반적 형태로 변환한다. 예를 들어, ‘미지수의 제곱에서 미지수의 두 배를 빼고 일을 더한다’는 문장은 이라고 나타낼 수 있다. - 14쪽

이 책은 수를 세는 것에서 출발해 현대 수학의 주요 연산자들로 이어지면서, 수학에서 확립된 기호들의 기원과 진화를 추적한다. 주로 수학기호에 관한 역사서지만, 기호가 수학적 사고에 어떻게 영향을 미치며 폭넓고 영구적인 잠재의식의 영감을 어떻게 불러일으키는지에 관한 탐구서이기도 하다. - 17쪽

유한한 표시와 문자의 집합으로부터 사실상 무한한 소리, 주장, 기호, 생각의 집합을 만들어 낼 수 있다는 것이 인간의 말과 글에서 가장 중요하다. 동물은 언어가 있다고 해도, 유한한 소리와 몸짓으로부터 무한한 의사소통이 가능한 기호 표현을 만들어 낼 수는 없다. – 27~28쪽

기원전 1세기 전 언젠가 페니키아인의 알파벳이 소개될 때까지, 세계의 거의 모든 문화권이 그림 같은 기호를 써서 표상적 기록을 발전시켰다. 그리고 이것은 그 문화권에 즉각적인 의사소통 수단뿐만 아니라 미래 세대를 위해 지식을 기록으로 남길 수단이 되었다. - 30쪽

우리가 확실히 아는 사실은, 언제 어디에서 어찌어찌하여 자릿값이라는 영리한 생각이 인도인으로부터 아랍인에게 그리고 유럽인에 전해졌다는 것이다. – 69쪽

여기저기 흩어져 있는 양 100마리보다는 조약돌 100개를 세는 편이 훨씬 더 쉽다. 또 조약돌 100개를 무작정 세는 것보다는 조약돌을 열 개씩 묶은 더미 열 개를 세는 편이 훨씬 더 쉽다. 이집트인, 그리스인, 중국인은 크기가 다른 조약돌을 세는 기술로 일상적인 계산을 했다. 어떤 크기의 조약돌 하나하나가 그것보다 작은 조약돌의 무더기를 나타냈다. 따라서 조약돌 열 개로 그것보다 작은 조약돌 100개를 나타낼 수 있다. 이런 체계는 크기를 구분할 필요가 없는 것으로 진화했다. 조약돌을 세는 사람이 낱개를 나타내는 조약돌과 열 개 묶음을 나타내는 조약돌을 따로 두면 된다는 걸 깨달았기 때문이다. 대단해 보이지 않을 수도 있을 이 진보가 바로 주판이라는 개념을 암시한다. 초기의 주판은 단순히 조약돌을 세는 방법이었으며 조약돌은 그 낱낱을 위한 선, 열 개짜리에 해당하는 선, 100개짜리의 선 등 선을 따라 놓였다. - 76쪽

0은 숫자일 뿐만 아니라 자리지킴이로서 아마도 628년 무렵에 처음으로 책에 등장한 듯하다. 우리가 0을 음수(‘빚’), 양수(‘자산’)와 함께 사용하는 것에 대한 규칙을 처음 발견할 수 있는 책이 바로 《브라마스푸타시단타》다. 브라마굽타는 0을 검은 점 하나로 표시했는데, 어떤 수에서 바로 그 수를 뺐을 때 그 결과로 나오는 숫자를 나타내기 위해 썼다. 0은 그냥 자리지킴이가 아니었다. 아마 사상 최초로 무(無)를 나타내는 수가 나타난 듯했다. - 92쪽

수사적 서술을 기호로 나타내는 것이 그저 편리한 속기라고 생각하는 우를 범해서는 안 된다. 그 이상이다. 기호는 인간이 자연스러운 언어로 쓴 단어들 속의 모든 애매모호와 오해를 초월하도록 도와준다. 더 나아가 기호의 사용은 특정 서술을 일반적인 형태로 끌어올려 준다. 데카르트 시대에 방정식은 거의 완전히 현대적인 기호로 쓰였다. 단치히가 말한 것처럼 마침내 기호가 ‘대수학을 단어의 속박에서 벗어나게 하는’ 시대가 도래했다. - 136쪽

머리말
정의
그림에 관해

1부 숫자의 역사
1. 기이한 시작
2. 고대의 놀라운 수 체계
3. 실크로드와 로열로드를 따라
4. 인도인의 선물
5. 유럽으로 건너간 아라비아숫자
6. 아랍의 선물
7. 《산반서》
8. 기원을 둘러싼 논쟁

2부 대수의 역사
9. 기호 없이
10. 디오판토스의 《산술》
11. 위대한 기술
12. 대수기호의 출현
13. 소심한 근의 기호
14. 거듭제곱의 서열
15. 모음과 자음
16. 폭발
17. 새로운 기호
18. 기호의 대가, 라이프니츠
19. 마술사의 최후

3부 기호의 힘
20. 마음속에서 만나는 기호
21. 좋은 기호
22. 보이지 않는 고릴라
23. 마음속 그림
24. 기호의 빛나는 효율성

부록
주
찾아보기