논리학 역사상 가장 난해한 패러독스와 사고실험
‘지知의 거장들’이 몰두한 최고의 난제를 해명하다

여기 세 개의 문이 있다. 운만 조금 따른다면, 이중 단 한 곳에만 숨어 있는 고급 승용차를 손에 넣을 수 있다. 숨을 고르고 신중하게 마음을 정해보자. 그런데 문을 열어 확인하기 직전, 게임 진행자가 나머지 문 두 개 중에서 염소가 있는 문을 열어 보여주면서 선택을 바꿀 수 있는 기회를 한 번 더 주겠다고 제안한다. 당신이라면 처음의 선택을 고수하겠는가, 아니면 남아 있는 다른 하나의 문으로 바꾸겠는가? 내로라하는 수학자들을 곤혹스럽게 한 ‘몬티 홀 딜레마’다.
이성적이고 합리적인 주체라는 믿음과는 달리, 인간은 우리의 생각만큼 그다지 논리적이지 않다. 우리의 추론은 쉽사리 잘못된 길로 접어들며, 우리의 지각과 직관은 사소한 눈속임에도 혼란에 빠져든다. 버트런드 러셀의 말을 빌리자면, 인간이 이성의 동물임을 뒷받침해줄 증거는 어디에도 없다. 논리학과 수학의 역사를 장식한 석학들이라 할지라도 예외가 아니다. 앞의 문제가 좋은 예다. 대부분의 사람들이 문을 바꾸면 안 된다고 생각한다. 하지만 아쉽게도 정답은 ‘선택을 바꾸어야 한다’이다. 믿기지 않는가? 당시 『퍼레이드』지의 칼럼에서 이 같은 답을 제시했던 메릴린 보스 새번트에게는 수백명의 수학자를 포함하여 미국 전역에서 약 1만 통의 항의 편지가 빗발쳤다. 하지만 새번트는 집에서 직접 실험해보라고 응수했고, 결국 확률 공부라도 좀 더 하는 게 어떻겠냐는 수학자들의 조롱은 자신들의 차지가 되었다.
사실 ‘몬티 홀 딜레마’는 이 흥미진진한 역전극의 일부에 지나지 않는다. 논리학의 역사에는 걸출한 학자들조차 때로 난관에 부딪히고 말끔한 답을 내놓지 못한 난제들이 적지 않다. 『패러독스 논리학』은 이처럼 가장 논쟁적이며 난해하기로 손꼽히는 논리학의 대표적인 난제들을 일반 독자의 눈높이에 맞게 재구성하여 해설한 책이다. 철학의 대중화를 표방하는 영국의 철학 계간지 『필로소퍼스 매거진(The Philosopher's Magazine)』의 공동 발행인이자, 『호모 사피엔스, 퀴즈를 풀다』 등으로 국내 독자들에게 소개된 바 있는 제러미 스탠그룸(Jeremy Stangroom)이 제논의 역설부터 뉴컴의 패러독스까지 논리학 역사에서 빼놓을 수 없는 패러독스와 사고실험을 쉽고 흥미롭게 풀어냈다.

올바른 사유와 추론의 길잡이

패러독스(paradox)란 그리스어로 ‘일반적인 상식, 견해’를 가리키는 ‘doxa’와 ‘거스르다’라는 뜻의 ‘para’가 더해진 말로서, 보편타당하다고 여겨지는 상식과 직관을 거스르며 논리적 난관을 낳는 논증들을 말한다. 패러독스는 언뜻 참 또는 거짓인 듯 보이지만 실은 정반대의 결론을 보여줌으로써, 사유의 진전과 올바른 추론을 위한 길잡이 역할을 톡톡히 해낸다. 한편 패러독스 중에는 분명 상식에 반하는 논증이지만 그 논리적 오류를 명쾌하게 해명하기 어려운 것들도 있다. 달리기 경주에서 아킬레스가 거북이를 영원히 따라잡지 못할 것이라는 고대 그리스의 유명한 패러독스인 ‘제논의 역설’이 대표적이다.
바로 이러한 점으로 인해, 패러독스는 논리학을 모든 학문의 토대로서 중요하게 여긴 고대부터 오늘날에 이르기까지 철학과 수학의 발전과 궤를 같이하며 인류에게 지적 전환점을 마련해주었다. 예를 들어 앞서 이야기한 ‘제논의 역설’은 19세기에 무한의 개념에 관한 논의에 영향을 미쳤으며, ‘러셀의 패러독스’는 20세기 초 집합의 본질에 대한 이해에 혁명을 불러일으켰다. 이뿐만이 아니다. ‘죄수의 딜레마’와 같은 게임이론은 정치학과 경제학 분야에서 다양하게 활용되고 있으며, 정체성의 딜레마를 다룬 ‘테세우스의 패러독스’는 복제 양 돌리의 시대를 살아가는 우리들에게 생명윤리에 관한 묵직한 논점을 던져준다.
물론 이 책의 문제들을 해결하는 것이 그리 녹록치는 않을 것이다. 실제로 이 책에 소개된 영국의 인지심리학자 피터 웨이슨이 고안한 카드 문제는 테스트에 참가한 이들 중 불과 20퍼센트만이 해결하는 것으로 알려져 있다. 패러독스의 고전인 ‘거짓말쟁이의 패러독스’는 제시된 지 2천여 년이 지난 오늘날에도 명쾌한 해법을 내놓지 못하고 있으며, ‘뉴컴의 패러독스’는 1960년 물리학자 윌리엄 뉴컴이 고안한 이래 엄청난 논쟁의 주제로 남아 있다. 인간에게 과연 자유의지가 있는지를 묻는 ‘뷔리당의 당나귀’는 또 어떤가. 베일에 싸여 있던 뇌의 비밀이 속속 밝혀지면서 엎치락뒤치락 논쟁을 거듭하고 있는 이 문제는 그리 쉽게 결론이 날 성싶지 않다.
결국 지은이가 머리말에서도 밝혔듯이, 이 문제들의 ‘우아한 해법’을 생각해낼 수 있다면 오랜 세월 동안 이에 대해 숙고를 거듭해온 수많은 거장들보다 더 위대한 일을 해내는 셈이다.

패러독스로 읽는 논리학 이야기

‘즐거운 철학 읽기’를 주장하는 저술가답게 결코 쉽지 않은 이 같은 난제들에 보다 가까이 다가갈 수 있도록 배려한 글쓰기 전략도 눈길을 끈다. 짤막한 이야기 형식으로 꾸민 문제들 곳곳에서 일종의 패러디를 구사한 것이다. 눈 밝은 독자들이라면 알아볼 수 있겠지만, 이 책에 등장하는 인물과 모티프들은 각종 영화와 문학 작품, 신화 등에서 빌려온 것이다. 프랑소와 트뤼포 감독의 영화 주인공 줄과 짐, 『허풍선이 남작』의 저자 바론 뮌하우젠, 트로이 전쟁의 영웅 아킬레스와 헥토르 등이 그것이다.
이 책에 등장한 난제들이 일상생활과는 무관한 것이라고 생각할 수도 있다. 하지만 확률을 계산하고, 다양한 의사결정 시나리오를 바탕으로 판단을 내리고, 잘못된 추론을 알아보는 일이 종종 있지 않는가. 논리학은 실상 우리의 생각보다 훨씬 가까운 곳에 있다. 논리학의 역사에 저마다 크고 작은 영향을 미치며 때로 사유의 지형을 뒤바꿀 정도로 장관을 연출한 난제들, 이 사고실험의 여정을 함께하며 그동안 어렵게만 느끼던 논리적 사고와 친숙해지는 계기를 마련할 수 있다.

“스스로를 원소로서 포함하지 않는 모든 집합들의 집합은 자기 자신을 원소로서 포함하는가? 만약 포함하지 않는다면, 포함해야 한다. 만약 포함한다면, 포함하지 말아야 한다.”
‘러셀의 패러독스’는 (상당히) 간단하지만, 그것의 결과는 거대하다. (…) 여기에는 재미있는 여담이 있다. 이 패러독스는 1903년 버트런드 러셀이 철학자 고틀로프 프레게에게 그것의 개요를 설명한 편지를 보내면서 세상의 빛을 보게 되었다. 프레게는 수학의 토대에 관한 이론을 개발하기 위해 인생의 30년을 보낸 학자였다. 아주 약간 과장하여 말하자면 프레게의 작업 전체가 이 한 통의 편지로 파괴되었다. -본문 159～160쪽 중

‘심슨의 패러독스’란 작은 데이터들을 보다 큰 하나의 데이터로 합쳐놓으면, 작은 데이터들에서 나온 결과를 뒤집는 듯 보이는 결과가 도출되는 경우를 일컫는 말이다(그래서 이를 ‘역전의 역설Reversal Paradox'이라고 부르기도 한다). (…) 심슨의 패러독스는 실제 세상에도 떠들썩한 분규를 일으켰다. 1973년에 캘리포니아 주립대학 버클리 캠퍼스는 대학원에 지원한 여학생들이 남학생들보다 입학 허가가 날 가능성이 더 적은 것을 보여주는 데이터가 드러나 소송에 휘말렸다. 하지만 자세히 조사를 하자 개개 학과의 수준에서 볼 때 그러한 편향은 존재하지 않았다는 것이 밝혀졌다. 전체적인 수치가 편향되어 보였던 까닭은 단순히 남자보다 훨씬 많은 수의 여학생이 경쟁이 심한 학과에 진학하려고 지원을 했으며, 그리하여 대부분의 여성 지원자들을 탈락시킨 듯 보였기 때문이었다. -본문 145～146쪽 중

“이 문장은 참이 아니다”는 ‘강화된 거짓말쟁이의 역설’이라고 불린다. 이 문장은 역설적인데, 왜냐하면 만약 거짓이면 참이 되지만(왜냐하면 이 문장의 참된 주장이 이 문장이 거짓이라는 것이므로), 참이라면 거짓이 되기(왜냐하면 이 문장의 참된 주장이 바로 이 문장이 거짓이라는 것이므로) 때문이다. 나아가, 이 문장이 참도 아니고 거짓도 아니라고 대답할 수 없다는 것은 옳다. 왜냐하면 이 문장이 참도 거짓도 아니라면, 이 문장은 참이 아니다. 이는 곧 이 진술이 주장하는 바로 그것이며, 그러므로 이 문장을 참으로 만들고, 다시 이 패러독스로 곧장 돌진하는 것이다. -본문 161쪽 중