‘인공지능이 인간을 대체할까?’라는 질문이 처음부터 잘못된 질문인 이유

인공지능에 대해 이야기하자면 반드시 등장하는 주제가 있다. ‘인공지능은 인간적인가, 혹은 인간의 적인가?’ 다시 말해 인공지능은 인간을 돕는 존재가 될 것인가, 아니면 인간을 위협하는 존재가 될 것인가? 인공지능으로부터 안전한 인간만의 영역이 있을까? 저자는 이런 질문들이 AI에 대한 잘못된 개념을 가지고 기계나 인간에 비교하기 때문에 발생하는, 즉 인공지능을 제대로 모르기 때문에 나오는 질문이라고 말한다. ‘비교’ 논증을 통해 기존 기술 중심 인공지능 책들이 놓치고 있던 맹점을 예리하게 파고드는 저자의 논리 전개는, 개념 분석을 통해 철학적 문제를 해체하는 언어분석철학의 방법을 떠올리게 한다. 그가 강조하는 ‘비교’는 바로 ‘오래된 인공지능’으로서의 문자와의 비교, 그리고 과학 패러다임과의 비교다. 이를 통해 인공지능과 인간 사이의 관계의 본질이 명료하게 드러나며, 인공지능에 대해 가졌던 고정관념이 전복된다.

수천 년 전 인간은 이미 인공지능을 만들었다
너무나도 당연해서 인식을 못하지만, 인간은 문자라는 인공지능을 이미 가지고 있다. 유전적으로는 30만 년 전의 인류와 크게 다를 바 없지만 문자와 결합한 현대인은 수렵채집인과는 다른 문명인이 된다. 문자를 통해 인간은 안정적으로 기록을 후손에게 전달할 수 있었고, 생각을 정리해서 더 고차원적인 사고를 할 수 있게 됐으며, 태양계 밖으로 우주선을 보낼 수 있게 된 것이다. 문자가 없다면 아무리 천재과학자라도 과학이론을 세울 수 없다. 어떤 의미에서 현대인이 문자의 지배를 받고 있다고 말할 수도 있겠지만, 이에 대해 인공지능으로서의 문자가 인간을 위협한다는 식으로 문제의식을 가지는 사람은 없다. 오히려 문자를 모르는 게 더 문제로 인식된다. 저자는 이러한 문자와 마찬가지로 오늘날에는 AI 역시 인간과 통합되어, 인간의 지능을 확장시켜줄 도구라고 역설한다.

20세기 인공지능 연구는 왜 실패했을까?
초창기 인공지능의 연구자들은 문자 지식 지능을 컴퓨터로 구현하는 데 주력했다. 그동안 인류의 발전에 문자지식이 너무나도 성공적인 능력을 보여줬으므로 당연한 선택이었다. 하지만 기호주의 인공지능이라 불리는 이 접근법은 별다른 성과를 내지 못한 채 끝났다. 사람이 아주 쉽게 하는 일조차 기호와 규칙으로 구현하는 데 어려움이 있었던 것이다. 이는 문자 지식 지능이 인간 지능의 전부가 아니었기 때문이다. 한동안 침체기에 빠졌던 인공지능 연구는, 21세기에 들어 향상된 컴퓨터 연산능력에 힘입어 기계학습 인공지능을 중심으로 부활하였다. 오늘날 우리는 알파고를 위시한 챗GPT 등 생성형 인공지능의 놀라운 결과물을 보며, 인간이 기계로 대체될 수 있을지 모른다는 두려움에 사로잡힌다.

인공지능은 우리가 생각하는 그 과학이 아니다
기계학습 인공지능은 우리가 흔히 생각하는 과학 기술과 근본적인 차이가 있다. 고립계와 환원주의를 기반으로 하는 과학은 정답을 찾는 것이 목적이다. 이를 위해서 인간이 감당할 수 있도록 단순화된 방식을 추구한다. 예를 들어 뉴턴의 만유인력 법칙은 제한된 조건을 가정하고, 몇 가지 변수만 고려했다. 이런 단순한 법칙들을 조합해서 복잡한 기계를 만드는 것이 환원주의 방식이다. 반면 기계학습은 본질적으로 확률이다. 주어진 질문에 대해 확률값이 높은 답변을 내놓을 뿐, 그 답이 어떻게 도출되는지 논리구조나 인과관계를 제공하지 못한다. 실제로 방대한 데이터를 학습해 사람처럼 자연스러운 문장을 구사하는 챗GPT는 간단한 수학문제를 풀지 못해서 외부 수학프로그램의 도움을 받는 실정이다.
인공지능이 모든 분야에서 인간을 대체하고 인간을 뛰어넘는 존재가 될 것이라는 걱정은 이러한 차이를 모른 채 환원주의적 과학 기술의 연속선상에서 판단하기 때문이라고, 저자는 말한다. 환원주의 방식은 쌓여서 거대하고 정밀한 기계를 만들 수 있지만, 확률로 도출한 지식은 쌓을수록 오차가 커지기 때문에 거대하고 정밀한 시스템을 만들 수 없다는 것이다.

인공지능은 현대 사회의 문제를 해결할 사이보그2의 디딤돌
저자는 단순히 관련 지식을 전달하는 것에 머무르지 않고, 인공지능과 인간의 정의에 대한 오래된 관념을 전복함으로써 독자가 두려워하는 것의 실체를 밝힌다. 비트겐슈타인이 언어 문제에서 그러했듯이, 저자는 철학적 해체 방법을 사용해 독자가 문제의 기초부터 재고하도록 만든다. 인공지능이 대체할 수 없는 ‘인간’ 혹은 ‘나’라는 것의 본질이 뭘까? 아니, ‘본질’이라는 것이 정말 존재하는 것일까? 인간과 인공지능은 서로 대체되는 개별적 완성품일까?
저자는 인간이 이미 도구와 융합된 '사이보그'와 같은 존재임을 꼬집는다. 문자와 과학으로 발전된 지능을 가진 인간을 ‘사이보그 1’로 보았을 때, 현대 사회는 사이보그 1이 해결하기 힘든 문제들로 채워지고 있다. 저자는 인공지능이 인간을 그 문제를 돌파할 능력을 가진 ‘사이보그 2’로 만들어 줄 도구라고 역설한다.

독창적인 혜안으로 풀어내는 인공지능 패러다임의 모든 것
물리학과 인공지능학을 전공했으며 이후 뇌과학 분야에서도 활발히 연구한 저자는 인공지능의 역사와 한계점, 그리고 현재 인공지능 패러다임을 주도하는 기계학습 인공지능에 대해 쉽고 명료하게 설명한다. 인공지능을 오로지 과학적 시각으로 해석하려는 것은 마치 “교회가 과학을 가르치려 드는” 것과 같다. 종교와 과학이 다른 믿음을 가지고 있듯이, 과학과 인공지능도 각자 다른 믿음을 통해 굴러가기 때문이다.
따라서 인공지능 패러다임을 제대로 이해하고 사용하려면, 본질적인 작동 방식뿐만 아니라 사용자나 법률 등 인문·사회적 환경까지 고려해야 한다. 그 점을 정확히 꿰뚫은 저자는 빈도주의 확률과 베이지언 확률, 몬테카를로 기법부터 드레이퍼스와 튜링의 논의, 탈레브의 ‘블랙 스완’과 비트겐슈타인의 언어 규칙, 그리고 이사야 벌린의 낭만주의까지 다루며 과학과 인문학에 대한 폭 넓은 지식으로 인공지능을 탐구한다. 이러한 설명은 비전공자도 이해하기 쉬운 논리적 전개와 유쾌한 비유를 통해서 웬만한 확률통계 책이나 철학책보다 쉽고 즐겁게 독자에게 다가온다.

AI 시대, 그대들은 어떻게 살 것인가
이 책은 결국 AI 시대를 통해 삶과 인간의 정의가 다시 세워질 것임을 말한다. 지금껏 사회 전반을 지배해 온 것은 과학 패러다임으로, 모든 문제에 단 하나의 답이 있으며 세계에는 정확하고 간결한 법칙이 존재한다는 착각 속에 살게 한다. 과학 패러다임의 사회에서 세부적인 지식과 법칙은 점점 증가하고, 복잡해지는 세계에서 사람들은 자기만의 계곡으로 숨어들게 된다. 이러한 개인화 현상이 지속된다면 우리는 문명의 붕괴를 피할 수 없다.
AI 시대는 안과 밖이, 각각의 도구가, 사람들이 서로 연결되어 작동하는 세계이다. 이 세계에서는 실패도 데이터이며 완벽하지 않은 지식도 연결을 통해 쓸모 있어진다. 사람들은 인간보다 이성적인 AI의 등장에 인본주의가 사라질까봐 걱정하지만, AI 시대는 인본주의가 사라진 시대가 아니라 더 겸손하고 덜 개인주의적인 인본주의의 시대이다. 저자는 새로운 시대를 맞이하기 위해 우리가 가져야 할 태도를 안내한다. 이는 AI를 통해 얻는 지식을 ‘제3의 지식’으로 구분하며 이를 적극적으로 활용하라는 제안이다. 당신은 문명의 붕괴로 향할 것인가, 새로운 인본주의를 맞이할 것인가? 미래를 향한 방향키는 AI가 아닌, AI를 받아들이고 사용해야 할 당신의 손에 달려있다. 성큼 다가온 인공지능의 시대를 우리가 어떤 태도로 마주해야 할지, 과연 그 속에서 새롭게 정의되는 인간의 본질은 무엇인지 고민하는 당신을 위한 안내서.

여는 글

1장 인공지능 패러다임
인공지능은 음악과 무엇이 다른가?
왜 인공지능 패러다임인가?

2장 기호주의 인공지능과 문자 지식 패러다임
오래된 인공지능
기호주의 인공지능의 한계
인간은 이미 사이보그다

3장 기계학습 인공지능
기계학습
AI의 전제조건과 한계
AI는 뉴턴을 대체할 수 없다

4장 지능 패러다임
여러 가지 지능
과학 패러다임의 특징
고립계와 환원주의
AI 패러다임과 제3의 지식
AI 패러다임과 최적화
게임과 차원의 저주
과학적 지식과 제3의 지식의 공존

5장 AI 시대
도구를 쓰는 AI
지능과 환경
AI 패러다임과 교육
인공지능 시대를 사는 방법
문명의 시대와 부족의 시대, 그리고 인공지능
인본주의의 새로운 시작

닫는 글
부록
기계는 어떻게 학습을 할 수 있는가?
인공신경망이란 무엇인가?
빈도주의 확률
베이지안 확률
차원의 저주와 MCMC