도쿄대학교 공학부와 의학부 교수를 겸임하고 있는
세계적 석학 정웅일 교수가 들려주는 인공지능 도덕의 메커니즘!

-인공지능 로봇에게 어떻게 선악 판단을 가르칠 것인가?

인공지능에 도덕엔진을 탑재하기. 이 책은 인공지능 로봇에게 어떻게 선악 판단, 즉 도덕엔진을 탑재할 것인가 하는 주제를 다루고 있다. 도쿄대 공학부와 의학부 교수를 겸임하고 있는 세계적 석학이자 재일교포 3세인 정웅일 교수가 여섯 번의 강의를 통해 고대에서 근현대 사상까지 고금동서의 도덕사상이 어떠한 구조로 이루어져 있는지를 평면적으로 분석하고 분류하여 도덕 시스템의 공통된 원리를 추출한다. 그리고 로봇에게 어떻게 도덕엔진을 탑재할지를 다루고 있다. 그동안 이과의 영역이라고만 여겨왔던 인공지능과 문과의 영역인 철학, 도덕, 사회성을 접목시켜 독특하고 새로운 시각으로 그 문제를 바라보고 생각하게 한다.
그런데 왜? 인공지능이나 로봇에 도덕이 필요할까? 인공지능은 그냥 지적 능력만 뛰어나면 되는 것이 아닌가? 이 책에서 저자는 인공지능이 무인 판매기와 같은 단순 업무에서 시작해서 바둑, 통역, 글쓰기 등의 다양한 활동을 하는 데서 더 나아가 ‘선악 판단’까지 해야 한다고 주장한다. 실제 최근 디지털 혁명으로 불리는 4차 산업혁명 시대가 밀려오면서 인공지능과 로봇에 관한 관심이 뜨겁다. 미래 산업의 가장 중요한 핵심으로 여겨지고 앞다투어 인공지능과 로봇 산업에 뛰어들고 있다. 그런데 그 인공지능이나 로봇에게 능력만큼이나 중요한 것이 도덕이다. 만약 SF 영화에 나오는 단골 주제처럼 인공지능이나 로봇이 인간을 살해하게 된다면? 인간이 로봇을 만들었는데 점점 더 강력해진 로봇이 결국 인간을 멸종시키고 만다는 것 말이다. 그런 일은 공상일 뿐이고 절대 일어날 리 없으리라고 단언할 수가 없다. 이제 우리 인류는 인공지능이나 로봇과의 공생을 고민해야 하는 시점이 이른 것이다.
이 책에서 저자는 인공지능이나 로봇에 인간보다도 더 우월한 도덕엔진을 탑재해야만 한다고 주장한다. 그리고 로봇에게 탑재하는 선악을 구분하는 시스템을 ‘도덕엔진’이라 부르고 있다. 이 ‘도덕엔진’을 로봇에게 입력할 때는 여러 가지 문제(공통의 규칙과 개별의 규칙의 이중성 식별 문제, 사람을 죽이면 안 되지만 전쟁과 사형 같은 특수상황에서의 모순성 등)들을 충분히 검토하여 탑재해야 이상적인 구조가 될 것이라 말하고 있다. 인공지능에 대해 다루고 있지만 난해한 전문 용어와 이론만 늘어놓은 어려운 책이 아니라 과학을 모르는 일반 독자들이 입문서처럼 쉽게 이해할 수 있는 예를 들어 설명하고 있다.

지금까지 인공지능을 다루는 책들은 쏟아져나오고 있다. 하지만 대부분 인공지능을 각 업무 분야에서 어떻게 활용할 것인지를 다루는 데 비해 사람만이 생각할 수 있으리라 여겨져 온 ‘도덕’적인 부분을 AI와 묶어서 다루고 있다는 점에서 다른 책들과 굉장히 차별화되어 있다.
도쿄대학교 공학부와 의학부 교수를 겸임하고 있는
세계적 석학 정웅일 교수가 들려주는 인공지능 도덕의 메커니즘!

-인공지능 로봇에게 어떻게 선악 판단을 가르칠 것인가?

인공지능에 도덕엔진을 탑재하기. 이 책은 인공지능 로봇에게 어떻게 선악 판단, 즉 도덕엔진을 탑재할 것인가 하는 주제를 다루고 있다. 도쿄대 공학부와 의학부 교수를 겸임하고 있는 세계적 석학이자 재일교포 3세인 정웅일 교수가 여섯 번의 강의를 통해 고대에서 근현대 사상까지 고금동서의 도덕사상이 어떠한 구조로 이루어져 있는지를 평면적으로 분석하고 분류하여 도덕 시스템의 공통된 원리를 추출한다. 그리고 로봇에게 어떻게 도덕엔진을 탑재할지를 다루고 있다. 그동안 이과의 영역이라고만 여겨왔던 인공지능과 문과의 영역인 철학, 도덕, 사회성을 접목시켜 독특하고 새로운 시각으로 그 문제를 바라보고 생각하게 한다.
그런데 왜? 인공지능이나 로봇에 도덕이 필요할까? 인공지능은 그냥 지적 능력만 뛰어나면 되는 것이 아닌가? 이 책에서 저자는 인공지능이 무인 판매기와 같은 단순 업무에서 시작해서 바둑, 통역, 글쓰기 등의 다양한 활동을 하는 데서 더 나아가 ‘선악 판단’까지 해야 한다고 주장한다. 실제 최근 디지털 혁명으로 불리는 4차 산업혁명 시대가 밀려오면서 인공지능과 로봇에 관한 관심이 뜨겁다. 미래 산업의 가장 중요한 핵심으로 여겨지고 앞다투어 인공지능과 로봇 산업에 뛰어들고 있다. 그런데 그 인공지능이나 로봇에게 능력만큼이나 중요한 것이 도덕이다. 만약 SF 영화에 나오는 단골 주제처럼 인공지능이나 로봇이 인간을 살해하게 된다면? 인간이 로봇을 만들었는데 점점 더 강력해진 로봇이 결국 인간을 멸종시키고 만다는 것 말이다. 그런 일은 공상일 뿐이고 절대 일어날 리 없으리라고 단언할 수가 없다. 이제 우리 인류는 인공지능이나 로봇과의 공생을 고민해야 하는 시점이 이른 것이다.
이 책에서 저자는 인공지능이나 로봇에 인간보다도 더 우월한 도덕엔진을 탑재해야만 한다고 주장한다. 그리고 로봇에게 탑재하는 선악을 구분하는 시스템을 ‘도덕엔진’이라 부르고 있다. 이 ‘도덕엔진’을 로봇에게 입력할 때는 여러 가지 문제(공통의 규칙과 개별의 규칙의 이중성 식별 문제, 사람을 죽이면 안 되지만 전쟁과 사형 같은 특수상황에서의 모순성 등)들을 충분히 검토하여 탑재해야 이상적인 구조가 될 것이라 말하고 있다. 인공지능에 대해 다루고 있지만 난해한 전문 용어와 이론만 늘어놓은 어려운 책이 아니라 과학을 모르는 일반 독자들이 입문서처럼 쉽게 이해할 수 있는 예를 들어 설명하고 있다.

지금까지 인공지능을 다루는 책들은 쏟아져나오고 있다. 하지만 대부분 인공지능을 각 업무 분야에서 어떻게 활용할 것인지를 다루는 데 비해 사람만이 생각할 수 있으리라 여겨져 온 ‘도덕’적인 부분을 AI와 묶어서 다루고 있다는 점에서 다른 책들과 굉장히 차별화되어 있다.
◆ 추천사
가천대 길병원이 국내 최초로 인공지능AI 진단 기기 ‘왓슨포온콜로지’를 도입함으로써 국내 의료계에 크나큰 영향을 주고 있다. 선진국은 우리보다 훨씬 앞서 인공지능 로봇 개발 경쟁에 뛰어들었고 바야흐로 인류는 인공지능 로봇 시대를 맞이하고 있다. 그러나 인공지능 로봇은 늘 인류에게 도움만을 줄 것인가? 만약 그렇지 않다면 그 해결책은? 이 책은 인공지능 로봇에 도덕성을 부여하여 해결하려고 한다. 실로 새롭고 흥미로운 도전이 아닐 수 없다.
-정명희, 가천대학교 의무부총장

의대의 1차 교육 목표는 ‘의사’ 양성이지만 의사이면서 동시에 ‘과학자’로서 질병 연구에 전념하여 수많은 환자들을 질병으로부터 해방시키는 의학기술을 개발하는 ‘의사과학자’를 양성하는 것 또한 중요한 미션이다. 대표적인 의사과학자인 저자 정웅일 교수와 역자 이시훈 교수는 도덕적 가치 판단이 가능한 인공지능의 개발이라는 의사과학자의 새로운 역할과 가능성을 제시하고 있다.
-신찬수, 서울대학교 의과대학 학장

도덕적으로 옳지 못한 인공지능의 출현이 충분히 가능해 보이는 지금, ‘인공지능에 도덕엔진을 탑재하는 법’이라는 다소 도전적인 제목이 큰 호기심을 불러일으킨다. 이 책의 저자와 역자는 모두 빼어난 의학자로서 오랜 기간 생명의 비밀을 연구해왔으며 의학을 넘어 인간의 지능 및 그 본질에 대해 관심을 가지게 된 것은 자연스러운 귀결로 보인다. 이 책을 통해 독자들이 도덕적 판단이 가능한 인공지능에 대한 이해를 높일 수 있는 계기가 마련되기를 희망한다.
-윤성로, 서울대학교 전기정보공학부 교수

인간의 윤리적 판단과 경험은 단순히 인공지능에 탑재될 도덕엔진의 원재료로 소비되고 마는 것이 아니라 인공지능이라는 기술적 발달과 창진적으로 교감하며 도덕엔진에 기술적 영감을 부여해주는 마르지 않는 원천이 될 것으로 생각한다. 저자는 이 책에서 인간의 도덕성을 인공지능의 한 작동요소로서 구현할 수 있는 개념설계의 한 모형을 체계적으로 잘 설명하고 있으며 이 분야에 관심 있는 청소년들에게도 이 책이 좋은 입문서의 역할을 할 것으로 기대한다.
-정해욱, 휘문고등학교 교사

내게는 저자가 도덕 알고리즘을 도출하는 과정이 이 책의 결론만큼이나 중요했는데, 바로 인간의 창조물인 인공지능이 인간을 닮게 될 것이라는 사실이었다. 사실 저자는 인공지능의 도덕이 인간의 도덕을 모사하는 것이라고 간주하기 때문이다. 우리가 창조한 인공지능이 사실은 우리의 거울인 셈이다. 인간이 상상 속에서 만들어낸 곤란한 상황에 차분하게 답변을 제시하는 책으로 흥미롭게 읽었다. 숙독할 만한 책이다.
-이일학, 연세대학교 의과대학 의료법윤리학과 교수

이번 강의에서는 인간과 로봇이 공생하기 위해 인간처럼 로봇도 ‘선악 판단’을 가르치려면 어떻게 해야 할지 생각해보겠다. 하지만 로봇의 신변에 일어날 수 있는 모든 일에 대해 하나하나 ‘이건 도덕적으로 옳다.’ ‘이건 도덕적으로 옳지 않다.’ 입력하는 것은 현실적이지 않다. 로봇이 그 어떤 상황에서도 선악 판단을 스스로 할 수 있는 구조를 만들 필요가 있다. 이 강의에서는 이를 ‘도덕엔진’이라고 부르겠다.
-p. 31

로봇에 ‘사람을 죽여서는 안 된다.’ → ‘예스.’라고 입력할 생각이었으나 여기서 알게 된 것처럼 실제 인간 사회는 전쟁이나 사형제도에서 살인을 용인하고 있다. 그리고 그 이유가 ‘사회 중심 사고’와 ‘개인 중심 사고’로 나뉘는 것도 알았다. 이 모순을 제대로 밝히지 않고 로봇의 도덕엔진을 설계하기는 어려울 것이다.
여기서 하나의 가설을 세워보겠다. 인간은 살인을 가장 해서는 안 되는 일로 생각하면서도 용납하고 인정했다. 그 배경이 ‘사회 중심 사고’와 ‘개인 중심 사고’로 나뉜다는 점에 우리 인간 사회의 도덕을 모델화하는 힌트가 숨어 있을지도 모른다. 그뿐만 아니라 지금까지 우리가 해결할 수 없었던 도덕적 과제–다 양성을 지향하면서 자민족 중심주의로 향하는 모순–를 푸는 열쇠가 숨어 있을지도 모른다. 그래서 다음 강의에서는 지금까지 선인이 발전시켜 온 도덕사상을 ‘사회 중심 사고’와 ‘개인 중심 사고’로 나누어 정리해보겠다.
-p. 39

‘사회 중심 사고’의 핵심은 ‘(특정) 사회의 신격화’다. 따라서 ‘사회 중심 사고’는 특정 종교나 전통과 습관에 근거해 선악을 구별하는 명확한 틀을 제공해준다. 그것은 안정되어 있어 흔들림이 없다. 만약 판단이 어려울 때는 성직자나 스승에게 가서 묻거나 경전이나 서적을 읽어보면 명쾌한 해답을 얻을 수 있으니까. 그러나 반면에 다른 ‘이상의 도덕’을 갖는 사회와 충돌하면 분쟁을 중재할 수가 없다. 이것을 ‘관용성의 결여’라고 할 수 있다. 사회를 중심으로 하는 사고는 권위주의, 집단주의, 절대론 등으로 요약할 수 있다. 그 특징은 ‘의연하지만 배타적’이다. 따라서 이 사고로는 점점 가속되는 사회의 다양성을 담보할 수가 없다.
한편 개인 중심 사고의 핵심은 ‘개인의 신격화’다. 개인 중심 사고는 이성을 가진 자유로운 개인이 전제가 되고 있어 개인과 사회를 분리해 생각하는 경향이 있다. 현대에서는 이런 ‘개인 중심 사고’가 압도적으로 인기를 얻고 있다.
-p. 84

인간 도덕의 기본 원리를 밝혀야 로봇에 탑재하는 도덕엔진의 가장 중요한 요건을 명확히 할 수 있다. 그것은 도덕의 이중성 인식 기능이다. 로봇과 인간이 공생하려면 상대의 사고나 행동 양식을 관찰할 때 그 배경에 있는 도덕을 공통 규율과 개별 규율로 식별할 수 있는 능력이 요구된다.
즉 로봇은 인간을 대할 때 그 인간이 가진 도덕을 공통 규율과 개별 규율로 식별할 수 있어야 한다. 여기에 더해 ‘자기편에게 해를 입혀서는 안 된다.’라는 공통 규율만 지킨다면 개별 규율까지 같을 필요는 없다는 것을 인식할 수 있는 기능을 탑재하면 로봇과 인간이 공생할 수 있을 것이다.
-pp. 147~148

도덕을 금욕적인 명령이라고 생각하고 욕망의 대립인자로 보면, 저차원의 욕망은 부정의 대상이며 은둔자 또는 승려와 같은 생활을 하는 인간만이 최고의 도덕 수준에 도달할 수 있다. 그러나 도덕을 욕망으로 설명하면 저차원의 욕망을 부정하지 않아도 도덕으로 설명 가능하다는 것을 알 수 있다.
이처럼 욕망의 단계를 이용하여 도덕의 차원 구조를 정리하고 관찰하면 A: 도덕의 차원 높이≒자기편 범위의 넓이라는 식을 이끌어낼 수 있다. 또한 자기편의 범위는 공감의 일종인 친밀감의 범위에 의해 결정되므로 B: 자기편의 범위≒공감의 범위가 된다는 것을 알 수 있다. A와 B의 식을 합하면 도덕의 차원≒자기편의 범위≒공감의 범위가 되어 추상적인 도덕의 차원을 보다 구체적인 내용으로 파악할 수 있다. 이렇게 ‘도덕 감정의 원동력은 욕망이다.’라고 가정하면 공감의 범위를 기준으로 해서 도덕을 깔끔하게 분류할 수 있다. 이것은 가설이 타당하다는 증거이다. ‘도덕의 차원≒자기편의 범위≒공감의 범위’라는 식을 볼 때 도덕의 차원을 결정하는 것은 행위의 ‘내용’이 아니라 그 ‘적용 범위’라는 것도 알 수 있다.
-p. 165

그럼 도덕적 차원이 4인 사람의 결과는 어떨까? 이러한 사람에게 이질적인 미지의 대상이지만 해를 입힐 염려가 없는 대상을 보여준 경우, 처음에는 마찬가지로 불안과 공포를 느낀다. 이것은 당연한 일이라 볼 수 있다. 이질적인 미지의 대상을 전혀 경계하지 않고 접근한다면 예상치 못한 위험에 처할 가능성이 있다. 이러한 용의주도함은 인간의 진화 과정에서 자연스럽게 익힌 능력이라고 생각한다. 그러나 도덕적 차원이 4인 사람의 마음속에는 공통 규율과 개별 규율이 구별되어 있다. 따라서 비록 이 질적인 미지의 상대라도 해를 입힐 우려가 없다는 것을 알고 나면 불안과 공포 등의 반감은 급속히 약화되고 반대로 이질적인 미지의 대상에 대한 호기심이 발동해 관심이나 기쁨 등의 공감이 생기게 된다. 앞에서 언급한 장비로 측정하면 불안과 공포 등의 반감이 흥미와 기쁨 등의 공감으로 변화하는 과정을 포착할 수 있다. 변화의 속도는 다양해서 그 자체가 마음의 넓이를 나타내는 중요한 매개 변수로 작용하기도 한다.
-pp. 177~178

추천사 미래 인공지능의 세계에 도덕이 필요하다 (윤성로, 서울대학교 전기정보공학부 교수) 추천사 인공지능에게 어떻게 도덕을 가르칠 것인가 (이일학, 연세대학교 의과대학 의료법윤리학과 교수) 저자 한국어판 서문 역자 서문 곧 도덕적 판단이 가능한 인공지능이 출현할 것이다 프롤로그 첫 번째 강의: ‘사람을 죽여서는 안 된다’는 도덕은 보편적인가? 로봇에게 ‘선악 판단’을 가르치려면 어떻게 해야 하는가? 사회가 살인을 권장하는 경우도 있다? *첫 번째 강의 정리와 연습문제 두 번째 강의: 지금까지의 도덕사상을 분류해보자 과거의 도덕사상을 둘로 분류하자 사회 중심 사고에는 무엇이 있는가? 사회 중심 사고를 좀 더 조시화해보자 개인 중심 사고에는 무엇이 있는가? 개인 중심 사고를 좀 더 조시화해보자 그 밖의 개인 중심의 도덕사상에는 무엇이 있을까? 더욱 복잡해지는 근현대사상 사회 중심 사고와 개인 중심 사고의 한계 *두 번째 강의 정리와 연습문제 세 번째 강의: 대체 ‘사람을 죽여서는 안 된다’에서 ‘사람’이란 누구인가? 도덕의 구조는 어떻게 되어 있는가 대체 ‘사람’이 의미하는 것은 무엇일까? 그럼 ‘자기편’이란 무엇일까? 인간에게도 동물에게도 공통된 ‘진짜’ 자기편 인간 고유의 ‘가상 자기편’ 가상 자기편을 가능케 하는 ‘언어’ 인간 언어의 기본적인 특징 ‘말의 사용’과 사회성 *세 번째 강의 정리와 연습문제 네 번째 강의: 도덕을 모델화해보자 도덕은 공통 규율과 개별 규율로 이루어져 있다 ‘공통 규율’과 ‘개별 규율’을 하나로 묶는 ‘도덕의 기본 원리’는 없을까? 로봇에 탑재해야 할 도덕엔진이란? *네 번째 강의 정리와 연습문제 다섯 번째 강의: 도덕의 계층을 분류해보자 ‘도덕’과 ‘욕망’은 대립하는 것인가? 매슬로의 ‘욕구 5단계설’과 그 한계 새로운 욕망 분류 체계를 생각해보자 우리의 도덕적 차원은 어느 정도인가? 도덕적 차원은 장치로 측정할 수 있다 *다섯 번째 강의 정리와 연습문제 여섯 번째 강의: 로봇에 도덕엔진을 탑재해보자 도덕 알고리즘의 기본적 구성 도덕 알고리즘의 현실적 구성 도덕 알고리즘의 이상적 구성 *여섯 번째 강의 정리와 연습문제 에필로그 연습문제 힌트