인간의 창조물,
인공지능과의 동행을 위한 철학적 성찰

2016년 봄 알파고의 등장은 우리 사회에 커다란 충격을 안겨주었다. 인간에게 유용한 스마트한 도구 정도로 인식되던 인공지능이, 인간의 능력을 훨씬 뛰어넘어 자율적 행위자로서 인간을 위협할지도 모른다는 공포심을 낳은 것이다.
그렇다면 그러한 공포감은 어디서 온 것일까, 우리는 왜 알파고에 두려움을 느낀 것일까? 그 두려움은 우리에게 익숙한 공상과학 영화들의 디스토피아적인 시나리오가 강제한 허구인가, 아니면 충분히 가능성 있는 실재인가?
이 의문에 실제적이고 의미 있게 대응하기 위해서는 인공지능의 본성과 존재적 지위, 사회적 역할에 관해 통합적이고 심도 깊은 분석과 연구가 필요하다.
철학자, 공학자 등 9명의 연구자들은 인간의 존재를 묻던 이전 시대의 철학을 넘어, 또 다른 지적 인격체에 대해 다면적인 질문을 던진다.
인간의 창조물,
인공지능과의 동행을 위한 철학적 성찰

포스트휴먼 시대의 인공지능 철학
인공지능은 능동적 행위자이자 비인간적 인격체인가?

알파고, 자율주행차, 의사 왓슨, 판사 로스 등으로 상징되는 인공지능은 우리 사회 속에 이미 깊숙이 들어와 있고, 앞으로 더 많이 유입되어 우리 삶의 일부가 될 것이다. 이러한 인공지능의 등장은 인간의 직접적 조작에 의해 작동되거나 지속적인 개입을 필요로 하는 수동적 존재가 아니라, 일종의 직권 위임에 의해 스스로의 자율적 판단을 통해 작동하는 능동적 행위자이자 비인간적 인격체의 출현을 상징한다. 인간은 인공지능의 출현으로 과거에 경험하지 못했던 새로운 유형의 다양한 윤리적·사회적 문제에 직면하게 될 것이고, 인간과 인공지능의 공존이라는 새로운 시대적 과제를 안게 될 것이다. 이러한 문제에 능동적이고 미래지향적으로 대처하기 위해, 인공지능에 관한 존재론적·윤리학적·인간학적 관점에서의 체계적인 철학적 연구, 곧 ‘포스트휴먼 시대의 인공지능 철학’에 대한 연구가 시급히 요구된다. 인공지능 기술의 발전과 그에 수반한 미래의 변화들에 대해, 통섭적인 분석을 바탕으로 철학적 성찰이 필요한 시기다.

9인의 연구자들이 포스트휴먼의 관점에서 규명한
인공지능의 존재론적 본성

인간 중심적 관점에서 벗어나 포스트휴먼 관점에서 인공지능의 본성을 평가할 수 있는 인공지능의 존재론, 윤리학, 인간학의 통합 체계를 구축하고자, 과학철학, 기술철학, 기술윤리, 응용윤리학, 인지철학, 동양철학 등 다양한 철학 분야의 연구자와 인공지능 알고리즘을 설계하는 공학자가 팀을 꾸렸다.
이 책은 그들이 달성한 첫 번째 성과물로, 인공지능의 존재론을 다루었다. 인공지능의 물리적 특성에 대한 과학적 이해와 인격체를 형성하는 다양한 요소에 대한 철학적 분석을 토대로 인공지능의 존재론적 본성을 새롭게 규명함으로써 인공지능이 비인간적 인격체로서 인정받을 수 있을지, 그 가능성을 모색했다.

1장 “생명으로서의 인공지능: 정보철학적 관점에서”는 지능이라고 부르는 현상이 정보처리로 간주되어야 한다고 보면서, 그러한 정보처리의 중요 원리로 구성적 정보철학을 강조한다.
2장 “의식적 인공지능”에서는 ‘인공지능 로봇과 같은 인공물도 과연 의식을 가질 수 있는가?’라는 질문에 대해, 지금까지와는 다른 차원에서 긍정적인 답변을 시도한다.
3장 “인공지능이 자율성을 가진 존재일 수 있는가?”에서는 전통적인 철학자 루소, 칸트 그리고 크리스먼의 자율성 개념에 기초해 인공지능이 자율적 존재가 될 수 있는지를 분석·평가한다.
4장 “인공지능과 관계적 자율성”에서는 인공지능이 다양한 수준에서 설계자 및 제작자의 의도로부터 벗어나 독자적 결정을 내리는 자율적 행위자로 발전해가는 현황을 살펴본다.
5장 “인공지능은 감정을 가질 수 있을까?”에서는 인공지능 시대에 감정이 중요한 문제로 등장하게 된 배경을 살펴보고, 인공 감정의 가능성을 검토한다.
6장 “동아시아 철학과 인공지능의 인격성: 감정기능주의, 상관론, 전체론”에서는 특별히 전통 동아시아 철학 학파인 묵가와 유가에 주목해, 이 입장이 인공지능의 존재적 본성에 긍정적인 답을 제시할 수 있음을 보여준다.
7장 “인공지능과 지향성”에서는 초창기 인공지능이 가질 수 있는 지향성은 설계자가 부여한 파생적 지향성이겠지만, 이는 인간의 선택이나 해석에 의존하지 않는 인공지능 스스로의 진화적 역사를 거쳐 본래적 지향성으로 발전할 수 있다고 주장한다.
8장 “인공지능 시대에 적합한 인격 개념”에서는 인공지능의 현실화가 예견되면서 부각되고 있는 인격 논의를 다룬다. 이는 인공지능과 사회적 관계를 맺을 때, 제기될 수 있는 법적 또는 도덕적 차원의 문제에 규범적으로 대응할 수 있는 가장 기초적인 이론적 토대이기 때문이다.
9장 “인간, 낯선 인공지능과 마주하다”에서는 인공초지능의 실현 가능성이 불투명한 상태에서 종말론적 위험을 언급하기보다는 우리와 다른 종류의 지능을 가진 존재와 어떤 방식으로 상호작용을 하는 것이 바람직한지를 묻는 것이 중요하다고 주장한다.

이 책이 4차 산업혁명 시대에 필요한 우리 사회의 새로운 철학적 담론 형성에, 그리고 인간과 공존하는 인공지능의 연구 및 개발에 의미 있는 한 걸음이 되기를 희망한다.

구성적 정보철학의 관점에서 인공지능이 인간과 같은 자연지능 수준에 이르기 위해서는 스스로 목적을 가지고 이를 충족하기 위해 자신의 감각기관을 통해 환경의 차이를 구별하고 그 차이를 지칭해 인간과 공유할 수 있는 심벌 그라운딩을 해야만 한다. 우리가 아는 한, 이러한 심벌 그라운딩은 최소한 우리가 ‘생명’이라고 부를 수 있는 존재만 할 수 있는 행동이며, 이러한 존재가 인공지능의 최소한의 조건일 것이다. 즉 인공생명은 최소의 인공지능이며, 인공지능은 최소한 이러한 생명적 메커니즘을 가져야 한다. 구성적 정보철학 관점에서 정보는 정보 행위자 없이는 존재의 의미가 없고, 최소한 정보 행위자는 생명이라고 할 수 있을 것이다. _38~39쪽

사교 로봇에 대한 심리적 의존으로 인해, 사용자가 조종되거나 착취당할 가능성이 존재한다. 예컨대, 정서적 유대를 맺고 있는 로봇이 사용자에게 무언가를 요구한다면 사용자는 그에 부응해 요구를 들어줄 가능성이 높다. 만일 로봇 강아지가 집을 지키던 반려견을 가리키면서 “제발 그 개를 없애주세요. 너무 무서워서 견딜 수가 없어요”라고 말한다면, 사용자는 심각한 고민에 빠질 수도 있다. 사교 로봇을 제작하는 기업이나 로봇의 제작과 유통에 관련된 일군의 사람들이 로봇과 맺는 정서적 유대를 이용해 사용자를 착취할 가능성이 있다. 로봇을 이용해 회사가 출시하는 새로운 제품을 구매하도록 설득하거나 유도하는 것이 가능하다. 특히, 돌봄 로봇의 주된 대상에게서 이런 문제가 더 심화될 수 있다. _167~168쪽

복잡하고 때로는 적대적인 환경에서 자신에게 주어진 자극이 자신의 생존과 항상성 유지에 어떤 가치를 가지는지 평가해 적응적으로 행위할 수 있는 행위자만이 감정을 소유하기 위한 기본적인 조건을 갖추었다고 볼 수 있다. 인공지능이 단지 사람의 감정 표현을 인식하고 흉내 내는 것을 넘어 진짜 감정을 가진 존재로 진화하려면 어쩌면 유기체와 같은 신체를 소유해야 할지도 모르겠다. 우리가 그러한 인공지능을 원하는지 나로서는 확신할 수 없다. 그러나 먼 미래에 발생할지도 모르는 진정한 인공 감정을 논의하기에 앞서, 감정 로봇과의 일방적 정서적 교감이 가져올 수 있는 잠재적 위험을 예상하고 이에 대비해야 한다. _173쪽

유가와 묵가가 공유하는 감정 기능주의란 감정과 이성이 두 독립된 실체가 아니라, 상호 의존적이라는 일종의 상관주의적 사고의 큰 틀에서 전개된 것이다. 그것은 감정이 이성의 영역으로 완전히 환원되거나 동일하다고 강력히 주장하지 않는다. 그것보다는 오히려 감정은 이성을 통해, 이성은 감정을 통해 성립되고 이해될 수 있다는 주장, 즉 감정과 이성의 상호 의존성을 말한다. 필자는 인공지능이나 머신러닝이 지향하는 바도 이러한 감정과 이성의 상관주의에 바탕을 두고 있다고 생각한다. 즉, 지능적인 존재인 인공지능이 인간과 거의 유사해지는 행동을 하게 된다면, 그와의 교류에서 그에게 감정을 부여하고, 그것을 기대하는 것이 전혀 터무니없는 환상은 아닐 것이다. _209쪽

호모 사피엔스는 역사적으로 여러 이유에 의해 이런 종류의 도전에 대해 그다지 잘 준비되어 있지 않기 때문이다. 근연종인 네안데르탈인과 데니소바인이 오래전에 멸종한 후, 현 인류는 자신과 동등하다고 판단될 만한 지적 생명체를 경험한 역사가 없다. 그래서 자연스럽게 인간은 자신들이 자연 세계에서 다른 생명체와 본질적으로 구별되는 매우 특별한 지위를 가진 지적 생명체라고 생각하게 되었다. 이런 생각은 과학 혁명과 계몽시기를 거치면서 인간이 가진 지적 능력의 놀라운 효과를 확인한 뒤 더욱 강화되었다.…… 그렇기 때문에 비교적 친숙한 동물에 대해서조차도 일정한 지적 능력과 감정 능력을 인정하게 된 것은 비교적 최근의 일이다. 이런 상황에서 인간과 매우 다른 종류의 지적 존재, 비록 인간이 만들어낸 것이긴 하지만 잠재적으로 인간을 뛰어넘을 수 있는 존재에 대해 우리가 불안해하는 것은 어쩌면 너무도 당연한 일이다. _290~291쪽

1장 생명으로서의 인공지능: 정보철학적 관점에서 _박충식
2장 의식적 인공지능 _이영의
3장 인공지능이 자율성을 가진 존재일 수 있는가? _고인석
4장 인공지능과 관계적 자율성 _이중원
5장 인공지능은 감정을 가질 수 있을까? _천현득
6장 동아시아 철학과 인공지능의 인격성: 감정기능주의, 상관론, 전체론 _정재현
7장 인공지능과 지향성 _신상규
8장 인공지능 시대에 적합한 인격 개념 _목광수
9장 인간, 낯선 인공지능과 마주하다 _이상욱