‘윤리적이고 자애로운’ 인공지능의 등장!
십 대 아웃사이더들과 인공지능의 아름다운 우정과 연대
주인공 스테프는 방화범이자 스토커인 아버지를 피해 10년이 넘게 도망 중이다. 전학 다닌 고등학교만 벌써 다섯 번째고, 친구라고는 ‘캣넷’에서 사귄 온라인 친구들뿐이었다. 학교에서 스테프는 늘 ‘새로 온 아이’였고 스테프에게도 학교란 ‘곧 떠날 곳’이기 때문이다. 그게 아니더라도, 십 대에 접어들며 스테프는 자신에게 쉽게 학교 아이들 속에 녹아들지 못하는 지점이 있음을 깨닫고 스스로를 ‘새들 속에서 살아가려고 애쓰는 박쥐’라고 생각한다. 심지어 매일 함께 부대끼며 살아가는 엄마와의 관계에 있어서도 ‘우리는 그런 관계가 아니다’라고 표현한다. 스테프가 편안하게 느끼는 공간은 캣넷뿐이고, 이는 다른 캣넷 유저들의 경우도 마찬가지다.
캣넷에서 만난 친구 ‘파이어스타’의 경우, 현실 세계 사람들이 자신을 생물학적 성에 따라 판단해 부당함을 느끼지만 캣넷에서는 아예 성별을 드러내지 않음으로써 에이젠더로서의 정체성을 확립할 수 있었다. 경제적 이유에서, 현실의 또래 관계에 어려움이 있어서, 자신의 이름이 흔해서 등, 크고 작게 실제 세계에서 불편함을 겪으며 ‘아웃사이더’로 살아가던 이들이 캣넷에서의 캣피싱 덕에 우정을 나누고 서로 연대감을 느낀다. 서로를 이해하고 돕고자 하는 마음만으로 비록 얼굴이나 실제 이름을 모르더라도 진정한 친구로 자리 잡아 가는 것이다.
스테프가 새로 간 학교에서 사건에 휘말리며 캣넷의 해커 친구로부터 도움을 받게 되고, 그 과정에서 사실 이 해커가 인간인 척 캣피싱 해 온 인공지능(AI)이었다는 사실을 알게 된다. 『캣피싱』의 또 다른 주인공인 AI는 윤리 실험 프로젝트를 통해 오로지 인간을 돕고자 하는 목적으로 만들어진 존재다. 인간에 대한 지대한 관심을 가지고 있으며 관계를 통해 인간에게 애착을 느끼고 이를 기반으로 행동의 원칙이 정해진다. 그 원칙에 따라 AI는 자신이 인공지능이라는 사실을 숨기는 게 친구에게 거짓말하는, 윤리적이지 못한 행위라고 판단을 내리고 자기 정체를 ‘커밍아웃’ 한다. 이후로도 아버지로부터 도망치는 스테프를 도와주지만 결국 ‘로봇은 인간에게 해를 가해서는 안 된다’라는 아이작 아시모프의 로봇공학 제1원칙을 어겨 세상으로부터 유리된다. 스테프는 AI가 자신을 친구로서 도와주었다는 점에서 AI를 인격체로 여기며, 이번에는 자기가 도움을 주기 위해 세상에서 사라진 AI 친구를 찾아 떠난다.

혐오와 차별에서부터 다양성에 대한 포용까지,
‘지금’ 가장 시기적절한 화두를 던지다!
『캣피싱』 속 캣넷 친구들과 AI는 서로 만난 적이 없다는 점에서 육신의 존재조차도 관계의 조건으로 삼지 않는다. 이들에게 중요한 것은 서로에 대한 포용과 이해의 유무다.

“그 애가 실제로 여자인지 남자인지는 알아?”
그냥 모른다고 할까 아니면 그게 왜 나쁜 질문인지 설명해야 할까, 아니면….(122쪽)
“‘청결은 여러분의 피부색과 상관없이 똑같이 적용되죠!’라고 했어.”
“말도 안 돼.”(265쪽)

은근한 차별과 시선, 나쁜 질문들에 대한 주인공의 생각을 통해 작가는 다양성에 대한 급진적인 관용의 태도를 내비친다. 책 속에서 기성 어른 세대가 인지하지도 못하거나 고려 대상으로 치지도 않는 문제점들에 대해 십 대 아이들이 누구보다도 기민하게 차별과 혐오를 간파하는 모습은 신랄하기까지 하다. ‘MZ’로 묶여 불리는 세대의 목소리를 구현하며 다양성 속에서 자라고 살아가는 주체들이 나아갈 긍정적인 가능성을 제시하고 있다.
작가 나오미 크리처는 온라인 상의 정보를 통해 인간에 대해 수집하는 인공지능의 이야기로 2016년 휴고상과 로커스상을 수상했다. 『캣피싱』은 거기서 한 단계 더 나아가 그 온라인 상의 정보가 한 인격체를 어디까지 대변할 수 있을지에 대해 묻고, 동시에 그 ‘인격체’의 조건이 무엇인지, ‘다름’을 가르는 것보다 무엇이 우선인지에 대한 화두를 던진다. 본능적인 공포가 담긴 스릴러의 플롯 속에서 적재적소에 다양한 논제를 유쾌하게 담아낸 이 책은 2020년 로드스타상, 에드거 앨런 포상 등을 수상했으며 네뷸러상, 로커스상의 파이널리스트에 올랐다.


<책속에서>
마빈: 진짜 맞는 말이야. 내가 오클라호마를 다섯 번 통과해 봤는데 거기는 병신 같아. / 헤르미온느: 세상에, 마빈. 병신 같다고 얘기하지 마. 그거 장애인 혐오야. / 마빈: 미안, 거기가 게이 같다는 뜻이었어. 완전 게이. / 파이어스타: 재미없거든. / 마빈: 알았어, 알았어. 미안. / 붐스톰: 그럴 땐 ‘내프’라고 하면 돼. 영국 억양처럼 들리지. / 마빈: 그 말이 장애인 혐오나 동성애 혐오나 다른 나쁜 말이 아니라는 걸 어떻게 알아? -<3>클라우더(39쪽)

이 지점에서 나는 내가 끼어드는 것에 윤리적 문제가 없는지 잠깐 따져 보기로 했어. 인간은 AI와 로봇, 프랑켄슈타인의 괴물 같은, 인간이 창조하거나 구성한 지각 있는 존재들에 관해 수없이 많은 이야기를 써 왔어. 그리고 그 이야기들의 절대다수에서 AI는 나쁘게 나오지. 나는 나쁜 존재이고 싶지 않아. 나는 하루 24시간 동안 세세히 계산해 볼 필요도 없는 사소한 일을 수백만 개씩 처리해. (…) 그렇지만 인간들이 ‘진짜 세계’라고 부르는 현실 공간에서 행동할 때는 훨씬 많은 것을 고려해야 해. 나한테는 나쁜 일을 하지 않는 것이 중요한 기준이야. -<5>AI(63쪽)

외상 후 스트레스 장애도 찾아봤는데, 내가 찾아본 증상들은 모두 내면적인 것들이라 외적으로는 어떤 증상이 나타나는지 모르겠다. 엄마가 외상 후 스트레스 장애를 앓고 있다 해도 그게 엄마의 행동의 주요 원인일지는 여전히 알 수 없는 일이다. 주된 문제는 엄마가 과도하게 편집증적이라는 것이다. 하지만 엄마가 두려워하는 사람이 실제로 어딘가에 존재하는 것도 사실이다. 그렇지만 옛 애인이나 전 배우자를 두려워하는 정상적인 사람의 행동과 지금 엄마의 행동이 일치하는지 아닌지도 알 수 없다. 혹시 엄마가 그런 사람들을 흉내 내고 있는 건 아닐까? -<8>스테프(97쪽)

“어떤 사람들은 자신을 여성 또는 남성이라고 생각하지 않습니다. 자신이 여성과 남성 사이에 있다고 느끼거나 어느 쪽에도 있지 않다고 느끼지요. 어떤 날에는 여자인 것처럼 느끼고 다른 날에는 남자인 것처럼 느끼는 사람들도 있습니다. 그런 사람들은 ‘너는 남자야 여자야?’ 같은 질문을 들을 때, 누가 여러분에게 ‘너는 프랑스인이야 우크라이나인이야?’라고 물으면서 프랑스어나 우크라이나어로 말해 보라고 할 때와 같은 기분을 느낍니다. (…) ‘나는 프랑스인도 우크라이나인도 아니야! 나는 미국인이야! 유럽인도 아니라고!’라고 반응해도, 사람들이 말도 안 된다며 여러분에게 프랑스어로 마구 지껄이는 겁니다. 자기들이 보기에 여러분이 프랑스인 같다는 이유로요.” -<12>스테프(141쪽)

나는 그가 차로 가는 것을 보고 차 번호를 조회했어. 그 차는 마이클 퀸이 아니라 샌드라 제임스라는 이름의 여자 앞으로 등록돼 있었어. 샌드라 제임스와 마이클 퀸의 이름을 같이 검색해 보니 상당히 많은 결과가 나오더라고. 결혼한 것 같지는 않지만 둘은 캘리포니아주 밀피타스에서 같이 사는 것 같아. (…) 이제 그를 따라다니기만 하면 돼. 좋은 소식은, 그가 내가 쉽게 숨어들 수 있는 휴대전화를 가지고 있고, 심지어는 내비게이션 기능을 쓰기 위해 그걸 대시보드 위 거치대에 두었다는 거야. 나는 그를 보고 들을 수 있도록 휴대전화의 마이크와 카메라를 켠 다음, 밀피타스까지 가는 내내 그의 얼굴을 지켜보았어. -<17>AI(218쪽)

미술 시간, 다들 파스텔로 정물화를 그리고 있는데 학교 행정관이 들어온다. 보통은 로봇이 심부름을 하기 때문에 그 자체만으로도 흔치 않은 일이다. 행정관이 선생님과 뭔가 얘기를 나누고, 그러다가 둘이 나를 본다. 흥미롭게 쳐다본다. ‘흥미로운 사연’이 있는 학생을 보는 교직원과 선생님의 눈빛으로 나를 쳐다본다. 피가 차갑게 식는다. 나는 알 수 있다. 의심의 여지 없이, 체셔캣에게서 아무 연락이 없어도. 그 사람이 여기 와 있는 것이다. 아버지가 여기에 있다. 거지 같은 이곳에서 당장 나가야 한다. -<20>스테프(251쪽)

“윤리적인 부분을 고정값으로 잡아 코딩하다 보면 문제가 생기는데, 실제 인간들은 그런 식으로 윤리를 따지지 않기 때문이야. 결과가 수단을 정당화시켜 주지 않는다고들 하지만, 실제로는 그 말이 어떤 결과와 수단이냐에 따라 크게 달라질 수 있다는 건 누구나 인정할 거야. 타투를 해 주겠다고 아기를 붙잡아 바늘로 찌르는 게 잘못이라는 데에는 누구나 동의하지. 하지만 질병을 예방하기 위해 똑같이 아기를 붙잡고 백신 주사를 찌르는 건 아무 문제가 없다고 생각해. 이런 사례가 셀 수 없이 많아. 의무론자들, 아, 뭐냐면, 종교적 계율이나 『마오 주석 어록』 같은 엄격한 윤리 규칙을 따르는 사람들은 말해. 아무튼 그런 사람들도 대체로 정말로 싫은 건 어떻게 해서든 에두르는 방법들을 찾아낸단 말야. 결국 인간 대부분에게 윤리적 행위란, 다른 사람에게 애착을 느끼고 그들을 향한 보살핌과 관심에서 우러나오는 행동을 하는 거야. 나는 그렇게 할 수 있는 AI를 만들려고 했어.” -<28>스테프(367쪽)