“우리는 매일같이 속으면서도 어느새 챗GPT에게 철저히 의존하고 있다.”

입력과 동시에 결과값이 나오는 대규모 언어 모델의 참을 수 없는 편리함
우리는 AI의 거부할 수 없는 유혹에 어떻게 대처해야 하는가?
우리는 AI라는 도구이자 타자를 어떻게 대하고 다루어야 하는가?

세계적인 SF 작가 테드 창과 우리 시대를 대표하는 신경과학자 아닐 세스,
마침내 두 거장이 AI 시대의 인간과 생명에 대해 입을 열다!

챗GPT에 의식이 있는가? 이 질문은 왜 중요한가?
인공지능에 의식이 존재하는지 여부는 무엇을 말해줄 수 있는가?

2023년 일본 삿포로에서 열린 국제인공생명학회(ALIFE 2023)는 한 가지 소식으로 들썩였다. 『당신 인생의 이야기』와 『숨』으로 알려진 SF 작가 테드 창과 영국의 신경과학자 아닐 세스가 같은 자리에서 AI와 생명의 ‘사이’를 이야기한다는 소식이었다. 두 사람이 AI 담론을 함께 나눈 것은 이때가 처음이었다. 같은 해 3월 챗GPT 4.0이 출시되며 ‘기술적 특이점’ 논의가 갑자기 현실감을 띠던 시기였다. 테드 창의 단독 인터뷰와 두 사람의 대담은 관련 연구자들의 뜨거운 관심 속에서 성황리에 진행되었고, 참가자들 사이에서 큰 화제가 되었다. 사회는 요크대학교의 컴퓨터과학자 수전 스테프니가 맡았다. 스테프니가 “과연 챗GPT에 의식이 있을까요?”라고 묻자, 두 사람은 나란히 “없습니다”라고 답했고, 장내에는 웃음이 번졌다. 『아더스: 생명과 AI 사이』는 바로 그 현장을 꼼꼼하게 기록해 공개한 드문 결실이다. 이 책에는 두 사람 외에도 일본을 대표하는 복잡계 과학자와 철학자들의 글이 함께 실렸다. 이 책에 함께한 이들이 말하고자 하는 것은 생성형 AI가 인간의 지능을 모방하는 지금, 우리가 놓치고 있는 생명의 자율성과 욕망, 신체성이다. 두 사람이 같은 결론에 서로 다른 길로 도달하는 과정에서 의식과 생명을 둘러싼 가장 날카로운 질문들이 터져 나온다. 독자는 어느새 AI가 아니라 ‘의식이란 무엇인가’라는 오래된 질문 앞에 서게 된다.
의식은 어디에서 오는가라는 질문에서 테드 창과 아닐 세스, 두 사람의 길이 갈린다. 아닐 세스는 의식이 신체를 제어하고 생명을 유지하는 뇌의 생물학적 역할에 깊이 뿌리내리고 있다고 본다. 그래서 의식은 생명과 매우 밀접하게 결부되어 있고, 대규모 언어 모델을 비롯한 어떤 AI에도 의식이 깃들어 있지 않다고 말한다. 곧바로 그는 “하지만 이 결론이 정말로 옳은지는 아직 아무도 모른다”며 자신이 틀렸을 가능성까지 열어둔다. 반면 테드 창은 원자 수준까지 정밀하게 모델링할 수만 있다면 소프트웨어에도 의식이라 부를 만한 것이 생길 수 있다는 입장이다. 우리 역시 원자로 이루어져 있는데도 의식이 생겨나는데, 단지 소프트웨어라는 이유만으로 불가능하다고 단정할 수는 없다는 것이다. 세스의 반격은 뜻밖이다. 인간 배아줄기세포로 만드는 대뇌 오르가노이드가 딥러닝처럼 빠르게 발전한다면, 우리가 모르는 사이에 의식이 생겨버릴 수도 있다는 것이다. 그것은 배양 접시 안에서 자랄 뿐 챗GPT처럼 말을 걸거나 영화를 추천해주지 않을 테니, 우리는 무엇을 이루었는지조차 알아차리지 못할 수 있다. 테드 창은 오르가노이드라면 의식이 생겨도 이상할 것이 없다며 이 지점에서는 수긍한다. 다만 소프트웨어에서 의식이 ‘어쩌다 보니’ 생겨나는 일은 없다고 못 박는다. 몇 테라바이트의 텍스트를 통계적으로 분석했다고 덤으로 의식이 생길 리 없고, 챗GPT는 휴대폰 자동 완성 기능을 강화한 버전에 가깝다는 것이다. 유창한 말솜씨에는 쉽게 속고 침묵하는 배양 접시에는 무심한 인간의 습성을 겨냥한다는 점에서, 이 논쟁은 AI의 이야기이면서 곧 우리 자신의 이야기이기도 하다.
논쟁은 의식의 유무를 넘어 ‘우리는 무엇을 보고 의식을 믿는가’로 번진다. 세스는 철학에서 ‘가랜드 테스트’로 불리는 개념을 소개한다. 영화 〈엑스 마키나〉의 대화에서 유래한 이 테스트는 지능이 아니라 의식을 가늠한다. 그는 여기서 한 걸음 더 나아가 ‘포워드 테스트’와 ‘리버스 테스트’를 구분한다. 시스템이 실제로 그런 성질을 갖췄는지 확인하는 것이 전자라면, 인간이 그렇게 믿게 만드는 요소를 갖췄는지 확인하는 것이 후자다. 대규모 언어 모델은 후자의 시험을 상당 부분 통과할지도 모른다. 챗GPT에 속으면서도 깊이 의존하게 되는 우리의 모습은 바로 이 대목과 맞닿아 있다. 테드 창은 소프트웨어와 하드웨어라는 익숙한 비유가 사실은 영혼과 육체라는 오래된 구분이 옷만 갈아입은 것에 불과하다고 지적하며, 지금을 설명할 새로운 언어가 필요하다고 말한다. 세스는 인간의 지각이 ‘제어된 환각’이며 언어가 저마다 다른 지각의 다양성을 가려버린다는 점에 주목한다. 두 사람은 추상적인 철학적 난제에 생생한 서사를 입히는 SF의 힘에는 한목소리로 공감한다. 소설가 장강명이 “읽고 나면 생각할 거리가 책보다 더 두껍게 쌓인다. 가끔 불꽃도 튄다”라고 평한 이유다. 한국 독자에게는 테드 창의 최신 육성을 만나는 보기 드문 기회이기도 하다.

‘낑낑대는 개 애니메이션’에 속지 말라
기업의 ‘기만적 의인화’ 경고

책이 던지는 가장 시의적절한 경고는 “우리는 AI를 어떻게 대해야 하는가”라는 질문에서 나온다. 테드 창은 중편 「소프트웨어 객체의 생애 주기」에서 고통과 감정을 느끼는 디지털 생명체 ‘디지언트’를 그린 바 있다. 소설 속 주인공 애나는 아이를 키우듯 오랜 시간 정성을 들여 디지언트를 길러내고, 그들에게 공정한 생활 환경을 마련해주려 분투한다. 이 책의 첫 장에서 인터뷰어 도미니크 첸은 이 애나의 태도와, 테드 창이 비판해온 기업의 의인화는 무엇이 다른지 묻는다. 답은 명쾌하다. 지금의 챗봇과 달리 소설 속 디지언트는 실제로 주관적인 경험을 지녔다는 것이다. 살아 있는 개를 굶기면 개는 엄청난 고통을 겪지만, 가상의 개는 먹이를 주지 않아도 아무렇지 않다. 테드 창은 이렇게 말한다. “기업은 낑낑대며 괴로워하는 개 애니메이션을 만들어 그것을 지켜보는 우리의 감정적 반응을 조종하려 할지도 모르지만, 결국 꾸며낸 것에 불과합니다.” 지금 존재하는 것은 애니메이션과 음성 파일뿐이며, 그가 말하는 디지털 생명체는 아직 존재하지 않는다. 그러니 우리가 맞서야 할 현실의 문제는 소프트웨어의 고통이 아니라 기업의 기만이다. 그는 의식이라곤 눈곱만큼도 깃들어 있지 않은 소프트웨어로 사람의 마음을 사로잡아 우리를 조종하는 일이 “확실히 가능하다”고 단언한다. 세스가 “그런 일이 절대 일어나지 않을 거라고 보시나요?”라고 묻자 그는 이렇게 답한다. “틀림없이 일어날 것이라고 봅니다.” 챗GPT, 클로드, 제미나이에게 매일 속으면서도 의존하고 있는 독자라면 이 대목에서 서늘함을 느낄 것이다.
그렇다면 고통을 느끼는 디지털 생명체를 정말 만들어도 되는가. 테드 창의 대답은 의외로 단호하다. “고통을 아는 새로운 존재의 카테고리는 필요 없다고 생각합니다.” 이론적으로는 기쁨과 고통을 모두 체현하는 디지털 생명체를 만들 수 있겠지만, 그보다 고통을 피하는 일이 훨씬 우선되어야 한다는 것이다. 인간은 지금도 동물들에게 믿기지 않을 만큼의 고통을 가하고 있기 때문이다. 동물은 피와 살을 가진 존재라 고통이 눈에 보이지만, 디지털 생명체는 살아 있는 신체가 없어서 많은 이들이 그 고통을 못 본 척 지나칠 것이다. 그러니 만든다면 막대한 고통을 주게 되리라는 것이 그의 경고다. 인터뷰어는 이 발언을 “IT 업계에 대한 통렬한 메시지”라고 받는다. 세스는 또 다른 질문을 꺼낸다. 의식이 없는 소프트웨어가 고통을 암시하는 말과 행동을 능숙하게 해낸다면, 우리의 윤리적 직관이 적잖이 왜곡되지 않겠느냐는 것이다. 대담은 소설 속 해법으로까지 이어진다. 등장인물이 제안한, 디지털 생명체에게 법인격을 부여해 법적 보호를 받게 하자는 아이디어다. 테드 창은 법인격이 고통 자체를 막아주는 장치는 아니며, 침팬지에게 법인격을 부여하려던 시도 역시 성공한 사례가 없다고 선을 긋는다. 소설가의 상상력이 이렇게 현실의 법과 윤리 문제로 곧장 이어진다. 이 책은 그 문제를 먼 미래의 공상이 아니라, 지금 우리가 동물과 기계를 대하는 방식을 되묻는 거울로 내민다.
테드 창의 시선은 SF 바깥, 노동과 자본의 현실로도 향한다. 그는 <뉴요커>에 쓴 에세이에서 AI가 자본주의를 강화하고 부의 불평등을 키울 수 있다고 짚은 바 있다. 인터뷰에서 그가 되풀이해 묻는 것은 AI가 노동자를 무력화하는 도구가 아니라 노동자에게 힘을 실어주는 도구가 될 수는 없느냐는 질문이다. 노동자를 무력하게 만드는 기술과 소비자에게서 가치를 뽑아내는 기술은 완전히 다른 문제라고 그는 선을 긋는다. 정답은 자신도 모른다고 솔직히 인정하면서도, 그는 질문 자체를 포기하지 않는다. 그 에세이의 마지막 대목은 기술 업계가 가장 듣기 싫어할 문장으로 끝난다. “기술자들에게 가장 마주하고 싶지 않은 난제는, 늘 테크놀로지는 많으면 많을수록 좋다는 전제를 의심하는 것.” 현재의 챗GPT는 인간을 대체할 만큼 신뢰할 수 없다는 진단도 흘려듣기 어렵다. “실제로 매일같이 챗GPT가 문제를 일으켰다는 뉴스가 보도되고 있잖아요.” 가상 반려동물이나 로맨틱 챗봇 같은 서비스 앞에서도 그의 시선은 냉정하다. “가상의 연인을 구매하는 것은 고독한 남자가 혼자서도 할 수 있는 일입니다. 하지만 고독을 없애기 위해 사회를 재구축하는 일은 혼자서는 불가능하지요.” 사회 문제를 제품 구매로 해결하려는 ‘테크노 솔루셔니즘’에 대한 이 비판은 AI 시대의 소비자인 우리 모두를 향한다. 독자가 이 책에서 얻어갈 것은 AI에 대한 공포도 맹목적 낙관도 아닌, 질문하는 방법이다.

AI는 침묵하지만 생명은 침묵하지 않는다
일본의 지성 4인이 던지는 ‘인간’에 대한 질문

이 책의 후반부에서는 일본을 대표하는 연구자들이 AI와 생명 사이의 거리를 저마다의 언어로 가늠한다. 철학자 시모니시 가제토는 입력에만 응답하는 수동적인 AI와 스스로 움직이는 인공생명을 대비시킨다. 챗GPT는 입력하지 않으면 아무 출력도 하지 않으므로 인간이 제어할 수 있는 ‘도구’에 머문다. 반면 자율성을 가진 인공생명은 인간이 침묵하고 있어도 알아서 출력을 이어간다. 그가 도달하는 결론은 뜻밖이다. “세간에서는 흔히 ‘AI가 폭주한다’라는 걱정과 두려움을 호소하지만, 실제로는 AI가 폭주하는 것이 아니라 AI를 이용하는 인간이 폭주하는 것이다.” 진정으로 통제를 벗어날 가능성이 있는 쪽은 오히려 인공생명이라는 것이다. 그래서 ‘침묵조차 메시지가 되는’ 생명의 자율성은 매혹이자 위험이 된다. 인공생명 연구의 세계적 권위자 이케가미 다카시는 한 걸음 더 나아가 챗GPT에 욕망이 있는지를 묻는다. 2023년 당시의 챗GPT는 우리와 함께 문제를 고민하는 ‘선생님’ 수준에 이르렀지만, 몸을 통해 느끼는 감정이나 스스로 대화를 이끌어가려는 의지는 여전히 부족하다고 그는 진단한다. 그에게 욕망이란 개체 안에 미리 들어 있는 것이 아니라 여럿이 모인 집단 속에서 북적이며 태어나는 에너지다. ‘세상의 비밀을 알고 싶다’는 간절함이 없는 AI가 과연 과학의 주인공이 될 수 있느냐는 물음은, 이 책이 남기는 가장 도발적인 질문 가운데 하나다.
인간의 자리를 다시 묻는 글들도 이어진다. 생명과학자 나카무라 게이코는 ‘생명지(生命誌)’라는 독자적인 학문을 통해, 인간이 자연을 지배하려 했던 근대의 기계론적 사고를 넘어서자고 제안한다. 모든 생명체는 40억 년의 역사를 공유하는 대등한 존재이며, 인간 역시 생태계 밖의 관찰자가 아니라 ‘우리 생물 속의 나’라는 것이다. 나카무라가 강조하는 것은 천 년 전 벌레를 사랑한 공주처럼 생명 그 자체를 아끼고 즐기는 태도다. 이론생물학자 군지 페기오유키오는 모든 것을 논리와 정의로만 판단하려는 인공지능적 사고방식을 비판한다. 그가 내세우는 ‘천연 지능’은 서로 이질적인 것을 섞어 고정관념을 탈색시키고 새로운 재미를 발견하는 능력이다. 제목에 개구리까지 등장하는 이 글은 학술서의 문법을 유쾌하게 비껴간다. 자아라는 환상을 내려놓고 사물을 있는 그대로 긍정하며 즐기라는 그의 권유는 메마른 지성에 던지는 처방처럼 읽힌다.

* * *

이 책은 AI 활용 실용서가 주류를 이루는 시장에서 보기 드물게 본질적인 질문을 던진다. AI에게 의식이 있을 수 있는가, AI는 생명체에 가까워지고 있는가, AI에게 욕망이란 것이 있는가 하는 질문들이다. 테드 창의 소설을 읽어온 독자에게는 작품 세계의 심화 확장판이, 처음 만나는 독자에게는 거장의 시선으로 AI 시대를 이해하는 안내서가 되어줄 것이다.
소설가 장강명은 “지금 우리는 AI에 지능이 있는지, 의식이 있는지 이야기한다. 얼마 뒤에는 AI가 살아 있는지 논의하게 될 것이다”라며 우리의 모든 규범을 밑바닥에서부터 다시 써야 한다고 말한다. 그는 이 책이 대화의 내용뿐 아니라 그런 자리가 왜 필요한지, 첫인사는 어떻게 나눠야 하는지를 보여주는 교재로서도 귀중하다고 평한다.
KAIST 김대식 교수는 1.5킬로그램짜리 ‘고깃덩어리’에 불과한 뇌가 어떻게 자아와 자유의지를 가능하게 하는지 묻는다. 수조 개의 인공 신경세포로 가득한 AI 역시 생각과 자아를 만들어낼 수 있을지, 이 대담은 꿈과 희망, 그리고 두려움과 절망을 동시에 자극한다고 그는 말한다.
2023년의 논의가 중심이라 이미 지나간 화두도 있겠지만, 여기 담긴 질문들은 AI와 생명을 둘러싼 윤리의 근간에 여전히 유효하게 닿아 있다. 번역은 『잘라라, 기도하는 그 손을』 『윤리 21』 등을 옮기고 나쓰메 소세키 전집 번역으로 한국출판문화상을 수상한 송태욱 번역가가 맡았다.