사용자의 행동수정을 유도하는
소셜미디어 대기업의 장치, ‘버머bummer’ 알고리즘

이 책은 소셜미디어 대기업을 ‘행동수정 제국’이라고 부른다. 행동수정은 행동심리학 실험이나 중독 치료에 사용되는 기법으로, 보상과 벌칙을 통해 인간(혹은 동물)의 행동을 특정한 방향으로 유도한다. 이 행동수정 기법은 소셜미디어가 돈을 버는 수단이자 사회에 해를 끼치는 핵심적 과정이다. 소셜미디어 서비스의 알고리즘은 사용자들에 관한 데이터를 매분 매초 기록하고 다른 데이터들과 비교하고 통계적으로 분석, 선호와 사용 특성에 따라 분류한다. 이 책은 소셜미디어만의 독특한 알고리즘을 ‘버머bummer’ 알고리즘이라고 칭한다.
버머 알고리즘의 가장 큰 특징은 ‘적응성’이 있어서 더 많은 클릭 수, 참여 수를 유도하기 위해 스스로 끊임없이 보정한다는 것이다. 알고리즘은 이 보정을 통해 어떤 설정이 가장 수익성이 높았는지를 분석한다. 그런 후 어떤 사용자에게 효과가 있었던 설정 값을 비슷한 범주로 분류된 사용자들에게 지속적으로 노출시킴으로써 모든 사용자를 깊이 관여시키려 한다.
인간은 긍정적이든 부정적이든 어떤 반응을 받으면 자신의 행동에서 그 원인을 찾는다. SNS를 사용할 때도 마찬가지로 왜 어떤 게시물은 유독 큰 반응을 얻고 다른 게시물은 그렇지 못한지 알고자 한다. 그러나 알고리즘이 특정 콘텐츠를 더 많이 노출시키고 유통하는 데에는 정확한 이유가 없다. 버머 알고리즘은 설정을 ‘임의적’으로 변화시킨 후 가장 결과가 좋았던 설정값을 선택하기 때문이다. 이 과정을 수행하는 알고리즘조차도 그 자신이 무엇을 하고 있는지 정확히 이해하고 있지 못한다. 알고리즘은 가치 판단 없이 그저 사람들을 더 많이 자극하고 참여시킬 수 있는 콘텐츠 생산을 유도하는 방식으로 작동한다.
소셜미디어가 이런 방식으로 작동하게 된 것은 인터넷 문화 형성 초기 컴퓨터 과학기술자들의 신념 때문이다. 인터넷이 세상에 첫선을 보이고 본격적인 서비스가 개시될 당시, 인터넷은 모두를 위한 민주적 공간이 되어야 한다는 믿음이 널리 퍼져 있었고 모든 소프트웨어를 무료로 제공하고자 하는 사이버히피들의 운동이 일었다. 그 결과 우리는 무료로 자료를 검색하고, 음악을 듣고, 뉴스를 볼 수 있게 되었지만, 광고주에게 데이터를 제공하고 조종당하는 위치에 처하게 되었다.

버머는 본래 일종의 물물교환으로 거래됐다. “우리가 당신을 감시할 수 있게 해주면 대신 당신은 무료로 서비스를 받을 수 있다”는 식이었다. 단기적으로는 합당한 방식일지 모르지만 장기적으로 보면 끔찍한 거래다.―본문에서(162쪽)

광고 수익 모델에서 벗어나기 위해 재런 러니어는 광고주를 통해서가 아니라 소셜미디어 서비스가 직접 수익을 내는 구조를 제안한다. 넷플릭스나 HBO와 같은 구독형 플랫폼과 같이 매달 약간의 사용료를 지불하게 하는 대신 유용한 콘텐츠를 올린 사용자들에게 수익을 나누어주는 방식이 현재의 방식을 대체할 수 있다.

화면 너머에 타인이 있다
더 나은 인터넷 문화를 만들기 위한 선택

저자에 따르면 SNS 사용 중단은 부정적인 감정에 휘둘리지 않는 자유로운 사고를 가능하게 할 뿐 아니라, 좀더 나은 인터넷 문화를 만들어나갈 수 있게 한다. 책에 제시되는 10가지의 논점은 개인적 차원을 비롯해 사회·경제적 차원에서 SNS가 해로운 영향을 미치는 원인과 그 예시를 기술한다.
？논점 1？은 소셜미디어가 우리의 자유의지를 잃어가게 한다고 말한다. 지속적인 행동수정 실험과 이에 따른 결과로 제시되는 맞춤형 광고 때문에 우리가 무엇을 볼지 선택할 수 없다.
？논점 2？는 소셜미디어 사용 중단이 이 시대의 광증을 물리칠 수 있다고 말한다. 버머의 통계적 영향력은 ‘꼴통’과 ‘관심 종자’를 생산해낸다. 봇, 가짜 리뷰어, 가짜 친구, 가짜 팔로워 등과 같은 가짜 군중들은 특정한 콘텐츠에 폭발적인 초기 반응을 일으켜 그 게시물에 주목하도록 하는데, 선택되는 게시물은 즉각적인 반응을 유도할 수 있는 일차적이고 충동적인 것들이다. 소셜미디어의 이러한 문제점은 세부 규정을 수정하는 것으로 보완이 불가능하며 기업들이 사업 모델을 바꾸지 않는 이상 혁신이 불가능하다.
？논점 3？은 소셜미디어가 사람을 소통이 불가능한 ‘꼴통’으로 만드는 점을 짚는다. SNS는 우리를 단독자의 위치가 아니라 무리 중 하나의 위치에 놓는다. 무리 속에 있을 때 우리는 창의적이고 자율적으로 판단하기보다는 인간들 사이의 관계와 그 안에서의 상호작용, 경쟁에 주목한다. 이는 우리를 독자적 의견이 없는 인간으로 만든다.
？논점 4？는 SNS가 진실이 유통되는 것을 불가능하게 만드는 것을 논한다. 봇, 다량으로 만들어진 가짜 계정들은 특정 기업의 목적에 따라 편파적으로 특정 분위기를 조장한다. 이런 분위기는 사람들을 피해망상에 빠지게 하고 두려움을 자극한다. 예방접종을 거부하는 이들 역시 인터넷의 가짜 계정들이 무차별적으로 퍼뜨린 허위 정보에 큰 영향을 받았다는 주장이 제시된다.
？논점 5？는 SNS에서 우리의 말이 문맥 없이 유통되는 것에 대해 말한다. 소셜미디어 플랫폼은 콘텐츠를 뒤섞어 의미를 만들고, 우리가 하는 말의 의미는 쉽게 짜깁기되어 원래 말하고자 했던 것과 다른 의미로 이용된다.

맥락이 플랫폼에 굴복할 때, 사람들 간의 소통과 문화는 하찮고 피상적이며 빤한 것이 된다. 예측 불가능한 맥락에서 짧게라도 살아남는 무엇인가를 말하려면 정신 나갈 정도로 극단적이지 않고서는 불가능하다. 그리고 그럴 수 있는 건 오로지 꼴통 같은 의사소통밖에 없다.―본문에서(109쪽)

？논점 6？은 SNS가 공감 능력을 없앤다고 주장한다. 버머 알고리즘에 의해 구성되는 피드는 사용자마다 다른 콘텐츠를 보여준다. 사용자들은 정보 편식을 하게 되고 점점 자신만의 ‘필터 버블’에 갇힌다. 우리는 다른 의견을 가진 사람을 미친 사람으로 본다. 사회는 점점 불투명해지고, 이 시대의 불투명성이 어느 정도인지 가늠조차 할 수 없게 되는 것이다.
？논점 7？은 소셜미디어가 우리의 부정적인 감정을 자극하는 것에 대해 논한다. 소셜미디어의 통계 기능은 우리의 친구 수, 좋아요 수를 계량하고 순위를 매긴다. 사용자들은 끊임없이 타인을 의식하게 된다.
？논점 8？은 소셜미디어의 사업 모델이 경제 전반을 지속 불가능하게 만드는 점을 말한다. 광고를 통해 수익을 얻는 사업 방식에서는 사용자 간의 소통이 광고주라는 중개자를 거쳐야만 가능하다. 필요에 따라 임시로 계약을 맺고 일을 맡기는 형식의 긱 경제geek economy가 횡행하게 된 것이다. 광고주를 통한 수익 창출이 기업과 사용자 모두에게 지속 불가능한 방식임을 지적한다.
？논점 9？는 소셜미디어가 정치를 무력화한다고 말한다. SNS는 민주적인 형태로 시민들의 결속을 가능하게 하는 것처럼 보인다. 2010년 아랍에서 있었던 반정부 시위는 SNS를 활용하여 시민들이 독재 정권과 맞선 대표적 예시다. 그러나 SNS는 환상을 창조하는 역할을 했을 뿐 아랍 시민들에게 실질적인 도움을 제공하지는 못했고, 독재 정권은 다시 세를 잡았으나 이는 SNS에서 이전만큼 화제가 되지 못했다.
？논점 10？은 소셜미디어가 우리의 영혼을 세속화하는 점을 말한다. 버머는 이제 종교적 영성을 대치하는 하나의 원리가 되었고, 우리는 소통이 불가능한 꼴통이 되어가고 있다. 상대방에게도 숨겨진 경험의 중심, 영혼이 있음을 기억하기를 이 책은 당부한다.

SNS는 긍정적인 역동성이 있지만 나는 경계하는 편이다. 사용자들은 때로 타인에게 상처 주는 말을 문자로 또렷하게 전달한다. 이 책은 결국 ‘사람이란 무엇인가’라는 질문으로 향한다. 화면 너머에는 영혼이 있는 타인이 있다. 나는 ‘사람’과 대화하는가. 이를 고민하는 사람들에게 권하고 싶다.―이라영(『진짜 페미니스트는 없다』 저자)

쉽게 길들지 않는 고양이처럼
알고리즘 속에서 자주성을 지키기

이 책은 SNS 속에서 우리가 어떻게 생각하고 행동하는가를 의식하게 만든다. 소셜미디어가 너무나 일상적인 것이 되어 더 이상 그 영향을 고찰하는 것이 힘들어진 현재, 러니어가 새삼스레 SNS 중단을 강력하게 권하는 것도 그 때문이다. 우리는 현재 우리가 사용하는 소셜미디어에 명백한 단점이 있는 것을 인정하면서도, 이 방식과 모델을 유지하는 것은 어쩔 수 없는 일이라고 생각한다. 하지만 러니어는 ‘더 나아질 수 있는 가능성’을 꿈꾼다.
우리는 끝없이 연결되고 우리를 분석하는 알고리즘에서 잠시나마 떨어져 있어볼 필요가 있다. SNS를 현명하게 사용하고 자주적인 인터넷 문화를 만들어나가기 위해서다.

나는 우리가 충격적일 정도로 불평등한 사회에서 살고 있으며, 모든 사람에게 동일한 선택권이 제공되는 것은 아니라는 사실을 실감한다. 각자 처한 상황은 다르겠지만, 특히 나이가 아직 젊은 사람들은 스스로의 삶을 탐색할 선택 기회를 누리기를 간절히 바란다. (…) 하지만 자기 탐색을 어떤 식으로 해보든 간에 최소한 이것 한 가지는 꼭 해봤으면 좋겠다. 바로 행동수정 왕국에서 잠시 동안, 말하자면 한 6개월 정도 떨어져 있어보는 것이다.―본문에서(223쪽)
소셜미디어를 사용하는 사람이라면 알고리즘의 무서움을 안다. 알고리즘이 나의 욕망, 심지어 감정까지 읽어내고 있음을 알아챌 때 섬뜩해진다. 소셜미디어를 사용하면서 단 한 번도 찜찜한 느낌을 가져본 적이 없다면 이 책을 읽지 않아도 된다. 하지만 뭔가 불길한 징후를 느꼈던 사람이라면, 이 책을 읽어야 한다. 나 또한 러니어의 책을 읽으며 내가 느꼈던 불안의 이유를 알아차릴 수 있었다. 물론 이 책을 읽고 저자가 권하는 대로 소셜미디어 계정을 삭제할지 여부는 각자가 결정할 일이다.
나는 몇 년 전부터 소셜미디어 다운사이징을 시도하고 있다. 트위터는 그만두었고, 페이스북과 인스타그램은 계정을 남겨두었지만 되도록 내 기분과 욕망을 드러내는 글과 사진은 게시하지 않으려 노력한다. 러니어가 제시하는 SNS 계정을 삭제해야 할 10가지 이유에 대한 내 나름의 대답인 셈이다.―노명우(사회학자, 『세상물정의 사회학』 저자)

나는 재런 러니어의 책을 두 권 번역했는데, 그때마다 인터넷 시대를 꿰뚫어보는 그의 통찰에 감탄했다. 그는 실리콘밸리의 내부 고발자다. 러니어는 구글과 페이스북이 어떤 식으로 돈을 벌고 그 과정에서 우리를 어떻게 조종하고 타락시키는지 폭로한다. SNS는 우리의 가장 인간적인 측면을 악용해 우리를 비인간적인 존재로 만든다. SNS는 수많은 사람의 피를 먹고 자라는 나무다. 우리의 정보와 노동은 빅데이터로 전환되어 거대 기업의 수익 창출에 동원되지만 정작 우리는 정당한 대가를 받지 못할 뿐 아니라 생존까지 위협받고 있다. SNS가 제공하는 공짜 열매에 환호하는 사람들에게 말하고 싶다. 나무와 열매를 키운 것은 바로 당신이라고. 그 열매를 먹을수록 당신은 점점 더 허약해질 거라고.―노승영(전문 번역가, 『번역가 모모씨의 일일』 저자)

스마트폰이 한국에 도입된 직후 나는 트위터를 시작했고 아주 열심이었다. 그때 ‘트친’이었던 사람들과 함께, 트위터가 우리의 도덕불감증을 높이면서 상대적으로 부끄러움이나 죄책감을 덜어준다고 우려했었다. 어떤 이슈에 대해 단지 남의 트윗을 리트윗하는 것만으로 내가 할 일을 다 했다고 자위할 수 있기 때문이다. 물론 그 또한 의미 있는 일이지만 우리 모두가 잘 알듯이 결정적으로 세상을 바꾼 것은 오프라인의 광장에서였다. 이제는 페이스북에서 더 많은 시간을 보내는 요즘, 나는 이 책을 읽고 나서야 지난 트위터 시절의 우려를 한동안 까맣게 잊고 있었음을 깨달았다. 내 주변에는 스스로 SNS 중독을 호소하며 계정을 삭제하는 이들도 드물지 않게 있다. 그런 특단의 조치를 취하지 않으려면 오히려 이 책을 꼭 읽어봐야 한다.―이종필(물리학자, 『이종필의 아주 특별한 상대성이론 강의』 저자)

다른 누구도 아닌 재런 러니어의 말이라면 흘려들을 수 없다. 인터넷의 선구자이자 가상현실의 창시자, 디지털 휴머니즘 주창자의 말이니까. IT의 공과에 누구보다 밝고 정직한 그다. 소셜미디어는 좌편향도 우편향도 아닌 하향을 조장한다는 그의 말에 동의한다. 화근은 인터넷이 아니라 그곳을 돈벌이 영토로 장악한 소수의 기술 기업과 이들의 무료 콘텐츠 중독 전략, 광고 기반 사업 모델이라는 진단에도 수긍이 간다. 아직까지 나는 소셜미디어 계정을 없애진 않았다. 하지만 체류 시간은 확실히 줄였다. 당신도 한번 읽고 고민해보시길. 적시에 켜진 경고등, 잠수정 속 토끼, 탄광 속 카나리아 같은 책이다.
―전병근(지식큐레이터, 『지식의 표정』 저자)

SNS는 긍정적인 역동성이 있지만 나는 경계하는 편이다. 사용자들은 때로 타인에게 상처 주는 말을 문자로 또렷하게 전달한다. 이 말들은 보이지 않는 관객에게 휩싸여 있다. 또한 조리돌림을 자극하는 분위기가 쉽게 형성된다. 이러한 분위기를 경계하는 이유는 내가 고결한 인격을 갖춰서가 아니다. 반대로 나 역시 무서운 말을 뱉거나 말의 속도전에 참여하고픈 충동을 충분히 느끼기 때문이다. 재런 러니어의 말대로 중독에서 완전히 자유로운 사람은 없다. ‘공개된 뒷담화’에 익숙해지면 자신의 말이 타인에게 끼치는 영향력에 대해 덜 숙고한다. 이 책은 결국 ‘사람이란 무엇인가’라는 질문으로 향한다. 화면 너머에는 영혼이 있는 타인이 있다. 나는 ‘사람’과 대화하는가. 이를 고민하는 사람들에게 권하고 싶다.
―이라영(『진짜 페미니스트는 없다』 저자)

이 책은 발전이란 수레바퀴의 위험을 경고하는 친절한 설명서다. 우렁차게 굴러가는 수레바퀴는 너무나 거대해서, 그것이 움직이면서 아래에 있는 풀포기 하나를 밟는 것쯤은 자연스럽게 여겨진다. 필요에 의해 만들어지고 많은 이의 호응에 의해 유지되는 것이 SNS 같지만, 어느새 단문과 이미지에 놀아나는 장님이 되어 있는 스스로를 발견하게 된다. 저자는 진실을 가리고 사용자의 사고를 왜곡, 고정시켜 결국 아무리 ‘좋아요’를 눌러도 불행에 좀더 다가서게 만드는 중독에서 벗어나기를 당부한다. 재런 러니어가 펼쳐놓는 열 가지 담론을 따라가다보면, 불가능하게만 느껴졌던 수레바퀴의 무게를 이겨내는 것이 생각보다 쉽게 느껴진다. 무언가를 거절하는 것은 받아들이기는 어려우나 행동은 간단하며 결과는 의외적이고 때로 찬란하다.―김정욱(신경외과 전문의, 『병원의 사생활』 저자)

그렇다. SNS는 보통 사람을 꼴통으로 만든다. 애초 머릿속 한구석에 꼭꼭 숨겨뒀던 내면의 가장 추악한 모습이 SNS에서는 종종 그대로 모습을 드러낸다. 현실의 이웃이 이런 추악한 모습을 통제하는 사회적 압력으로 작용하는 데 반해, SNS에서 느슨한 관계로 엮여 있는 가상의 이웃은 ‘같은 편(무리)’이라는 이름으로 이런 추악한 모습을 오히려 부추긴다. 일단 세상에 드러난 추악한 모습을 정당화하려면 그것이 최선이라고 우겨야 한다. 이 과정에서 비슷한 괴물끼리 무리를 지어서 자기편이 아닌 상대편을 오히려 마녀라고 겨냥한다. 이렇게 증오를 증폭하는 과정에서 민주주의의 근간이라고 할 수 있는 과학적 검증이나 합리적 소통이 발을 디딜 틈이 없다. 섬뜩하다. 왜냐하면 이 과정이 꼭 100년 전 파시즘이 세상을 휩쓸었던 과정과 흡사하기 때문이다. 오늘날 민주주의와 그것을 가능케 하는 공론장의 지속 가능성을 고민하는 사람이라면 누구나 재런 러니어의 절박한 경고에 귀를 기울여야 한다. 정말로 지금 당장 SNS 계정을 삭제해야 한다.―강양구(지식큐레이터, 『수상한 질문, 위험한 생각들』 저자)

이 책을 먼저 읽은 사람들의 추천사

머리말 고양이에 관하여
논점 1 당신은 자유의지를 잃어가고 있다
논점 2 소셜미디어 사용 중단은 이 시대의 광증을 물리친다
논점 3 소셜미디어는 당신을 꼴통으로 만들고 있다
논점 4 소셜미디어는 진실을 훼손한다
논점 5 소셜미디어는 당신이 하는 말을 의미 없게 만든다
논점 6 소셜미디어는 공감 능력을 없앤다
논점 7 소셜미디어는 당신을 불행하게 만든다
논점 8 소셜미디어는 당신의 경제적 존엄을 바라지 않는다
논점 9 소셜미디어는 정치를 무력화한다
논점 10 소셜미디어는 당신의 영혼을 싫어한다
결론 고양이는 목숨이 아홉 개다

감사의 글
옮긴이의 말
주