“내 구직 활동 상황을 회사가 알고 있다”

인터넷 검색 이력과 자동차 주행 정보가 새로운 서비스를 낳고 경제와 정치 관련 통계가 돈을 움직이게 한다. 세계 각지에서 수시로 이루어지는 개인과 기업의 활동은 매일 엄청난 양의 데이터를 생산한다. 이 데이터를 분석하면 성장의 원동력이 되는 새로운 자원이 되지만, 한편으로 수많은 차별과 편견을 낳고 갖가지 오류를 일으킬 위험도 크다. 미국에선 구글 알고리즘이 포토 애플리케이션에서 흑인의 사진 데이터에 ‘사람(human)’이 아닌 ‘유인원(apes)’, ‘동물(animal)’과 같은 단어를 자동 태그한 사실이 알려지면서 사회적 파장을 일으켰다. 아마존이 개발한 인공지능 채용 시스템은 입사 전형에서 여성 지원자의 데이터를 완전히 배제하는 결과를 도출하면서 결국 폐기되었다. 이런 일들의 연장선상에서 세계적으로 데이터의 편향과 오류에 관한 관심이 촉발되기 시작했다. 기업들은 무너진 신뢰 회복을 위해 자체 윤리 규범이나 지침을 만드는 한편 정부에도 관련 기술 규제를 촉구하고 나섰다.
저자들은 이런 이슈가 미국에 국한되지 않음을 기자 특유의 기민한 취재 감각을 통해 생생하게 보여준다. 일례로 지난해 8월, 일본 리쿠르트그룹 산하 취업 정보 사이트 ‘리쿠나비’는 그들이 보유한 취업 준비생의 데이터를 정보 주체의 동의 없이 기업에 판매한 사실이 드러나 세간의 질타를 받았다. 그런데 이들이 판매한 데이터는 단순 개인정보가 아니라 데이터 알고리즘이 지원자의 최종 입사 여부를 수치로 도출하여 예측한 데이터였다. 리쿠나비는 구직자가 어떤 회사의 채용 정보를 열람했는지 등의 정보를 분석해 해당 지원자의 최종 입사 여부를 수치로 도출한 이른바 ‘내정사퇴율’을 기업에 제공해왔다. 기업 역시 입사 지원자의 개인정보를 무단으로 리쿠나비에 넘겨주며 내정사퇴율 분석을 의뢰했다. 뒤늦게 일본 정부가 사태 수습에 나서서 직업안정법과 개인정보보호법령 등에 근거해 행정지도 결정을 내렸다. 하지만 이 사건은 데이터를 활용하는 방식과 범위에 대한 위험성을 경고한 사례로 기록되었다.

10시간 만에 본인 특정, 6개월 치 행적까지 알아냈다

인터넷상의 데이터를 모아 특정 인물의 행동 패턴부터 취미와 기호, 속마음까지 추정하는 기술을 ‘프로파일링’이라 한다. 흥미를 느낄 만한 대상을 선별하여 광고를 띄우는 맞춤형 광고 등에 자주 쓰이는 기술이다. 인터넷 광고회사는 “광고 전송에는 개인이 누구인지까지 알 필요는 없고, 실제로 특정하지도 않는다”라고 강조한다. 하지만 작정하고 자료를 모은다면 자신의 이름과 상세한 행적을 알아내는 것도 충분히 가능하다고 저자들은 말한다. 개인정보보호법에 따르면 익명의 위치 정보는 법률로 보호해야 하는 개인정보에 해당하지 않는다. 따라서 이름, 주소, 얼굴 데이터 등과 같은 종래의 개인정보만큼 취급을 규제하지 않고, 본인의 동의를 얻지 않더라도 기업끼리 공유할 수 있다. 바꿔 말하면 사생활이 침범당할 위험에 노출되어 있다는 이야기다.
정보기술 서비스의 발달에 힘입어 인터넷상에는 스마트폰 위치를 비롯해 온갖 데이터가 넘쳐난다. 저자들은 그중 손쉽게 얻을 수 있는 공개 정보를 활용해 어디까지 개인에게 접근할 수 있는지 직접 시험해보았다. 그 결과 안전한 익명 정보에서 출발해 10시간 만에 개인을 특정하고 그 사람의 6개월 치 행적까지 상세하게 알아낼 수 있었다. 정작 본인은 데이터를 넘긴 기억이 없더라도 기업끼리 제멋대로 공유하고 사용할 수 있다. 이렇게 알아낸 개인정보는 자신도 모르는 사이 확산되어 사기나 스토킹 같은 범죄에 악용될 소지도 적지 않다. 데이터를 다루는 기업뿐 아니라 이용자도 인식을 강화해야 하는 이유가 여기에 있다.

데이터 알고리즘이 사회적 차별과 편견을 낳는다

데이터 경제가 일상생활 전반에 침투하면서 온갖 가치를 수치화하고 있다. 인공지능이 학력, 직업, 주거지 등 개인정보를 분석해 신용도를 산출하는 스코어링 기술은 대출이나 채용 분야에서 널리 활용되고 있다. 대표적으로 중국 최대 전자상거래 회사 알리바바가 운영하는 대출 서비스 ‘즈마신용’을 들 수 있다. 이 시스템은 이용자의 신용도를 350점부터 시작해 950점 만점으로 평가한다. 점수가 높으면 낮은 금리로 돈을 빌려주고 렌터카를 빌리거나 할 때 보증금을 면제해준다. 반면에 점수가 낮으면 신용카드 발행이나 대출 심사에서 불리한 조건을 부여한다. 구체적인 채점 기준은 공표되지 않았지만, 알리바바의 스마트폰 결제 서비스 알리페이로 자주 쇼핑하거나 신용도가 높은 친구와 소셜미디어로 친밀하게 교류하면 점수가 오른다고 알려져 있다.
이런 인공지능으로 개인의 신용도를 평가하는 시스템은 편리함을 가져오지만, 한편으로 ‘버추얼 슬럼(virtual slum)’이라는 새로운 빈곤층을 낳을 수 있다는 우려도 제기된다. 알고리즘에 의한 데이터 분석으로 낮은 점수를 받으면 취업, 대출, 주택 임대, 결혼 서비스 등 사회의 주요 영역에서 배제된다. 취업에 실패해 낮은 임금을 받고 이런저런 일자리를 전전하다 보면 더욱 점수가 낮아지는 악순환에 빠지게 된다. 사실상 인생의 모든 상황에서 불리한 처지에 놓이고 재도전할 기회조차 잃을 수 있다. 이런 상황에 부닥친 계층을 버추얼 슬럼이라 한다. 딜로이트토마츠컨설팅에 따르면 2030년까지 세계 주요 20개국에서 최대 5억 4천 명의 버추얼 슬럼이 생겨날 것으로 추산된다. 15세에서 64세의 생산연령인구 계층에서 여섯 명 중 한 명이 빈곤층으로 전락할 수 있다는 예측이다. 점수가 심각한 빈곤 문제를 일으키지 않도록 활용법에 대한 지혜를 짜내야 한다.
저자들은 점수가 당연해지는 사회가 이미 가까이 와 있다고 진단한다. 채점자가 ‘GAFA’라고 불리는 구글, 애플, 페이스북, 아마존만 있는 건 아니며, 끊임없이 새로운 기술이 탄생하므로 제자리에 머물러 있어서는 조언한다. 중요한 것은 토대가 되는 사상이다. 긍정적인 면과 부정적인 면을 동시에 갖춘 점수를 어떻게 잘 다루어 삶을 얼마나 풍요롭게 할 것인지를 놓고 고민해야 한다.

세계는 움직이고 있다. 우리도 늦어서는 안 된다

인공지능이 인간을 선별하고 평가하는 세상이 현실로 다가오고 있다. 만일 그 판단에 차별이나 편견이 담겨 있다면 어떻게 될까. 폐해를 막을 규칙을 마련하려는 움직임이 세계 곳곳에서 나타나고 있다. 개인정보 보호 분야에서 가장 앞서가는 것은 유럽연합(EU)이다. 개인정보 보호 의무를 강화하고 이를 위반하면 거액을 물리는 ‘유럽 일반개인정보보호법(GDPR)’이 2018년 5월부터 시행되고 있다. 실제로 2019년 1월, 프랑스는 구글이 수집한 데이터의 이용 목적과 설명 방법이 이해하기 어렵다고 지적하며 유럽 일반개인정보보호법 위반으로 5천만 유로의 과징금을 부과했다.
미국은 GAFA의 터전인 캘리포니아주에서 ‘캘리포니아 소비자 프라이버시법(CCPA)’이 2020년 1월부터 시행되고 있다. 기업에서 악질적인 개인정보 유출이 일어나면 소비자가 일정 금액의 배상을 청구할 수 있도록 규정하여 유럽에서 도입하지 않은 데이터의 가치를 인정했다. 다만 캘리포니아주 이외의 주에서는 사고방식에 온도차가 있다. 일본도 2020년으로 예정된 개인정보보호법 개정을 앞두고 개인이 기업에 자신의 정보 이용 정지를 요구할 수 있는 ‘사용하지 못하게 할 권리’의 도입을 검토하고 있다. 중국은 국가 주도의 정보 수집으로 독자적인 데이터 경제를 구축해간다.
세계는 움직이고 있다. 우리도 늦어서는 안 된다. 일각에선 코로나19의 대응과 관련해 개인의 휴대전화 위치 정보와 카드 사용 내역 등을 전수 조사하는 방식을 놓고 우리 사회가 개인정보에 대해 다소 권위주의적, 전체주의적 관점에서 해결책을 찾은 건 아닌지 우려하는 목소리도 나온다. 질병 확산을 최소화하려는 의도에서 불가피하게 시행된 조치이긴 하지만, 개인정보 취급을 둘러싸고 최근 급속도로 엄격해진 세계적 여론 동향과 규칙 정비의 흐름을 따라가지 못한 면도 있다는 의견이다. 데이터 기술의 혁신으로 인한 성장을 지향하지만 그렇다고 개인의 안전과 존엄이 뒷전으로 밀려서는 안 된다. 스마트폰이나 소셜미디어를 사용할 때 이용약관에서 묻는다. “개인정보와 교환하여 무료로 편리한 서비스를 사용하시겠습니까?” 우리는 사생활 정보를 제공하고 정당한 대가를 받고 있는지 개개인이 새로운 관점에서 진지하게 고민해야 할 때다.

영국이 자동차 대국의 자리를 놓친 이유

테크놀로지의 발달이 일으키는 문제를 간과하고 혜택만을 탐한다면 훗날 큰 보복을 당할 수 있다. 그렇다고 새로운 테크놀로지의 힘을 두려워한다면 비약할 기회를 놓치고 만다. 저자들은 대표적 사례로 19세기의 영국을 소개한다. 영국은 증기자동차 시대를 맞아 자동차산업의 주도권을 거머쥘 뻔했다가 결국 독일과 미국에 자동차 대국의 자리를 내주었다. 저자들은 영국이 실패한 요인 중 하나로 이른바 ‘붉은 깃발법(Red Flag Act)’을 꼽는다. 이 법은 1865년 제정되어 1896년까지 약 30년간 시행된 세계 최초의 도로교통법이자 시대착오적 규제의 대표적 사례라 할 수 있다. 영국은 마차 사업의 이익을 보호하기 위해 자동차의 최고 속도를 시내에서 시속 3.2킬로미터로 제한하고, 마차가 붉은 깃발이나 붉은 등을 달고 달리면 자동차는 그 뒤를 따라가도록 했다. 차체가 큰 자동차의 접근을 통행인에게 알리기 위함이었다고 하지만 너무나 균형을 잃은 규칙이었다. 산업혁명의 발원지 영국은 이때 테크놀로지에 의한 변혁 앞에서 아무런 시도도 하지 않았고, 결과적으로 미래로 나아가는 성장의 싹을 스스로 잘라버리고 말았다.
세계 각국에서 국가를 뛰어넘는 영향력을 발휘하는 GAFA를 규제하는 움직임이 나타나고 있다. 저자들은 이런 움직임이 데이터 경제에 강한 역풍이 될 수 있다고 우려한다. 낡은 상식과 관습을 절대시한 나머지 새로운 테크놀로지를 개발하는 진보주의를 죽여서는 안 된다고 설파한다. 테크놀로지를 제어할 수 있는 것은 우리 인류뿐이다. 테크놀로지의 진화와 더불어 데이터 경제가 가속화될수록 개인정보 유출과 사생활 침해 현상은 심화할 수 있다. 데이터의 세기를 맞아 우리 삶은 더욱 편리하고 풍요로워지겠지만, 그 장밋빛 미래를 위해 개인이 희생된다면 본말전도이다. 데이터 만능의 폐해는 줄이고 혜택은 고루 누릴 수 있도록 개인과 기업, 사회와 국가가 데이터의 올바른 활용에 합의를 이루어야 비로소 데이터의 세기가 도래한 의미가 있을 것이다.

인공지능 기술의 고도화로 자칫 간과되기 쉬운 정보 주체의 권리 보호와 데이터 윤리에 관해 성찰하게 만드는 책! 빅데이터와 인공지능 기술은 분명 우리 사회가 직면한 많은 문제와 과제를 해결할 잠재력을 지녔다. 그러나 그 잠재력이 제대로 발휘되어 이용자에게 지속 가능한 편익을 제공할 수 있으려면 보안, 프라이버시, 투명성, 책임성, 포용성 등 윤리적?법제도적 문제에 관한 충분한 성찰이 뒷받침돼야 한다. 이용자가 신뢰하지 못하는 기술은 결국 외면당할 수밖에 없기 때문이다. 최근 글로벌 테크 기업이 앞다투어 자체 규범을 마련하거나 정부에 관련 규제를 요구하는 것도 결국은 같은 맥락이라 하겠다. 이 책은 이런 윤리적 인공지능, 지속 가능한 인공지능에 관한 논의의 토대를 쌓는 과정에서 유용한 기초 자료가 될 것이다.
- 손승현 

 

 

 

 

감수를 마치며: 데이터의 세기에 생각하는 데이터의 양면성
서문: 데이터 프라이버시 구하기

서장 리쿠나비 문제의 충격: 데이터에 의한 인간 선별
허락받지 못한 거래 | 번져가는 파문 | 움직이기 시작한 정부 | 위축을 넘어

1장 세계가 실험실: 데이터 자원의 쓰임새와 가치
나 VS 알고리즘: 인간 중심 사고 | GAFA 끊고 지낸 3주, 생산성이 3분의 1로: 데이터 규제 | 디지털 도시, 가동을 멈추다: 데이터 GDP | 당신의 사생활, 5천500원에 삽니다: 데이터 유통권

2장 나를 빼앗기다: 편리함과 프라이버시 사이
풍요의 맞은편: 아이디 제휴 | 마음마저 조작한다: 맞춤형 광고 | 인공지능 의존은 어디까지: 점수화 기술 | 앙숙이 뭉치는 이유: 얼굴 인식 기술 | 진짜를 위협하는 가짜들: 딥페이크
현장 체험: 10시간 만에 본인 특정, 본가까지 털렸다
현장 체험: 내 신용도는 얼마쯤 될까

3장 채점되는 인생: 개인에게 값을 매기는 사회
디지털 빈곤층 5.4억 명: 버추얼 슬럼 | 편향된 리뷰 사회: 페이크 리뷰 | 미완성의 로봇 채용 시스템: HR 테크 | 점수를 되찾아라: 분산형 점수
현장 체험: 아마존이 짝퉁을 장려? 눈감은 인공지능
현장 체험: 독자 한 명 모집에 190원

4장 지배의 실상: 인터넷 거인들의 신독점
GAFA, BAT 이용자 수는 130억 명: 독점금지법 | 벗어날 수 없는 감시: 우월적 지위 남용 | 신독점의 일강다약 체제: 데이터 독점의 실상 | 개인정보, 공짜 점심 아니다: 데이터 가치 측정
현장 체험: 인공지능이 측정하는 미남의 기준은?

5장 혼돈 속 새로운 규칙: 디지털 패권 쟁탈전
국경을 넘어 자유롭게 거래한다: CBPR과 해저 케이블 | 인터넷 공간에 세금을 매기다: 디지털 과세 | 30년 전의 나를 지워줘: 잊힐 권리 | 26억 개 눈동자, 국가가 관리한다: 디지털 신분증 제도
현장 체험: 트럼프 대통령의 가짜 동영상에 도전하다

6장 현재와 미래를 둘러싼 논쟁: 숫자로 보는 데이터 경제의 현실
데이터 이용 어디까지 허용하나: 쿠키 | 움직이지 않는 두뇌: 인공지능 | 첨단 인재 양성을 위한 조건: 인공지능 인재 | 대학의 사이버 보안이 뚫렸다: 표적형 사이버 공격 | 자동차도 데이터로 달린다
현장 체험: 경위서부터 대출 서류까지 온갖 정보가 구글에

후기를 갈음하며: 우리의 미래를 위해 생각해야 할 것들
옮기고 나서: 데이터 만능 시대의 희망과 절망