작가의 말

우리는 이른바 데이터의 황금기에 살고 있다. 사람이나 사회에 대해 궁금해 할 만한 모든 질문에 통계적으로 정확한 답변을 제공하는 데 활용할 수 있는 방대한 데이터가 존재한다. “친구의 행동은 당신이 어떤 TV 프로를 볼지 또는 어떤 사람에게 투표할지를 정하는 데 영향을 줍니까?”라는 질문에 대한 답변은 전 세계 사람들 수억 명의 사회적 활동을 기록하고 있는 페이스북 데이터로 할 수 있다. 운동을 자주 하는 사람들은 이메일을 비교적 덜 확인할까? 만약 애플 워치(Apple Watch)나 구글 핏(Google Fit) 앱을 설치한 안드로이드 폰 사용자들이라면 데이터로 답을 알 수 있을 것이다. 또한 타깃 마케팅을 원하는 유통 회사를 위해 고객이 어디서 주로 시간을 보내는지에 관한 데이터를 판매하는 수십 개의 회사가 이미 경쟁 중이다. 이는 우리를 매우 복잡한 상황으로 이끈다. 즉, 전례가 없던 풍요로운 데이터로부터 얻게 되는 통찰력을 통해 사회의 동작 방식을 새롭게 이해하고, 공중 보건과 서비스, 소비자 제품을 개선할 수 있다. 그러나 개인이 이런 데이터 분석의 수혜자가 되는 것이 아니다. 분석에 사용되는 데이터가 바로 나와 당신이며, 우리에 대한 중요한 결정을 내리는 데도 바로 그 데이터가 사용되는 것이다.
데이터 수집과 분석이 급증하면서 발생하는 걱정거리가 단지 프라이버시만은 아니다. 왜냐하면 휴대폰과 인터넷을 이용할 수 있게 해주는 작은 기계 코드, 알고리즘은 우리가 이동하면서 생성하는 데이터를 분석하는 정도에서 끝나지 않기 때문이다. 이는 우리 생활에 영향을 끼치는 결정을 내리는 데 활발히 사용된다. 예를 들어, 신용카드를 발급받으려고 신청서를 내면 아마도 그 신청서는 사람이 검토하지 않을 것이다. 대신 알고리즘이 신청자(또는 신청자와 유사한 그룹의 사람들)에 대한 정보를 여러 기관에서 수집한 후, 자동으로 발급 승인을 하거나 거절할 것이다. 이렇듯 요청이 승인될 때까지 5~10일 정도 기다리지 않고 바로 결과를 알 수 있다는 것은 장점이 많지만, 좀 더 생각해볼 필요가 있다. 미국의 많은 주에서는 이른바 머신러닝(machine learning)이라 부르는 알고리즘을 보석과 가석방, 형사 선고를 하는 데도 사용하고 있다. 또한 경찰관을 도시 전역에 배치하는 데도 알고리즘이 사용된다. 사람들의 삶에 직접적이고 실제적인 영향을 끼치는 모든 분야의 결정 과정에 알고리즘이 사용되고 있는 것이다. 이 모든 현상은 프라이버시뿐만 아니라 공정성이나 안전, 투명성, 책임성, 도덕성을 포함한 다양한 사회적 가치에 대해 의문을 제기한다. 따라서 앞으로도 계속 빅데이터를 생성하고, 이를 통해 중요한 결정을 자동화할 것이라면(그렇지 않을 가능성은 농경사회로 다시 돌아갈 것이라는 가정만큼 현실성이 없다), 반드시 몇 가지 중요한 주제를 진지하게 고려해야 한다. 여기에는 데이터와 알고리즘의 사용을 제한하는 것과 이런 제한을 법제화하는 것, 규제를 시행하는 조직이 모두 포함된다. 그러나 우리는 이러한 우려 사항을 과학적으로 해결하려는 시도, 좀 더 자세히 말하자면 우리 삶에 점점 깊이 들어오는 알고리즘을 설계하는 데 있어 윤리적 원칙을 직접 코딩해서 반영한다는 사실이 의미하는 바를 진지하게 고려해야 한다. 이 책은 바로 그러한 윤리 알고리즘의 설계를 다루는 최신 과학 분야의 책이다.

"윤리가 알고리즘에 '인코딩'될 수 있을까? 마이클 키언스와 아론 로스는 시의적절하게 알고리즘 기반 의사결정에 내재된 다양한 문제의 알고리즘 해법을 제시한다. 체계적이면서도 재미있게, 인간이 하는 판단의 지속적 중요성을 놓치지 않고, 알고리즘에서의 프라이버시와 공정성, 해석 가능성과 관련된 문제를 해결할 수 있는 잠재적 해법을 제시한다.”
- 도로테아 바우어(Dorothea Baur) 박사
 / 국제 기술 윤리 컨설턴트이자 작가

"지옥으로 가는 길은 선의의 알고리즘으로 포장돼되어 있을까? 많은 이가 선의의 알고리즘으로 이뤄졌을 것이라 생각한다. 적절한 시점에 두 명의 전문가가 좀 더 냉철한 시각으로 쓴 이 책은 분명하고 간결하게 문제 이해와 해법 탐색을 하고 있어, 윤리 알고리즘이라는 새로운 과학 분야에 대한 완벽한 지침서라 할 수 있다."
- 페드로 도밍고스(Pedro Domingos) 박사
/ 워싱턴 대학교 컴퓨터 과학과 교수이자 『마스터 알고리즘(The Master Algorithm)』 저자

"데이터 과학 혁명은 중요한 윤리적 기반을 갖고 있다. 저자들은 인공지능 윤리학이 자체적인 학문으로 발전하는 데 필요한 중요한 사례를 제공한다. 윤리 알고리즘은 알고리즘화된 사회가 꼭 종말론적일 필요는 없다는 것을 보여준다. 인공지능에 관심이 있다면 누구나 필수로 이 책을 읽어야 할 것이다."
- 마르코스 로페즈 데 프라도(Marcos Lopez de Prado) 박사
 / 트루 파지티브 테크놀로지스(True Positive Technologies) CEO이자
 「포트폴리오 관리 저널(The Journal of Portfolio Management)」의 2019년 올해의 퀀트

"이 책은 오늘날 전례 없이 데이터를 이용할 수 있는 세상에서 알고리즘이 맞닥뜨린 구체적이고 실제적인 사례를 통해 가까운 미래의 위협을 잘 보여주고 있다. 윤리 알고리즘은 명확하고 비범한 통찰력으로 가득한 책이다."
- 캐롤 라일리(Carol E. Reiley)
 / Drive.ai 공동설립자, 고문 및 이사회 멤버

1장. 알고리즘 프라이버시 익명에서 소음으로
2장. 알고리즘 공정성 패리티에서 파레토까지
3장. 알고리즘 게임 이론
4장. (데이터에 미혹돼) 정원에서 길을 잃다
5장. 위험한 연구 해석 가능성과 도덕성 그리고 특이점

★ 지은이의 말 ★

우리는 이른바 데이터의 황금기에 살고 있다. 사람이나 사회에 대해 궁금해 할 만한 모든 질문에 통계적으로 정확한 답변을 제공하는 데 활용할 수 있는 방대한 데이터가 존재한다. “친구의 행동은 당신이 어떤 TV 프로를 볼지 또는 어떤 사람에게 투표할지를 정하는 데 영향을 줍니까?”라는 질문에 대한 답변은 전 세계 사람들 수억 명의 사회적 활동을 기록하고 있는 페이스북 데이터로 할 수 있다. 운동을 자주 하는 사람들은 이메일을 비교적 덜 확인할까? 만약 애플 워치(Apple Watch)나 구글 핏(Google Fit) 앱을 설치한 안드로이드 폰 사용자들이라면 데이터로 답을 알 수 있을 것이다. 또한 타깃 마케팅을 원하는 유통 회사를 위해 고객이 어디서 주로 시간을 보내는지에 관한 데이터를 판매하는 수십 개의 회사가 이미 경쟁 중이다. 이는 우리를 매우 복잡한 상황으로 이끈다. 즉, 전례가 없던 풍요로운 데이터로부터 얻게 되는 통찰력을 통해 사회의 동작 방식을 새롭게 이해하고, 공중 보건과 서비스, 소비자 제품을 개선할 수 있다. 그러나 개인이 이런 데이터 분석의 수혜자가 되는 것이 아니다. 분석에 사용되는 데이터가 바로 나와 당신이며, 우리에 대한 중요한 결정을 내리는 데도 바로 그 데이터가 사용되는 것이다.
데이터 수집과 분석이 급증하면서 발생하는 걱정거리가 단지 프라이버시만은 아니다. 왜냐하면 휴대폰과 인터넷을 이용할 수 있게 해주는 작은 기계 코드, 알고리즘은 우리가 이동하면서 생성하는 데이터를 분석하는 정도에서 끝나지 않기 때문이다. 이는 우리 생활에 영향을 끼치는 결정을 내리는 데 활발히 사용된다. 예를 들어, 신용카드를 발급받으려고 신청서를 내면 아마도 그 신청서는 사람이 검토하지 않을 것이다. 대신 알고리즘이 신청자(또는 신청자와 유사한 그룹의 사람들)에 대한 정보를 여러 기관에서 수집한 후, 자동으로 발급 승인을 하거나 거절할 것이다. 이렇듯 요청이 승인될 때까지 5~10일 정도 기다리지 않고 바로 결과를 알 수 있다는 것은 장점이 많지만, 좀 더 생각해볼 필요가 있다. 미국의 많은 주에서는 이른바 머신러닝(machine learning)이라 부르는 알고리즘을 보석과 가석방, 형사 선고를 하는 데도 사용하고 있다. 또한 경찰관을 도시 전역에 배치하는 데도 알고리즘이 사용된다. 사람들의 삶에 직접적이고 실제적인 영향을 끼치는 모든 분야의 결정 과정에 알고리즘이 사용되고 있는 것이다. 이 모든 현상은 프라이버시뿐만 아니라 공정성이나 안전, 투명성, 책임성, 도덕성을 포함한 다양한 사회적 가치에 대해 의문을 제기한다. 따라서 앞으로도 계속 빅데이터를 생성하고, 이를 통해 중요한 결정을 자동화할 것이라면(그렇지 않을 가능성은 농경사회로 다시 돌아갈 것이라는 가정만큼 현실성이 없다), 반드시 몇 가지 중요한 주제를 진지하게 고려해야 한다. 여기에는 데이터와 알고리즘의 사용을 제한하는 것과 이런 제한을 법제화하는 것, 규제를 시행하는 조직이 모두 포함된다. 그러나 우리는 이러한 우려 사항을 과학적으로 해결하려는 시도, 좀 더 자세히 말하자면 우리 삶에 점점 깊이 들어오는 알고리즘을 설계하는 데 있어 윤리적 원칙을 직접 코딩해서 반영한다는 사실이 의미하는 바를 진지하게 고려해야 한다. 이 책은 바로 그러한 윤리 알고리즘의 설계를 다루는 최신 과학 분야의 책이다.