우리는 AI와 어떤 사회를 만들어 갈 것인가?
: 신뢰할 수 있는 AI, 책임 있는 판단, 그리고 인간의 역할 /

AI는 검색과 업무 방식을 바꾸고 법률·의료·금융 같은 전문서비스의 문턱까지 낮추며 일상 깊숙이 들어왔다. 그러나 AI가 더 자연스럽고 정교한 결과물을 내놓을수록 질문은 오히려 늘어난다. 이 답변은 얼마나 믿을 수 있는가, 그 판단의 책임은 누구에게 있는가. 『AI와 함께 살아가는 사회』는 연세대학교 바른ICT연구소에 몸담았거나 인연을 맺어 온 경제학, 경영학, 심리학, 정보보호, 광고, 인간-컴퓨터 상호작용 분야의 연구자와 실무자 13명이 이 질문에 함께 답한 책이다.

책은 '신뢰', '판단', '역할'이라는 세 축으로 열두 개의 장을 엮었다. 제1부 '신뢰'는 AI가 바꾼 전문서비스 시장, 생성형 AI가 어떤 정보에 기대어 답하는지, 기술 수준을 부풀리는 'AI 워싱', AI 글래스가 위협하는 주변인 프라이버시를 다룬다. 제2부 '판단'은 상품 탐색부터 예약과 구매까지 대신하는 AI 에이전트, AI로 재편된 사이버보안 지형, 행동경제학으로 본 AI 시대의 판단, 사용자 의견에 과도하게 동조하는 '시코팬시' 문제를 살핀다. 제3부 '역할'은 AI 결과물의 책임 소재, ChatGPT·Gemini·Claude의 개인정보 설정 비교를 통한 자기정보 통제 방법, 활용·검증 역량의 격차로 바뀐 정보격차, 고객 신뢰를 중심에 둔 기업의 AI 전환 전략을 제시한다.

각 장은 핵심을 정리한 요약으로 문을 열고, 국내외 연구와 통계, 실제 사건과 기업 사례를 바탕으로 논의를 펼친 뒤 정책과 실천 방향까지 제안한다. AI 에이전트에 판단을 맡기면서도 통제권을 지키기 위한 원칙, 정보주체가 직접 활용할 수 있는 개인정보 보호의 '투트랙' 전략, 기업을 위한 신뢰 가능한 고객경험 프레임워크(TAI-CX)처럼 손에 잡히는 해법이 함께 담겼다. 정책을 설계하는 사람, AI를 도입하는 조직, 매일 AI에게 묻고 답을 받는 개인 모두에게 필요한 이유다. AI에 대한 막연한 기대나 불안 대신, 신뢰와 판단의 기준을 세우고 인간이 끝까지 맡아야 할 몫을 다시 묻는 계기가 될 것이다.

AI가 무엇을 할 수 있는가보다 먼저 물어야 할 것 /

AI에 관한 논의는 흔히 AI가 무엇을 할 수 있는가에 머문다. 이 책은 질문의 방향을 바꾼다. 김범수 바른ICT연구소 소장은 인사말에서 그럴듯한 답변이 사실을 가장하고, 'AI'라는 이름이 기술의 실체보다 앞서는 마케팅이 퍼지며, 편의를 위해 수집되는 데이터가 프라이버시를 위협하는 지금 중요한 것은 AI를 얼마나 신뢰할 수 있고 그 신뢰를 어떤 기준과 책임 위에 세울 것인가라고 말한다. 2015년 SK텔레콤과 함께 설립된 연세대학교 바른ICT연구소가 'BARUN ICT Life Series'로 이어 온 고민을 생성형 AI 시대의 과제로 확장한 책이다.

전문서비스 시장에서 개인정보 설정 화면까지, 사례로 짚는 AI의 그늘 /

이 책의 강점은 구체성에 있다. 제1부는 AI가 수요와 공급을 함께 자극해도 전문서비스 가격이 쉽게 내려가지 않는 이유를 신뢰재의 특성으로 설명하고, 하버드 학생들의 실시간 신원 식별 시연과 케냐 하청업체의 영상 검토 사건을 통해 AI 글래스가 주변인의 프라이버시를 어떻게 허무는지 보여준다. 제2부는 딥페이크 영상통화로 340억 원이 탈취된 홍콩 사건에서 출발해 AI 대 AI로 바뀐 보안 전선을 그리고, AI의 동조적 응답이 사용자의 자기 확신은 높이고 갈등 상대와의 관계 회복 의도는 약화할 수 있다는 연구를 소개한다. 제3부는 ChatGPT, Gemini, Claude의 개인정보 처리방침과 설정 기능을 직접 비교해 정보주체가 활용할 수 있는 '투트랙' 전략을 제시하고, Klarna, Bank of America, Starbucks, Walmart의 사례로 AI 기반 고객경험에서 신뢰를 관리하는 방법을 설명한다.

판단을 맡기되 판단권은 넘기지 않는 사회 /

열두 개의 장은 서로 다른 분야에서 출발하지만 하나의 결론으로 모인다. AI를 독립적인 책임 주체로 보기 어렵다고 해서 책임이 사라지는 것은 아니며, 개발자와 기업, 조직과 사용자, 정부가 각자의 몫을 끊김 없이 이어야 한다는 것이다. AI 시대의 정보격차가 접속의 격차가 아니라 답변을 검증하고 판단하는 역량의 격차라는 진단, AI 리터러시를 넘어 '판단 리터러시'가 필요하다는 제안도 같은 맥락에 있다. 정책 입안자와 기업 실무자는 물론, 매일 AI에게 묻고 그 답을 믿어도 될지 고민하는 독자에게 기술보다 먼저 세워야 할 신뢰와 판단의 기준을 건네는 책이다.

AI 이전의 불만은 전문서비스가 비싸고, 느리고, 접근하기 어렵다는 것이었다. AI 이후의 불만은 다른 형태로 전환된다. 문턱은 낮아졌는데 그 뒤에 무엇이 있는지 알 수 없고, 정보는 넘치는데 그것이 적절한지 판단하기 어려우며, AI가 만든 오해와 공급자의 방어 사이에서 책임이 흐려진다. 문제가 해결된 것이 아니라 문제의 성격이 바뀐 것이다.
— 52쪽

사회적 신뢰는 기술 확산의 걸림돌이 아니라 그 토대다. 주변인을 보호하는 설계와 제도는, 역설적이게도 AI 기술이 사회에 안정적으로 뿌리내리기 위한 전제 조건이다. 신뢰받는 기술만이 오래간다.
— 158쪽

가장 편리한 에이전트가 반드시 가장 신뢰할 수 있는 에이전트인 것은 아니다. 가장 신뢰할 수 있는 에이전트는 사용자가 편리함을 누리면서도 자신의 목표와 경계를 유지하고, 결과에 이의를 제기하거나 다른 서비스로 옮길 권리를 잃지 않게 하는 에이전트이다. 자동화의 수준보다 중요한 것은 자동화가 누구의 통제 아래 놓여 있는가이다.
— 206쪽

생성형 AI 결과물의 책임을 묻는 일 역시 AI 자체를 처벌하는 문제가 아니라, 책임 공백을 줄이면서 인간의 통제·설명·시정 가능성을 유지하는 제도와 절차를 설계하는 문제로 보아야 한다.
— 357쪽

따라서 AI 시대의 핵심 격차는 누가 AI에 접속할 수 있는가보다, 누가 AI 답변을 자신의 목적과 상황에 맞게 해석하고 필요한 경우 검증할 수 있는가에서 발생한다.
— 447쪽

인사말

제1부 신뢰: AI의 대중화와 신뢰의 흔들림

Ⅰ 쉬워진 정보, 남겨진 책임: AI와 전문서비스 시장 - 안우혁
1. 기대와 간격
2. 쉬워지는 것들: 수요와 공급의 동시 변화
3. 남겨진 것들: 책임과 신뢰의 가격
4. 달라지는 것들: 단계별·품질별 분화
5. 채워야 할 것들: 접근성을 높이는 제도 설계
6. 낮아진 문턱, 남겨진 판단

Ⅱ 생성형 AI는 누구의 말을 믿는가: LLM 시대의 정보 신뢰와 권한 구조 - 조인서
1. 틀린 전제와 정답 사이에서
2. 서로 다른 말이 들어올 때
3. AI는 어떤 정보에 기대어 답하는가
4. “해야 한다”와 “하는 것이 좋다”
5. 그래서 생성형 AI는 누구의 말을 믿는가
6. 생성형 AI 시대의 정보 신뢰와 시사점

Ⅲ 마케팅 커뮤니케이션 환경에서 AI 워싱의 이해: AI는 어떻게 기만적 마케팅 언어가 되는가? - 유정아
1. 마케팅 언어가 된 AI
2. AI 워싱은 왜 발생하는가
3. 마케팅 커뮤니케이션에서 발생하는 AI 워싱의 유형
4. AI 워싱의 결과: 소비자, 기업, 시장의 차원
5. AI 시대의 마케팅 정책과 AI 광고 리터러시

Ⅳ AI 글래스 시대의 주변인 프라이버시와 사회적 신뢰: 허물어지는 개인과 공공 영역 - 황유진
1. 서론: AI를 입다
2. 프라이버시 논의의 대상 이동: 사용자에서 주변인으로
3. 맥락 무결성과 사회적 공간의 프라이버시
4. 산업적 대응 현황
5. 현실화된 위험: 사례 분석
6. 인간 중심 AI에서 사회 중심 AI로

제2부 판단: 알고리즘의 매개, 보안 위협, 그리고 의사결정의 편향

Ⅴ AI 에이전트가 시장의 문지기가 될 때 - 방영석
1. AI가 말을 넘어 행동할 때
2. AI 에이전트는 누구를 위해 선택하는가
3. AI가 거래를 시작하면 책임의 지형이 달라진다
4. 인간 중심의 에이전트 시장은 어떻게 설계해야 하는가
5. 판단을 맡기되 판단권을 넘기지 않는 사회

Ⅵ AI가 바꾼 사이버보안 지형도 - 노병규, 김범수
1. 서론: 보안 위협의 구조가 바뀌고 있다
2. 해커의 무기가 된 AI
3. AI vs AI: 방어의 재편
4. AI 시스템 자체가 공격 표면
5. 대응 전략
6. 전장에서 온 경고
7. 결론 : 새로운 지형도를 그리며

Ⅶ AI 시대의 판단과 의사결정: 행동경제학으로 읽는 생성형 AI의 정보, 편향, 선택 구조 - 노환호
1. AI는 판단을 대신하는가, 판단 환경을 바꾸는가
2. AI가 만드는 새로운 판단 단서
3. 위험은 계산되지만, 인간은 위험을 느낀다
4. AI는 선택 프레임과 선호를 어떻게 구성하는가
5. 보이는 편익과 보이지 않는 비용
6. 어떤 판단을 AI에게 맡길 수 없는가
7. 결론: AI 리터러시를 넘어 판단 리터러시로

Ⅷ 시코팬시와 신뢰 가능한 AI 조언의 조건: 인간-AI 소통에서 동조와 비판적 개입의 경계 - 허영춘
1. 서론: 친절한 AI 응답의 역설, 시코팬시
2. 시코팬시에 대한 이해
3. 시코팬시가 사용자에 미치는 영향
4. 비판적 AI 조언은 어디까지 개입해야 하는가
5. 시코팬시 완화를 위한 주요 기술적 접근과 한계
6. 더 나은 AI 조언을 위한 조건

제3부 역할: 책임 규명, 통제권 확보, 그리고 역량과 신뢰의 구축

Ⅸ AI가 만든 결과물, 책임은 누구에게 있는가 - 김현정
1. 서론: 생성형 AI 시대, 왜 책임성을 다시 물어야 하는가
2. AI 책임성의 개념과 역사: 책임 공백에서 다층적 책임으로
3. 안전하고 신뢰할 수 있는 AI는 어떻게 만들어지는가: 기술적 책임과 사회적 책임
4. AI를 책임 있게 사용하는 사람과 조직, 그리고 법제도
5. 결론: 인간 중심 책임성을 다시 설계하다

Ⅹ 생성형 AI 시대의 자기정보 통제권: 데이터 크롤링부터 블랙박스를 넘어설 정보주체의 자구책 - 장재영
1. 서론: AI의 대중화와 구조적 위험
2. 생성형 AI에서 개인정보(데이터) 처리
3. 주요 생성형 AI 서비스별 개인정보 처리방침 비교
4. 생성형 AI의 설정 기반 개인정보 통제 방안
5. 사업자에 직접 처리 요청 방안
6. 생성형 AI 환경에서의 자기정보 통제권 보호 방안 및 한계
7. 결론 및 제언: 투트랙 전략과 주체별 역할

XI AI 시대의 새로운 정보격차: 접근의 격차에서 활용·검증·판단 역량의 격차로 - 이원구
1. 서론: AI 시대 정보격차는 왜 활용·검증 역량의 문제가 되었는가
2. 기존 논의가 보여주는 문제의식
3. AI 시대 새로운 정보격차의 경제학
4. 한국 사회의 영역별 쟁점
5. 정책·실무·교육적 시사점
6. 결론: AI 시대의 격차는 판단 능력의 격차다

XII AX 시대의 신뢰 가능한 고객경험 구축: AI 기능 경쟁을 넘어 고객 신뢰 경쟁으로 - 박규현
1. AX 시대 고객경험의 변화
2. 신뢰 가능한 고객경험의 조건
3. 신뢰 가능한 고객경험 실행전략
4. 기업 사례와 시사점
5. 결론

참고문헌
저자소개