소시오톡
[수리사회학] Weapons of Math Destruction -Cathy O'Neil (Part 1)
 
1
3
  320
Updated at 2017-06-06 02:00:48


INTRODUCTION

저자는 수학과 출신으로 현재 데이터 사이언티스트로 활동중에 있다. 하지만, 데이터 사이언티스트가 되기 이전에 그녀는 다양한 직종에 종사하면서 수학을 기반으로 하는 모델의 큰 사회적 결함을 발견하게 되었고, 그로 인한 큰 회의감을 느껴 이 책을 출판하기에 이르렀음을 밝히고 있다. 따라서, 저자는 본 책에서 수리적 모델과 빅 데이터를 활용하는  다양한 사례를 제시하여 최근 활발히 논의되고 있는 빅 데이터 시대의 잠재적 위험성에 대해 경고하고 있다.

"Welcome to the dark side of Big data" -Cathy O'Neil


**책에서 저자는 빅데이터를 활용한 수학적 모델이 사회적 불평등을 일으키거나 인간의 삶에 해로운 영향을 미치는 경우를 WMD(Weapons of Math Destrcution)이라 일컫는다.

Chapter 1. BOMB PARTS (What is a model?)

첫 장에서 사용되는 첫번째 예시는 야구이다. Indians팀은 Red Sox팀과의 경기 중, 상대편의 뛰어난 선수의 활약으로 경기에서 지고 있었다. 이를 지켜보던 Indians팀 메니저 Boudreau는 맹활약중인 상대편 선수의 투구방향 등을 분석한 뒤, 팀 작전에 분석 결과를 활용하게 된다.  

이처럼, Boudreau는 상대편 선수의 데이터 분석을 시도하고 예측했다는 점에서 그는 데이터 사이언티스트처럼 생각하고 예측했음을 확인할 수 있다.


저자는 데이터를 활용할 수 있는 또 다른 예를 일상생활에서 찾고 있다. 그녀는 가족 식단표를 만들기 위하여 구성원들의 입맛, 가능한 음식 선택지, 영양 성분 등을 고려하여 수학적 모델을 만드는데 성공한다. 그러나 저자는 여기서 모델이 가지는 맹점을 발견하게 된다.

1) 모델은 너무 단순화 되어 있어서 예외적인 상황에 대비하지 못한다.

2) 데이터 자체가 오래되면 모델의 유용성 또한 사라진다.

3) 모델을 만드는 사람의 우선수위, 선호도가 반영되어 있다.

결국, 수리적 모델이라고 하지만 주관적이거나 자의적인 판단으로부터 자유로울 수 없다는 것이다.


이 장에서 마지막으로 제시되는 예시는 아프리카계 미국인 Duane Buck의 이야기이다. Duane Buck은 법정에서 흑인이라는 이유만으로 위험성이 높은 인물로 간주되어 사형을 선고받게 되었다.

실제로 미국은 "Recidivism Model"이라는 모델을 도입하여, 죄수들이 사회로 복귀하였을 때 재범행 가능성이 높은 사람을 예측하려는 시도를 했다. 그 방식은 죄수들을 상대로 주어진 질문을 배포하고 그 응답을 토대로 위험성을 분석을 하는 형태였다. 그러나, 모델이 문제가 된 원인은 죄수들에게 던져지는 질문중 하나가 최초로 경찰의 조사를 받았던 시점이라는 점이다. 미국 내에서 흑인들은 백인들에 비하여 높은 비율로 경찰의 의심을 사며 이유없이 조사를 받는 경우가 빈번하다. 따라서, 최초로 경찰에게 조사를 받았던 시점은 흑인의 경우가 훨씬 더 이른 시점일 수 밖에 없었으며, 그 결과 Recidivism model은 흑인 죄수들을 더 위험한 인물로 간주할 수 밖에 없는 결과를 낳게 된다.

 *책에서 나오는 실제 주인공 (Duane Buck)

GIF 최적화 ON    
14K    21K
*빨간색이 흑인 남성

여기서, 우리는 Recidivism Model이 낳은 인종 차별 문제를 논할 수 밖에 없다. 모델을 위해 사용된 데이터들은 그 죄수들의 범행과는 무관한 배경, 인종 등의 정보를 요구하였으며, 이는 결국 사회적으로 소수자의 위치에 있던 흑인을 또 한번 차별시키는 결과를 가져왔다. (WMD)


저자는 이 챕터 마지막에서 저자는 세 가지 WMD의 조건을 이야기한다.

1) Opacity: 모델의 사용 목적과 알고리즘이 어떻게 구성되어 있는가는 매우 불투명함

2) Damage: 모델은 인간의 삶에 막대한 피해를 입힘

3) Scale: 그 피해의 규모는 단순히 개인이 아닌 사회, 전 세계로까지 확장 가능함

이렇듯, WMD는 위 세가지 조건을 수반하며 인간의 삶에 해로운 영향을 미치고 있다.

Chapter 2. SHELL SHOCKED (My journey of disillusionment)

이 장에서, 저자는 직접 경험했던 수리적 모델의 결함과 사람들의 맹목적적인 이윤추구 행위에 대한 큰 실망감을 드러내고 있다. 저자가 교수직을 벗어나 처음 종사하게 된 직장은 DE Shaw 위험펀드 회사이다. 높은 연봉과 저자의 강점인 수학을 기반으로 하는 회사라는 점은 매우 좋았으나, 이 곳은 다른 직장 동료와의 대화 조차 매우 제한되어 있으며 업무로 인한 수면부족에 시달려야한다는 큰 단점을 지니고 있었다. 하지만, 그보다 더 큰 문제는 2008년도 금융위기를 겪으면서 드러난다. 우선, 금융위기를 간략하게 설명하자면 아래와 같다.


2001년 미국 연방정부에서 기준 금리를 낮춤 -> 미국 내 많은 은행에서도 금리를 낮추게 됨

-> 사람들이 적은 이자율로 인하여 모기지론 (Mortgage Loan)이라는 주택 담보 대출을 이용하여 집을 사게됨 -> 집값 폭등 -> 집값이 올라가자 은행에서 신용등급이 낮은 사람들에게도 Mortgage Loan을 허용하게 되는데, 이를 서브프라임 모기지(Subprime Mortgage)라 부름 -> 그러나, 집값 폭락 시작

-> 집값이 폭락하자, 사람들은 집을 팔아도 대출금을 값을 수 없는 상태에 이르게 됨 -> 파산 신청 & 은행 역시 대출금은 회수하지 못한 채, 담보로 받은 집만 가지고 있게 됨



1999년 스티골법 시행으로 은행이 증권활동을 하는 것이 합법화 됨 -> 은행은 모기지론을 통해 담보로 묶여 있는 집과 회사채를 묶어 CDO라는 증권 상품을 만들어 시장에 내놓음 -> 시장에 내놓으려면 필요한 절차가 상품(CDO)의 품질 평가인데, 품질 평가 업체들이 타 업체와의 경쟁 때문에 정확한 평가 없이 만점(AAA rating)을 줌-> CDO가 시장에 나오면 위험펀드와 투자 은행이 여기에 투자를 함 -> 이때 CDO가 가진 위험을 Bond로 묶어서 위험성을 보장해주고자 하는 CDS, 즉 보험회사가 등장하게 됨 

이 과정에서, CDO라는 위험성이 매우 높은 상품에 너무 많은 이해관계가 얽히게 되었으며, 그 이해관계들은 파생상품을 계속해서 만들어 낸다. 이는 모두가 이윤 추구만을 목표로 하고 있기 때문이었다. 결국, 금융위기 당시 CDO에 있는 집값 자체가 폭락하면서 여기에 연관된 모든 회사들이 함께 무너지게 되면서 미국 뿐만 아니라 세계 전역의 경제 침체를 가져오게 되었다.

금융위기는, 매우 위험성이 높은 상품에 더 높은 수익을 올리고자 하는 수많은 이해관계가 얽히면서 범위가 큰 문제로 확장되었다. 하지만, 저자가 여기서 주목하고 있는 것은 그 이해관계 내에 있는 사람들이 아니라 그로 인하여 막대한 피해를 입게된 너무 많은 숫자의 무고한 시민들이다. 서브프라임 모기지론으로 인하여 많은 사람들은 직장, 집을 한 순간에 잃게 되었으나 그들에 대한 보상은 아무도 해줄 수 없으며, 금융위기를 일으킨 당사자들에 대한 처벌도 불가능하다. (WMD)


이렇듯, 저자는 사람들의 무분별한 이윤추구 행위는 결국 경제적으로 취약한 서민들의 돈을 가지고 이루어지는 사실을 깨닫는다. 이에 큰 문제의식을 지니게 되면서 결국 위험펀드 회사를 떠나게 된다. 그 이후, 저자는 데이터 사이언티스트로 활동하지만 데이터 시장에서도 역시 사람들의 이윤 추구 행위는 끊이지 않음을 깨닫고, 빅 데이터 시장 역시 금융 시장과 동일한 맥락에서 해석할 필요가 있음을 주장한다.

Chapter 3. ARMS RACE (Going to college)

US News and World Report에서 주관하여 미국 내 대학 평가를 실시하게 된다. 평가는 입학생의 SAT 점수, 학생-교수 비율, 입학률 등의 지표를 75% 반영하고, 각 학교의 official의 주관적인 평가를 25% 반영하여 진행하게 된다. 하지만,  이 평가의 한계점은 1) 구체적으로 학교의 질을 평가할 수 없기에 proxy를 사용해야한다는 점 2) proxy를 사용하기 때문에 학교가 평가사항을 제출할 때 허위정보나 조작할 가능성을 무시할 수 없다는 점 3) 학생들이 평가를 위한 수단으로 전락한다는 점 4) 상위권 학교는 계속 상위권에 머무를 수 밖에 없는 문제 Feedback Loop(되먹임효과)의 위험성을 지닌 점 등이 있다.


이 외에 또다른 문제는 (TCU)Texas Christian University의 사례를 통하여 드러난다. TCU는 대학 랭킹을 높이기 위하여 평가 지표에 해당하는 부분에만 적극적으로 투자를 진행했다. 또한, TCU 풋볼팀이 우승을하면서 Flutie Effect(스포츠팀이 대학의 인기도와 명성을 높여주는 효과)의 영향력이 크게 작용하여 학생들의 지원 수가 크게 상승하게 된다. 결국, TCU는 대학 평가 지표를 잘 활용한 결과 Texas 내 2위 랭킹에 등극하며 전략에 성공하게 된다. 저자는  이와 같은 TCU의 전략을 Arms race (군비확장경쟁)에 비유한다.



표면상 TCU 학교는 대학 랭킹을 높이는데 성공한 것으로 보여지지만, 그 이면의 결과들 또한 매우 많았다. 먼저, 평가에서 높은 점수를 획득하기 위하여 학교는 막대한 투자비용을 들여야만 했고, 그로 인해 학비는 치솟을 수 밖에 없었다. 또한, 입햑률을 낮춰야 평가에 유리해지기 때문에 지원한 학생 중 상당 수를 거절해야만 했다. 그러므로, 대학교는 경제적으로 풍요로우면서 성적이 높은 학생들만이 입학 가능한 곳으로 탈바꿈 되기 시작했다. 또한, 전반적으로 모든 대학교에 입학하는 것이 어려워지자 입시 시장은 왕성하게 커지기 시작했다. 대학교 입학을 위한 컨설팅 회사가 생겨났고, 사교육 열풍은 점점 더 과열되었다. 부모들은 이를 자녀의 보다 나은 미래에 대한 투자라 여겼으며, 학생들은 입학 시험에서 부정행위를 저지르는 사태에 이르기도 했다.


*학비로 인한 가계 부채 증가를 보여주는 그래프


여기서, 우리는 금융 시장과 유사한 점을 발견할 수 있다. 대학교 평가로 인하여 시작되었으나 수많은 이해관계와 파생상품이 등장하면서 문제의 범위는 계속해서 확장되었다. 무엇보다, 저자가 이 챕터에서 역시 주목하고 있는 것은 대학교 간의 과도한 경쟁이 만들어 낸  피해자들이다. 교육비를 감당하기 어려운 경제적 수준에 있는 가계들의 경우, 자녀를 교육시키기 위하여 빚을 져야 하거나 자녀의 교육을 포기해야만 한다. 다시 말해, 대학교 평가로 인해 발생한 Arms race는 수많은 사람들의 고통을 발생시키면서 이루어지고 있다. (WMD) 

Chapter 4. PROPAGANDA MACHINE (Online Advertising)

이번장에서 다루는 문제는 predatory advertisement 이다. 이는 사람들을 분석한 데이터를 기반으로 취약한 계층을 타겟으로 삼아 광고하는 것이다. 이 광고의 1차적인 문제는 취약한 사람들을 기업에서 어떻게 선별했는지, 그리고 사람들의 데이터는 어디서 수집하였는지에 대한 아무 정보도 공개되지 않는 다는 점이다.


그러나 이보다 더 심각한 문제는 University of Phoenix의 예시를 통하여 설명되고 있다. 

미국의 경우, 대학 학위를 소지하고 있는 사람과 그렇지 않은 사람의 소득 수준 차이는 매우 크다. 따라서 University of Phoenix는 학위를 소지 하고 있지 않은 하위계층을 타겟으로 광고를 하기 시작한다. 대학은 우선 구글과 페이스북 같은 온라인 상의 데이터를 기반으로 사람들의 데이터를 모으고, 그들의 pain point를 찾는다. 그리고, 타겟층을 설정하며 최선의 결과물을 도출 할 수 있는 계층부터 공략한다.


 *실제 University of Phoenix 광고 예시

그리고 위와 같은 광고를 통하여, 하위계층이 본 대학을 졸업하여 더 나은 미래를 꿈꾸고 더 나은 경제적인 상황에서 살아갈 수 있을 것처럼 말한다. 결과적으로, 매우 많은 숫자의 하위 계층은 광고에 현혹되어 학교에 등록하게 된다. 그러나, 여기서 문제는 실질적으로 학교를 졸업한 뒤에도 그들의 삶은 나아지지 않는다는 점이다. 먼저, University of Phoenix의 학위는 사회적으로 높게 평가되지 않으며, 졸업 후 개인이 구직 활동을함에 있어서 별 다른 차도를 가져오지 못한다. 또한, 학비가 매우 비싸기 때문에 대부분의 사람들이 대출을 이용할 수 밖에 없으므로 개인의 빚은 결과적으로 더 늘 수 밖에 없다. 정리하자면, predatory adevertisement는 빅데이터를 기반으로 취약한 계층을 공격하고 그들의 절실함을 이용한다. 그러나 광고의 효과는 또 다시 사람들이 그들의 취약점에서 더 헤어나올 수 없도록 작용하고 있다. 이 역시 빅데이터와 수리적 모델이 사회적 불평등을 고착시키고, minority를 Feedback Loop에 빠뜨리고 있는 것이라 볼 수 있다. (WMD)


하지만, 이런 광고 기법은 기술의 발달과 함께 계속해서 발전하고 있다. Machine Learning 기술과 A/B testing(메일을 보낸 뒤, 메일을 열어보았는지 여부를 가지고 타겟층 설정), 그리고 아이폰에서 사용되고 있는 'siri'서비스 등은 모두 언어를 기반으로 하는 기술들이다. 즉, 사람들이 어떤 부분에서 취약한 점을 지니고 있는지 파악하는 것이 훨씬 더 용이해 졌다. 뿐만 아니라, Lead Generation이라는 광고창을 통해 개인이 정보를 입력하게 하는 방법을 통해 개인 정보는 더욱 손쉽게 수집 가능해졌다. 따라서, predatory advertisement는 앞으로도 더욱 더 맣은 피해자를 만들어 낼 가능성이 매우 높음을 저자는 계속해서 지적한다.


Chapter 5. CIVILIAN CAUSALTIES (Justice in the age of Big data)

미국 펜실베니아의 경제가 침체기를 맞으면서, 경찰의 수를 대폭 줄이는 방안이 세워졌다. 따라서, 이전보다 적은 수로 치안을 유지해야하기 때문에 PredPol이라는 모델을 사용하게 된다. 이 모델은 개인들을 기반으로 하는 것이 아니라 지역을 기반으로 어떤 유형의 범죄가 어떤 지역에서 가장 많이 일어나는지를 분석해주기 때문에 Recidivism model과 같은 인종차별 문제 등으로부터 자유로울 수 있을 것이라 기대되었다. 그러나, 문제는 이미 지역 자체가 사회,경제적으로 분화되어 있다는 점에서 기인한다. 즉, 흑인들이 모여사는 동네는 이전부터 이미 경찰에 의해 차별적 감시를 받아왔기 때문에, PredPol이 기존 데이터를 분석한 결과, 또 다시 흑인이 밀집한 동네가 위험성이 높은 지역으로 선정될 수 밖에 없었던 것이다.


비슷한 맥락에서, 미국은 'Broken window policing'과 'Zero tolerance Campaign'을 시행하게 된다. 두 정책이 전제하고 있는 것은 범죄가 일어날만한 환경이 조성되어 있으면, 더 많은 범죄가 일어날 것이라는 가정이다. 따라서, 중범죄를 예방하기 위해서는 거리를 깨끗히 해야하며, 경범죄 체포율을 증가시켜야 한다는 결론을 짓게 된다. 그리고 의도했던 대로 중범죄율을 낮추는데 성공하게 된다.

*파란색: 중범죄 체포율 / 빨간색: 경범죄 체포율

그러나, 성공한 듯 보이는 이 정책 역시 사실은 많은 문제점을 가져오게 된다. 이 정책에서 문제삼고 있는 범죄들은 모두 폭력을 동반한 것에 국한되어 있으며, 결국 경범죄 체포의 대상은 81%가량이 흑인과 히스패닉 인종이였다. 또한 체포된 경범죄 범행자들의 대부분은 가난한 사람들이 였다. 즉, 사회적으로, 경제적으로 상위층에 속한 사람들은 이 범죄 정책의 타겟으로 설정되지 않는다. 예를 들면, 금융위기의 경우 수많은 피해자를 발생시켰으나, 아무도 처벌 대상에 속하지는 않았다는 점을 떠올려 볼 수 있다. 그러므로, 더 나은 Policing을 위하여 수리적 모델을 이용하였으나, 이는 인종을 차별하고 가난을 범죄화시키는 악순환의 고리로 밖에는 작용하지 않았다.


또 다른 예시로, 미국 범죄 정책으로 'Stop and Frisk'가 언급된다. 이것은 경찰이 길거리에서도 의심스러운 사람의 몸수색을 가능하게 만드는 제도이다. 저자가 속한 Hackathon은 이 제도가 얼마나 효율적으로 실행되고 있는지 조사한다. 그러나, 그 결과 100만이 넘는 경찰의 몸수색은 6명 가량의 범죄자를 찾아내었다.

그렇다면, 우리는 단 몇건의 범죄를 예방하기 위하여 수만명의 사람들의 몸수색을 정당화할 수 있을까? 또한, 의심스러운 사람으로 지목되는 타겟은 대부분이 흑인이라는 점에서 인종차별의 문제는 여기서 또 다시 발생될 수 밖에 없다.


다시금 recidivism model과 미국 치안에 사용된 모델을 되짚어 보면, 이런 의문이 들 수 있다.

정말 전과자들의 재범행 비율은 높을까? 흑인이 백인보다 범죄율이 더 높을까? 정말로 화이트 칼라 계층의 사람들은 범죄를 저지를 가능성이 매우 낮을까?

정답은 밝혀지지 않았다. 하지만 우리는 확인되지 않은 질문에 대하여 당연시 여기며, 모델을 설정함에 있어 확인되지 않은 사실에 전제를 두고 있다. 이것이 저자가 지적하고 있는 또 하나의 문제점이다.


그럼에도 불구하고, 우리는 stop and frisk의 타겟이 될 가능성이 점점 커지고 있음에 주목해야한다. CCTV가 발달하고, 안면인식 기술이 등장하면서 의심스러운 개인들을 조사할 수 있는 방법은 점점 더 다양해지고 있다. 하지만 그 과정 역시 모두 불투명하게 이루어질 가능성이 매우 크며, 개인들이 감시사회에 살아갈 때 발생할 윤리적인 문제들에 대한 해결책 또한 제시되어 있는 것이 없다. 다시 말해, 확인되지 않은 질문들은 또 다시 당연한 가정으로 전제될 것이고 그로 인한 이차적인 피해는 모두 다수의 대중의 몫으로 돌아갈 것이다.

Questions and Discussion

다음은 수업에 참여해주신 분들의 질문을 정리한 것들이다.

1. 이것이 정말 Big Data만의 문제인가?

- 많은 분들께서 저자는 이 모든 문제의 원인을 빅데이터의 문제로 소급시켜버리고 있음을 지적해주셨다. 때문에, 이 책 자체에 크게 공감하지 못하겠다는 의견도 상당수 있었다. 이분들의 의견을 빌리자면, 이는 빅데이터와 수리적 모델의 문제가 아니라 이를 악용하고 있는 사람 자체가 비윤리적이라는 지적이 가장 컸다.


2. 명성은 어디까지 확보되어야 하는가?

- 그렇다면 데이터와 알고리즘에 대한 투명성은 어느 수준까지 제고되어야 하는지에 대한 토론도 이어졌다. 모든 것이 오픈 데이터로 전환된다면, 대중들 역시 본인이 어느 부분에서 피해의 대상이되고 있는지 파악이 가능해질 수도 있다는 의견이 제시되었다.


3. 문제를 너무 구분 없이 서술하고 있는 것은 아닌가?

- 매 챕터마다 다른 사례를 들고 있으나 결국 하나의 문제처럼 뭉뜨그려 이야기하는 저자의 기술방식에 꽤나 많은 분들이 만족스러워 하지 않으셨다. 보다 문제를 구체적으로, 특징별로 나누어 서술한다면, 독자의 문제의식이 좀 더 크게 자리잡을 수 있지 않았을까라는 의견이 있었다.


4. Chapter 3 에서 제시된 대학간의 Arms Race 문제

-입시경쟁과 사교육 열풍의 문제를 대학교 평가 제도에서 찾는 것은 다소 무리가 아닌가라는 지적이 있었다. 이는 오히려 사회적으로 교육에 대한 큰 기대 등으로 인하여 발생한 문제라는 의견이 주장되었다.

또한, 이에 대한 해결책을 제시해주신 분도 계셨다. 전체 대학교가 함께 평가 제도에 대하여 거부권을 행사하거나 혹은 학교마다 개별적인 평가 항목을 적용시키는 방법을 검토해볼 수 있을 것이라는 의견이 뒤따랐다. 그러나, 전 세계적으로 이미 대학 평가 제도가 너무 큰 영향력을 행사하고 있으며, 실현되기 어렵다는 것이 현 실정이라는 점 또한 함께 논의되었다.


5) Chapter 5에서 범죄 모델을 화이트칼라를 타겟으로 알고리즘을 만들어 낼 수 있을까?

-화이트 칼라가 범하는 범죄 유형에 weight를 주는 알고리즘에 대하여 상상해보았고, 충분히 가능한 모델이다. 그러나, 사회적으로 상위계층을 처벌하는 것이 결코 쉬운일이 아님은 모두가 다 알고 있다. 따라서, 쉽게 실현되기는 어려운 모델이라는 점은 사실이다.


6) 데이터 축적 자체에 문제가 있는 것은 아닌가?

-알고리즘 자체가 아니라 데이터 축적 자체의 문제일 가능성도 매우 크다라는 시각도 있었다. 모델을 설계하는 것이 문제가 아니라, 이미 biased된 데이터를 기반으로 하고 있다는 것이 오히려 더 큰 문제는 아닐까 라는 의견이 제시되었다.


7) 그렇다면, 우리에게 대안은 있는가?

-가장 많이 제시되었던 질문은 바로 해결책 혹은 대안책이다. 사실, 우리에게 대안책은 아직 없다. 빅데이터 시대가 점점 더 가속화될 것은 매우 분명하며, 수리적 모델을 거부하는 것은 이미 불가능한 현실이다. 다만, 이 책을 읽은 많은 독자들이 이러한 현실엗 대하여 최소한의 문제의식과, 경각심을 가지고 있는다면 보다 나은 방향으로 나아갈 수 있지 않을까라는 희망이 있다.

'Weapons of Math Destruction' (Part 1) 발제를 마치며

우리는 현재 한치의 의심도 없이 빅데이터 시대의 도래를 환영하고 있고, 알파고와 이세돌의 바둑경기를 세기의 대결이라 부르며 흥미로워하고 있다. 그러나, 알고리즘과 기계가 지배할 세상은 우리가 생각하는 것만큼 그리 간단하고 기분 좋은 일만은 아닐 것이다. 미국에서 집값이 폭등하며 누구나 집을 가질 수 있었을 당시, 그 누구도 금융 위기와 그로 인한 파장에 대하여 예측할 수 없었다. 마찬가지로 우리 역시 빅데이터 시대의 초기 단계에 놓여 있기 때문에, 그 이면에 숨겨진 위험과 문제에 대한 인식이 부족한 상태이다. 저자는 현 시점에서 우리가 반드시 짚고 넘어가야 하는 위험요소들에 대해 소개하고 경각심을 가져야할 필요성을 호소하고 있다.


무엇보다 우리는 빅데이터 시대가 가져올 편리한 미래가 소수자에게 미칠 잠재적 피해와 막대한 영향력에 대해 생각해보아야 한다. 빅데이터와 알고리즘에 대한 전문적 지식이 없을 가능성이 매우 큰 소수자들의 경우, 알고리즘을 바꾸거나 빅데이터 시대를 개혁할만한 힘을 가졌을리가 만무하다.

또한, 알고리즘을 만들어 내는 전문 지식인들은 결국 사회적으로 상위층에 속해있기 때문에, 이와 같은 알고리즘이 계속해서 만들어 질 수밖에 없는 것도 사실일 수 있다.

그렇기 때문에, 개인적으로 이 책이 일반 대중보다도 교육 받은자, 교육을 받고 있는 자들에게 더 큰 경고메세지로 작용해주기를 바라는 바다.


그리고 우리가 맞이하고 있는 빅데이터 시대가 기존의 불평등했던 사회 자체를 그대로 떠안고 가지 않도록 끊임없이 비판적인 시각도 함께 논의되어야 한다고 생각한다. 숫자와 알고리즘이 지배하는 세상이 오더라도, 우리는 수로 환원할 수 없는 인간의 가치와 존엄성을 잃지 않기 위한 노력을 계속해야함을 잊어서는 안된다.





   
2
Comments
1
2017-06-05 21:48:44

개인적으로는 최고의 발제 정리네요! 감사히 읽었습니다.

WR
1
2017-06-06 02:02:39

내용 보충 등 수정해서 올려두었습니다. 코멘트 감사합니다!!