[PD저널=오학준 SBS PD] 우연히 무인자동차와 관련한 기사 하나를 읽게 됐다. 최근 MIT 대학 미디어연구소가 실시한 설문조사를 다루고 있었다. 마이클 샌델의 <정의란 무엇인가>에서도 소개되었던 유명한 실험인 트롤리 딜레마에 대한 설문조사였는데, 브레이크가 고장 나서 충돌 사고가 발생한다고 가정하고, 누군가의 죽음이 불가피할 때, 당신이 운전자라면 어떤 선택을 할 것이냐고 묻고 그에 대한 답을 정리한 것이었다.
설문의 목적은 앞으로 개발될 무인자동차가 비슷한 상황에 처했을 때, 어떤 선택을 해야 하는지를 미리 알아보기 위함이었다. 조사에 참여한 230여 만 명의 대답은 흥미로웠다. 모든 상황을 아우를 수 있는 공통적인 기준은 만들기 어려웠다. 인종, 성별, 계급, 문화, 지역에 따라 그 답이 갈렸다. 누가 죽고 누가 살아야 하는지를 결정하는 건 공정함에 대한 감각과 무관치 않을 텐데, 이 기사는 그 감각에 보편적 기준을 만들기가 얼마나 어려운지를 보여줬다.
우리는 사람의 판단보다 기계의 판단, 혹은 수학적 모형에 근거한 판단이 좀 더 공정할 것이라는 막연한 기대가 있다. 이는 그동안 역사 속에서 얼마나 많은 사람들이 같은 사람으로부터 얼마나 부당하게 차별받아왔는지를 떠올리면 꽤나 합리적인 기대다. 하지만 이 설문조사의 결과는 그 기대를 의심하게 만든다. 막상 더 공정할 것이라고 믿었던 기계의 판단이, 사실은 그것을 만든 사람들의 편견이나 선호를 코드화한 것일 수도 있기 때문이다.
캐시 오닐의 <대량살상 수학무기>도 그 합리적 기대를 배신하는 수학적 모형들을 이야기의 대상으로 삼고 있다. 우리가 주변 사람들과 사회를 판단하는 데 쓰이는 복잡하고 정교한 수학적 모형들이, 사실은 그 모형을 만든 사람들의 편견과 이해관계로부터 자유롭지 않다는 점을 지적하는 것이 이 책의 골자다.
저자는 대량살상무기(Weapon of Mass Destruction)를 살짝 비튼 대량살상 수학무기(Weapon of Math Destruction)라는 이름을 이 수학적 모형들에 수여한다. 그리고 여기에는 3가지 특징이 있다고 지적한다.
하나는 수학적 모형이 어떤 정보를 다루고 있는지 알기 어렵다는 것(불투명성), 다른 하나는 그것이 불러올 피해의 범위가 예측 불가능하다는 것(피해), 마지막으로 내가 알지 못하는 사이 나의 삶의 다른 영역들로 그 판단들이 확장될 수 있다는 점(확장성)이다.
이 특징을 가진 모형들을 수많은 사람들을 구렁텅이로 내몬다. 수량화되기 힘든 정보들을 정량화하기 위해 이 수학적 모형들은 이를 대신할 ‘대리 데이터’를 참조하는데, 이 대리 데이터들은 사실 그간 저질러 온 인간의 편견을 그대로 포함하고 있거나, 그 편견을 확증 편향할 수 있는 방향으로 쉽게 전용이 가능하기 때문이다. 게다가 그것을 수정할 수 있는 권한은 피해자들에게 전혀 주어지지 않는다. 그리하여 저자는, 우리가 일상에서 제공하는 다양한 정보들이 역으로 우리를 가난과 분열, 그리고 편견 속에 가두고 있을지도 모른다고 지적한다.
책에서 지적하고 있는 바처럼, 다수의 흑인이 거주하고 있는 지역을 우범지역이라 이름붙이고, 그 우범지역에 순찰을 강화하겠다는 정책을 떠올려보자. 그 경우 경찰이 보지 않았다면 그저 지나쳤을 경범죄들 때문에 범죄율이 오르고, 수감생활을 한 범죄자들은 일상의 기반이 파괴되며 재범을 저지를 확률이 증가한다. 그리고 우범지역은 빅데이터 상으로도 명실상부한 우범지역이 된다.
저자는 이것이 사실은 19세기 ‘골상학’과 무엇이 다른지를 묻는다. 과학이나 수학의 이름으로 차별을 정당화하고 싶었던 우생학자들의 생각과, 지금 빅데이터를 통해 차별을 코드화하고 있는 사람들의 생각이 얼마나 다를까. “흑인은 범죄를 잘 저지른다”는 편견들처럼 믿고 싶은 것을 마음 놓고 믿기 위해 ‘공정함’을 대표하는 과학의 이름이 필요했던 것은 아닐까.
그가 이렇게 말할 수 있는 것은 그의 인생이 롤러코스터처럼 급변했기 때문일 것이다. 하버드 출신의 수학자인 그는 세계 최고의 헤지펀드에서 퀀트로 일했지만 2008년 금융 위기 이후 헤지펀드 회사들이 얼마나 자신들의 수학 모델에 대해 무지하며, 동시에 사람들에 대한 무지한 가정 위에서 잔치를 벌여왔는지를 깨달은 후 월스트리트를 떠났다. 그리고 이 책을 썼다. 말하자면 이 책은 자신의 삶에 대한 성찰인 셈이다.
그 덕에 이 책은 다양한 사례들로 넘쳐난다. 인종차별, 빈부격차, 지역차별과 같은 인간의 편견과 차별의식이 어떻게 코드화되고, 어떻게 정당화되는지를 보여주는 것만으로도 지면이 부족할 정도다. 동시에 우리가 부지불식간에 믿고 있었던 다양한 수학적 모형들과 그 모형으로 도출해 낸 결과들이 사실은 ‘말하지 않는 방식으로 말하는’ 차별, 차별의 과학일지도 모른다는 섬뜩함을 느끼게 만든다.
저자는 이 차별의 과학이 우리 삶을 완전히 지배하기 전에, 이 WMD라 불리는 수학적 모형들로부터 우리를 보호할 방법들을 고민한다. 그래서 이 수학적 모형들이 정교함을 조금 희생하더라도 공정함에 좀 더 집중하도록 규제를 강화하고, 그 모형들이 구체적으로 어떻게 구성되고 수행되는지를 가능한 한 많은 사람들에게 공개하기를 요구한다.
이 책은 기술의 발전에 어떤 방식으로든 민주적 통제가 필요하다는 결론으로 귀결된다. 기술은 그 자체로 중립적인 것이 아니라 언제나 그것을 만들어 낸 사람들의 의도가 깃들어있고, 그 기술의 영향을 받고 삶을 살아가야 하는 사람들은 그 의도를 확인하고 수정할 권리가 있다는 것이다. 이 ‘수학적 모형’이 진정으로 공정해지기 위해서는, 그 모형을 통제할 권리가 대상이 되는 사람들의 수중에 있어야 한다는 주장은 한 번 곱씹어볼만하다. 그의 말마따나 “오직 인간만이 시스템에 공정성을 주입할 수 있다.”
다만 아쉬운 것이 있다면, 실제로 어떻게 우리가 기술을 민주적으로 통제해야 하는지 사례를 통해 확인하는 게 어렵다는 점이다. 기업이 아니라, 민주적으로 선출된 정부가 운영하면 그것은 기술을 ‘민주적’으로 통제하는 것일까. 아니면 그저 빅브라더의 다른 이름일 뿐일까. 이 책에선 여전히 그 민주적 통제의 ‘주체’는 누구인지, 그리고 그 방법은 무엇인지에 대해서는 열려있다. 물론 언제나 그렇듯이, 이건 독자들이 해야 할 일들이다.