실리콘밸리의 스타트업 기업들은 이제 새로운 구글이나 아마존이 되는 게 목표가 아니다. 그들의 목표는 구글에 얼마에 팔릴 것인가이다. 새로운 기술을 가진 신생업체가 구글을 대체할 가능성보다는 구글에 먹힐 가능성이 훨씬, 아주 훨씬 더 높았다. 창고에서 PC 한 대를 앞에 둔 천재의 성공 이야기는 더 이상 현실이 되지 못한다. 왜 그럴까?
'블랙박스 사회: 당신의 모든 것이 수집되고 있다"의 저자는 “불가사의한 방식으로 작동하는 시스템”, 즉 블랙박스 시스템 때문이라고 말한다. 이는 “인풋과 아웃풋은 확인할 수 있어도 인풋이 어떻게 아웃풋으로 바뀌는지는 알 수 없는 시스템”이라고 한다. 또한 “우리는 매일같이 이러한 블랙박스에 직면하고 있으며, 기업과 정부로부터 갈수록 더 면밀히 추적당하면서도, 그와 같은 정보가 얼마나 광범위하게 유통되고 활용되는지, 그리고 그 결과가 어떠한지는 명확히 알지 못한다”고 한다.
그리고 이러한 블랙박스 시스템이 우리 삶에서 가장 중대한 영향을 미치는 분야로 평판, 검색, 금융을 언급하면서, 블랙박스에 갇힌 이들 알고리즘을 알지 못하면 지금의 세계를 정확히 알 수 없을 뿐만 아니라 투명한 사회, 알기 쉬운 사회로 나아갈 수 없다고 한다.
만약 어떤 서비스가 잠재적인 인수 대상이라면, 구글은 그 사이트의 트래픽을 억제해야 할 또 다른 이해관계가 생기는 셈이다. 독자적으로 사업을 일으키려는 희망을 애초에 꺾어버리기 위해서다. 아기 모세를 죽이려 했던 파라오처럼, 구글도 경쟁사에 싸워볼 기회조차 용납하지 않는다. 구글은 자신들의 잠재적 고객 집단에 대한 인수 타깃 기업의 접근을 원천적으로 봉쇄하여, 그 기업이 인수 제안을 뿌리칠 수 없게 만들었다. 구글이 공개되지 않기를 바라는 콘텐츠를 숨기는 것쯤은 이제 너무도 쉬운 일이 되었다. 나아가 구글이 ‘일반 목적 검색’에서의 지배력을 바탕으로 다른 분야에까지 과도한 권한을 행사하는 게 아니냐는 의구심까지 제기되고 있다.
하지만 우리가 알지 못하는 블랙박스 사회의 내부는 훨씬 더 광범위하다. 그리고 그 민낯은 추악하고 탐욕적이다. 비밀스런 알고리즘을 통해 돈과 정보를 통제하고, 검색 결과의 순위를 정하고(때론 악의적으로 왜곡하고), 빅데이터라는 이름으로 우리의 마음을 조작한다. 또한 불법행위를 위한 난독화와 복잡성으로 인한 불투명성에 숨은 금융업계 내부자들은 투자자와 납세자가 인지하지 못하는 방식으로 그들에게 위험을 전가하는 계약을 체결하면서 자신들 몫으로 막대한 수수료와 보너스를 챙겼다.
뿐만 아니라 대출자들은 신용 등급이 떨어지면 수십만 달러의 이자를 더 물어야하지만, 정작 자신의 신용 등급이 어떻게 산정되는지는 제대로 알지 못한다. 그것이 어떻게 유통되고 이용되는지도 알지 못한다.
이처럼 우리가 알지 못하는, 블랙박스 사회의 비밀 알고리즘에 의해 작동하는 사례는 많다.
- 커밍아웃을 하지 않은 동성애자가 동성 결혼 관련 기사에 긍정적인 댓글을 남기면, 자신이 무지개색 속옷으로 장식된 ‘커밍아웃 코치’ 광고의 타깃이 된다는 걸 알지 못한다.
정보가 돈과 권력을 가진 기업과 정부에 의해 통제되고 왜곡된다면 누구도 잠재적 테러리스트가 되는 것으로부터 자유로울 수 없다. 스노든의 폭로가 미국만의 일이 아니라는 것은 자명한 일이다. 국가가 평판 게임에 참여하게 되면 위험성은 훨씬 더 급격히 증가한다. 단순히 민간 기업이 의사 결정을 위해 체포 이력 같은 정부 기록을 이용한다는 말이 아니다. 경찰과 정보기관은 공공 데이터베이스와 민간 기록을 이용하여 자신들의 사회적 역할을 근본적으로 바꾸었다.
지난 6월 4일 〈테러방지법〉이 시행되었다. 이 법을 발의한 새누리당 의원은 “정보기관은 누구한테 달려 있느냐, 사용자한테 달려 있습니다. 사용자가 무엇을 요구하느냐에 따라서 달라지는 게 정보기관인데, 지금 사용자는 대통령입니다”라는 말을 서슴없이 하고 있었다. 이제 누구라도 〈의심할 만한 상당한 이유가 있는 자〉가 되어 신상이 모두 털릴 수밖에 없는 세상이 된 것이다. 당연한 말이지만, 당사자는 알지도 못한다. 미국에서는 한 여성이 회사 컴퓨터를 이용해 ‘압력솥’을 검색했고, 같은 시간에 그녀의 남편은 ‘백팩’을 검색했다(둘 다 2013년 보스턴마라톤 테러 사건에서 사용된 테러 물품이다). 결국 지역의 정부합동테러대책팀 대원 2명을 포함한 6명의 요원이 그녀의 집으로 출동했다.
사람들은 직장과 가정에서 점점 더 비밀주의로 일관하는 정부와 기업들로부터 영향을 받고, 혹자의 말로는 괴롭힘을 당하고 있었다. 그들은 잘못되거나 편향되거나 파괴적일 수도 있는 자동화된 판단에 의존했다. 평판·검색·금융의 블랙박스는 우리 모두를 위험으로 몰아갔다. 잘못된 데이터, 근거 없는 가정, 결함 있는 모델은 공개되지 않는 한 바로 잡을 수도 없다.
우리는 굳이 감춰진 평점이 한 사람의 운명을 좌우하거나 주식시장의 인위적 조작이 ‘보이지 않는 손’만큼이나 이해하기 힘든 세상에서 살아가야 할 이유가 없다. 또한 개인, 기업, 심지어 금융 시스템의 앞날이 비밀 데이터베이스, 미심쩍은 평점, 은밀한 베팅에 휘둘릴 것을 걱정하며 살아가야 할 이유도 없다. 지금껏 개인의 프라이버시를 송두리째 빼앗아온 기술적ㆍ법적 혁명은 한편으론 프라이버시를 보호하고 사회에 대한 이해와 자유를 확대하는 방향으로 이용될 수도 있다. 데이터마이닝Data Minning과 도처에 만연한 감시가 올바른 목표를 추구했다면, 경제를 파탄 낸 금융 위기와 극도로 비효율적인 자원 배분도 막을 수 있었을 것이다.
블랙박스는 언뜻 경탄스러워 보이지만, 우리의 블랙박스 사회는 위험을 초래할 만큼 불안정하고 불공정하며 비생산적이다. 어떤 퀀트(고도의 수학과 통계지식을 이용해서 투자법칙을 찾아내는 금융시장 분석가) 나 공학자도 건전한 경제나 안전한 사회를 보장하지는 못한다. 그것은 시민들이 담당해야 할 몫이고, 시민들은 위험을 이해할 수 있을 때에만 제 역할을 수행할 수 있다.