영화 1984 한 장면.
영화 1984 한 장면.
조슈아 브로더는 미국 스탠퍼드대 1학년이던 2015년 두낫페이(DoNotPay)란 회사를 세웠다. 주차 위반 딱지에 이의를 제기하도록 도와주는 챗봇 법률 서비스였다. 2016년 6월 누적 이의 제기 건수가 16만 건을 넘었다. 회사는 이용자들이 절약한 돈이 400만달러가 넘는다고 홍보했다. 그는 즉각 스타트업계의 스타가 됐다. 실리콘밸리에서 가장 유명한 벤처캐피털(VC)인 앤드리슨호로비츠에서 투자도 받았다.

[책마을] 빅브러더 된 빅테크, 빛바랜 '실리콘밸리 정신'
《시스템 에러》는 브로더가 현재 실리콘밸리에서 벌어지는 변화를 잘 보여준다고 진단한다. 과거 실리콘밸리를 지배한 정신은 자유와 공유, 인류의 번영이었다. 그래서 ‘애플1’ 컴퓨터를 만든 스티브 워즈니악은 이를 그냥 나눠주려 했고, 월드와이드웹(www)을 고안한 팀 버너스 리는 특허도 내지 않고 무료로 풀어버렸다.

하지만 지금은 무한 성장과 돈벌이에 대한 집착이 실리콘밸리를 휘감고 있다고 저자는 지적한다. 이런 비판에 무게가 실리는 건 저자들이 실리콘밸리 한복판에 있는 스탠퍼드대 교수들이란 데 있다. 각각 철학, 컴퓨터과학, 정치학을 가르치는 세 명의 교수는 이 책에서 “기술의 미래를 엔지니어, 벤처투자가, 정치인들에게만 맡기면 안 된다”고 말한다.

‘세상은 엔지니어들의 손에 놓였다.’ 슈퍼 히어로 영화 속 과학자 악당을 생각나게 하는 이 말은 과장이 아니다. 기술 기업이 우리 생활의 모든 영역에 뛰어들면서 세상은 엔지니어들의 손에 놓이게 됐다. 쇼핑부터 음식 배달, 영화 관람까지 기술 기업의 손이 닿지 않는 영역이 없다. 공학적 사고방식에 익숙한 이들 기업은 모든 것을 ‘최적화’로 해결한다. 어떤 목표를 정해놓고 모든 수단을 동원해 가장 효율적인 방법으로 이를 달성하는 것이다.

예컨대 유튜브는 2016년까지 전체 동영상 시청 시간을 하루 10억 시간으로 끌어올리는 것이 목표였다. 이를 위해 모든 기술을 동원해 시청자들이 흥미를 가질 만한 동영상을 추천하고, 한 동영상이 끝난 뒤 비슷한 주제의 다음 동영상이 이어지도록 했다. 하루가 24시간에 불과한 시청자의 귀중한 시간을 아껴줘야겠다는 것은 애당초 고려 사항이 아니었다. 자극적이거나, 잘못된 정보를 담은 동영상이라도 이용자를 유튜브 플랫폼 안에 머물게 하면 됐다.

책은 실리콘밸리의 분위기를 바꾼 원흉 중 하나로 벤처캐피털을 지목한다. 한때 느긋하게 기다렸던 벤처캐피털들은 이제 투자 기업에 수단과 방법을 가리지 말고 얼른 성장하라고 재촉한다. 그래야 기업이 치열한 경쟁에서 이길 수 있고, 벤처캐피털도 투자금을 날리지 않기 때문이다.

손정의 소프트뱅크 회장이 사무실 공유업체 위워크에 투자하며 애덤 뉴먼 위워크 창업자에게 “당신은 충분히 미치지 않았다”고 말한 일화는 유명하다. 공격적으로 사업을 확장하던 위워크는 2019년 기업공개(IPO)를 앞두고 부실이 드러났고, 뉴먼은 회사에서 쫓겨났다. ‘일단 결과를 만들어내고 용서는 나중에 구하라’는 사고방식이 팽배한 상황에서 기술 기업들은 윤리나 법도 하찮게 생각하는 경향이 있다고 책은 지적한다.

기술 기업의 ‘빅브러더화(化)’는 현재진행 중이다. 어딜 가든 스마트폰을 들고 다니는 세상에서 기술 기업은 우리가 어디에 가는지, 무엇을 하는지, 무엇을 먹는지 등 모든 것을 다 알고 있다. 교육, 의료, 금융, 법률 등도 기술 기업에 잠식당하고 있다. 인공지능(AI)이 언젠가 판사를 대체할 것이란 전망이 나올 정도다.

저자들은 기술이 우리를 지배하기 전에 행동해야 한다고 강조한다. 일반 시민들이 빅테크 기업들의 공과(功過)를 정확히 아는 게 출발점이다. 무턱대고 기술 기업에 모든 것을 맡길 수 없다는 것을 인식해야 한다. 의료인들이 히포크라테스 선서를 하는 것처럼 엔지니어들이 자율적인 규범을 마련하는 것도 방법이다. ‘큰 힘에는 큰 책임이 따른다’는 것을 엔지니어들이 알아야 한다는 것이다. 개인정보보호법처럼 적절한 규제도 필요하다고 말한다.

너무 많은 이슈를 다루다 보니 내용과 분석이 피상적인 것은 이 책의 단점이다. ‘빅테크가 어디에서 잘못됐고, 우리가 시스템을 어떻게 리부트할 수 있나’를 다룬 책이지만 해법을 마지막 한 장(章)에서만 다룬다. 그 해법 또한 평이하다. 이 주제에 대한 입문서로 딱 맞는 책이다.

임근호 기자 eigen@hankyung.com