[책마을] 친절한 알고리즘의 배신

우리의 적들은 시스템을 알고 있다

마르타 페이라노 지음
최사라 옮김 / 시대의창
440쪽│1만9800원

인터넷 중독 부추기는 IT업계
'좋아요' '무한스크롤' 각종 수법 동원
취향 넘어 개인정보까지 탈탈 털어
'맞춤 광고'로 여론조작·감시 일삼아

시도 때도 없이 스마트폰 화면에 푹 빠져 사는가. 인터넷에 중독됐다고 느낀다면 그건 당신의 잘못만은 아니다. 사람들의 ‘관심’과 ‘시간’을 먹고사는 인터넷업계가 그런 방향으로 시스템을 설계했기 때문이다. 스페인 언론인이자 사회 운동가인 마르타 페이라노는 《우리의 적들은 시스템을 알고 있다》에서 인터넷의 실체를 까발린다. 개방과 자유, 통제되지 않은 미지의 땅이었던 인터넷이 어떻게 초대형 기술기업과 정부의 손안에서 돈벌이와 여론 조작, 감시의 수단으로 전락했는지 풍부한 사례와 역사를 엮어 맛깔나게 보여준다.

인공적인 맛과 향을 첨가해 매출을 끌어올리는 식품업계처럼, 창문과 시계를 없애 얼마나 오래 머물렀는지 알 수 없게 만든 라스베이거스 카지노처럼 인터넷업계는 온갖 방법을 동원해 사람들이 가능하면 오랫동안 인터넷 세계에 머물도록 유인한다. 도파민을 유발해 황홀감을 느끼게 하는 페이스북의 ‘좋아요’ 버튼, 메시지를 많이 주고받으면 오르는 스냅챗의 ‘점수’ 시스템, 화면을 내리고 내려도 계속해서 새로운 콘텐츠가 뜨는 ‘무한 스크롤’ 등이 그런 예다. 저자는 “(인터넷에서) 한계는 배터리와 사용자의 체력”이라며 “그래서 우리는 보조 배터리를 사고 잠을 자지 않는다”고 말한다.

여기에 광고가 개입한다. 광고는 인터넷산업의 ‘엔진’이다. 많은 인터넷 서비스가 광고로 운영된다. 사용자에게 돈을 받았다면 지금처럼 인터넷이 활성화되지 못했을 것이다. 광고는 또한 ‘숨은 비용’이다. 현재 인터넷 광고는 ‘제3자 쿠키’를 기반으로 작동한다. 쿠키는 사람들이 어떤 사이트에 접속하건 따라다닌다. 어떤 콘텐츠를 보고, 어떤 물건을 사는지 바라보고 기록한다. 맞춤형 광고를 제공해 사용자의 편의를 높인다는 취지다. 개인 식별은 하지 않으니 걱정하지 말라고 한다. 하지만 실상은 다르다. 데이터 브로커가 수집한 각종 개인정보와 쿠키를 결합하면 이름과 나이, 주소, 취향 등을 거의 정확하게 파악할 수 있다.

이는 사생활만의 문제는 아니다. 광고는 다시 인터넷 중독을 야기한다. “광고는 연막이자 변명이다. 그들의 사업은 사용자에게 제품을 판매하는 것이 아니라 관심에 굶주린 산업에 사용자를 제품으로써 판매하는 것이다. 비즈니스가 작동하려면 사용자들이 가능한 한 오랫동안 재미있게 페이지를 봐야 한다.” 당신이 누구인지 알고 있다면 어떤 사이트에 광고를 달든 큰 상관이 없다. 자극적인 뉴스, 자극적인 콘텐츠가 이렇게 탄생한다. 일단 들어오기만 하면 당신에게 맞는 광고를 보여줄 자신이 있다는 것이다.

책은 이 밖에 정부의 감시 강화, 광범위하게 퍼져나가는 가짜 뉴스 등 여러 주제를 다룬다. 알고리즘 시대의 도래도 그중 하나다. 인공지능(AI) 발전으로 인간 사회의 많은 의사결정이 점점 알고리즘에 맡겨지고 있다. 유죄 판결을 내릴 때, 직원을 채용할 때 이미 AI가 쓰인다. 문제는 AI가 마냥 객관적이지만은 않다는 점이다. AI는 어린아이와 같다. 아이가 자라면서 보고 들은 것을 내면화하는 것처럼 AI는 주어진 데이터에 기반해 판단을 내린다. 그 데이터가 편향되면 판단도 한쪽으로 치우칠 수밖에 없다. 2015년 아마존은 ‘여성’이란 단어가 들어간 이력서에 불이익을 주는 채용 알고리즘을 사용한 것이 드러나 논란을 겪었다. “알고리즘은 자신이 복무하는 시스템이 가진 암묵적 편향을 모방한다”는 게 저자의 지적이다.

다만 저자의 시각도 어떤 부분에선 편향적으로 보인다. 저자는 자유와 개방을 강조하는데, 그런 점에서 애플 창업자인 스티브 잡스를 ‘혁신가’가 아니라 ‘자본주의의 화신’으로 평가한다. 특히 2001년 아이팟을 내놓고 음악산업을 아이튠즈 스토어에 종속시킨 것을 비판적으로 본다. 하지만 애플 덕분에 붕괴 직전이던 음악산업이 살아날 수 있었던 점, 돈을 주고 음악을 듣는 저작권 개념이 정착된 점을 생각해보면 박한 평가로 보인다.

알고리즘에 대해서도 너무 문제만 부각하는 모습이다. 알고리즘이 완벽하진 않지만, 사람 역시 완벽하지 않다. 딸을 둔 판사는 여성에게 우호적인 판결을 내리고, 지역 스포츠팀이 경기에서 졌을 땐 보석 허가를 잘 안 해주는 경향이 있다는 연구 결과가 있다.

책이 여러 주제를 다루다 보니 다소 피상적인 면이 있다. 하지만 인터넷의 역사와 여러 논쟁을 잘 요약했다는 점에서 좋은 개략서다. 자기 자신도 잊은 채 인터넷 세상에 심취해 시간을 보내는 현대인들에게 경각심과 함께 생각할거리를 던져준다.

임근호 기자 eigen@hankyung.com