AI가 인간을 세뇌한다?…알고리즘의 공습 [여기는 논설실]

우리의 일상으로 스며든 영상 추천 알고리즘
부지불식간에 확증편향과 필터버블 형성
“다양한 미디어 섭취가 민주사회의 양분”

구글의 알파고(AlphaGo)가 바둑 천제 이세돌 9단을 일방적으로 누르는 순간, AI(인공지능)는 인류에게 기대와 동시에 위협의 대상으로 다가왔다. AI가 마치 사람처럼 스스로 생각하고 행동하는 ‘초거대(hyper-scale) AI’로 진화를 거듭하면서 이를 바라보는 인류의 엇갈린 정서도 함께 자라고 있다. 영국의 저명한 천체물리학자인 스티븐 호킹 박사는 타계하기 전 ‘2015 자이트가이스트 런던 컨퍼런스’에 참석해 100년 안에 로봇이 인간을 지배할 것”이라고 내다봤다. 그는 “AI의 창조는 인류 역사의 가장 큰 일이지만 불행히도 인간의 마지막이 될 것”이라고 경고하기도 했다.

인간의 지능을 초월한 초거대 AI의 위협은 아직 상상단계에 불과하다. 대부분 전문가들은 AI가 인류를 지배하는 일은 없을 것이라고 단언한다. AI를 만드는 것도 인간이라는 이유에서다. 하지만 AI가 우리의 삶 속에 깊숙이 들어와 부지불식간에 인식과 사고를 제어하는 것은 이미 현실을 넘어 일상이 됐다. 유튜브나 틱톡, 넷플릭스의 영상 추천 알고리즘이 대표적이다.

◆ ‘필터버블’에 갇힌 이용자

전세계 유튜브 이용자 수는 월 평균 19억 명, 유튜브 사용 시간은 매일 10억 시간을 넘는다. 이용자 대부분은 유튜브가 짜놓은 알고리즘에 따라 콘텐츠를 소비한다. 틱톡, 넷플릭스 등 대부분 온라인 콘텐츠 플랫폼도 마찬가지다.

유튜브 알고리즘의 기본은 콘텐츠 기반 필터링과 협업 필터링으로 알려져 있다. 기존 이용자가 시청한 콘텐츠를 분석해 비슷한 특성을 지닌 콘텐츠를 계속 추천하는 기술이 콘텐츠 기반 필터링이다. 협업 필터링은 대규모의 사용자 행동 정보를 분석해 비슷한 성향의 사용자들이 선호하는 항목을 추천하는 기술이다. 이에 더해 스스로 진화하는 머신러닝 추천 기술도 적용하고 있다는 게 전문가들 설명이다. 이같은 알고리즘은 갈수록 복잡다단한 시스템으로 진화를 거듭하며 이용자들의 일상에 스며들고 있다. 우리는 종종 머릿속에 잊고 있던 동영상이 추천 콘텐츠로 갑자기 튀어나오는 장면에서 혹시 알고리즘이 나보다 나를 더 잘 알고 있는 게 아닌가 하는 의구심도 갖게 된다.

유튜브 같은 콘텐츠 플랫폼의 알고리즘 목표는 이용자들에게 개인 취향에 맞는 콘텐츠를 지속적으로 공급해 오랜 시간 플랫폼에 머물며 콘텐츠를 소비하도록 만드는 데 있다. 이처럼 개인 취향에 맞춘 콘텐츠를 지속적으로 제공하다보니 이용자들은 갈수록 확증편향과 선택지원 편향에 포획된다. 이들이 제공하는 대로 이용자들은 믿고 싶은 것을 믿고, 확신을 강화하게 된다. 이 대목에서 이용자의 관심사에 맞춰 필터링된 인터넷 정보로 인해 편향된 정보에 갇히는 소위 ‘필터 버블’ 문제가 대두된다. 필터 버블은 인터넷 정보기술(IT) 업체가 개인 성향에 맞춘 필터링한 정보만을 제공해 비슷한 성향 이용자를 한 버블 안에 가두는 현상을 말한다.

이들 플랫폼이 진실의 담론이 경합하는 장이 아니라 자신이 믿고 싶은 대로 정보를 선택적으로 받아들이도록 돕는 수단 역할을 한다는 우려가 커지고 있다. 추천 알고리즘을 활용해 ‘가짜 정보’를 확산하는 세력들이 늘어나는 것도 걱정의 수위를 높이는 이유다. “알고리즘을 지배하면 인간의 사고까지 지배할 수 있다”는 경고가 나오는 것도 무리는 아니다. 이 같은 정보의 편식과 확증편향은 민주주의에 잠재적인 위협으로 다가오고 있다.

◆ 민주주의를 위협하는 사고의 편식

유튜브나 틱톡 등에 대한 뉴스 의존도가 높아지면서 기존 전통적인 미디어는 뒤로 밀린 채 객관성이 미흡한 개인 언론들이 정치 사회 채널의 주류로 떠오르고 있다. 이를 미디어 민주주의의 발전으로만 보기 어려운 건 이들이 제공하는 뉴스와 논점의 한계와 편향성 때문이다. 이런 한계는 영상 추천 알고리즘을 통해 특정 정치 성향이 있는 사람에게 지속적으로 해당 정치 성향에 우호적인 뉴스와 자극적인 제목들을 반복적으로 주입시키는 방식으로 부작용을 확대 재생산한다. 확증 편향된 정보의 무한반복과 확산은 다양성을 기반으로 한 민주의의를 훼손한다. 편식이 몸을 해치는 것과 마찬가지다.

이들 온라인 플랫폼들이 어떤 알고리즘을 사용하는지는 정확히 알려진 바 없다. 그들만의 영업 기밀에 해당한다는 이유에서다. 이들 알고리즘의 위협이 대부되면서 통신 사업자나 서비스 제공자에게 모니터링 의무를 부여하는 법안들도 줄을 잇고 있다. 하지만 이런 종류의 규제로 미디어 기술 발전에 재갈을 물릴 수는 없다. 미디어 기술은 사회·경제·기술적 진화와 맞물린 역동적 사회 발전 과정이기 때문이다. 편식이 몸에 나쁘다고 편식금지법을 만들 수 없는 것처럼 미디어의 부작용이 두려워 알고리즘 금지법을 만들 수는 없는 일이다.

커뮤니케이션 이론에는 ‘미디어 결정론’이라는 게 있다. 어떤 미디어를 이용하느냐에 따라 커뮤니케이션 양식과 사회적 관계망 형성이 달라진다는 이론이다. 청소년을 비롯한 국민 개개인에게 다양한 미디어를 접촉하고 이용토록 유도해 정치사회적 문제 인식에 대한 균형감을 길러주는 게 민주사회 발전의 중요한 문제로 떠오르고 있다. 국민들이 청소년시절부터 특정 미디어에 함몰토록 방치하기 보다는 다양한 미디어 섭취를 할 수 있도록 정부와 사회가 지원과 노력에 나서야 하는 이유다.

유병연 논설위원 yooby@hankyung.com