AI가 인간을 세뇌한다?…알고리즘의 공습 [여기는 논설실]
-
기사 스크랩
-
공유
-
댓글
-
클린뷰
-
프린트
우리의 일상으로 스며든 영상 추천 알고리즘
부지불식간에 확증편향과 필터버블 형성
“다양한 미디어 섭취가 민주사회의 양분”
부지불식간에 확증편향과 필터버블 형성
“다양한 미디어 섭취가 민주사회의 양분”
![AI가 인간을 세뇌한다?…알고리즘의 공습 [여기는 논설실]](https://img.hankyung.com/photo/202204/01.29671559.1.jpg)
인간의 지능을 초월한 초거대 AI의 위협은 아직 상상단계에 불과하다. 대부분 전문가들은 AI가 인류를 지배하는 일은 없을 것이라고 단언한다. AI를 만드는 것도 인간이라는 이유에서다. 하지만 AI가 우리의 삶 속에 깊숙이 들어와 부지불식간에 인식과 사고를 제어하는 것은 이미 현실을 넘어 일상이 됐다. 유튜브나 틱톡, 넷플릭스의 영상 추천 알고리즘이 대표적이다.
◆ ‘필터버블’에 갇힌 이용자
전세계 유튜브 이용자 수는 월 평균 19억 명, 유튜브 사용 시간은 매일 10억 시간을 넘는다. 이용자 대부분은 유튜브가 짜놓은 알고리즘에 따라 콘텐츠를 소비한다. 틱톡, 넷플릭스 등 대부분 온라인 콘텐츠 플랫폼도 마찬가지다.
유튜브 알고리즘의 기본은 콘텐츠 기반 필터링과 협업 필터링으로 알려져 있다. 기존 이용자가 시청한 콘텐츠를 분석해 비슷한 특성을 지닌 콘텐츠를 계속 추천하는 기술이 콘텐츠 기반 필터링이다. 협업 필터링은 대규모의 사용자 행동 정보를 분석해 비슷한 성향의 사용자들이 선호하는 항목을 추천하는 기술이다. 이에 더해 스스로 진화하는 머신러닝 추천 기술도 적용하고 있다는 게 전문가들 설명이다. 이같은 알고리즘은 갈수록 복잡다단한 시스템으로 진화를 거듭하며 이용자들의 일상에 스며들고 있다. 우리는 종종 머릿속에 잊고 있던 동영상이 추천 콘텐츠로 갑자기 튀어나오는 장면에서 혹시 알고리즘이 나보다 나를 더 잘 알고 있는 게 아닌가 하는 의구심도 갖게 된다.
유튜브 같은 콘텐츠 플랫폼의 알고리즘 목표는 이용자들에게 개인 취향에 맞는 콘텐츠를 지속적으로 공급해 오랜 시간 플랫폼에 머물며 콘텐츠를 소비하도록 만드는 데 있다. 이처럼 개인 취향에 맞춘 콘텐츠를 지속적으로 제공하다보니 이용자들은 갈수록 확증편향과 선택지원 편향에 포획된다. 이들이 제공하는 대로 이용자들은 믿고 싶은 것을 믿고, 확신을 강화하게 된다. 이 대목에서 이용자의 관심사에 맞춰 필터링된 인터넷 정보로 인해 편향된 정보에 갇히는 소위 ‘필터 버블’ 문제가 대두된다. 필터 버블은 인터넷 정보기술(IT) 업체가 개인 성향에 맞춘 필터링한 정보만을 제공해 비슷한 성향 이용자를 한 버블 안에 가두는 현상을 말한다.
◆ 민주주의를 위협하는 사고의 편식
유튜브나 틱톡 등에 대한 뉴스 의존도가 높아지면서 기존 전통적인 미디어는 뒤로 밀린 채 객관성이 미흡한 개인 언론들이 정치 사회 채널의 주류로 떠오르고 있다. 이를 미디어 민주주의의 발전으로만 보기 어려운 건 이들이 제공하는 뉴스와 논점의 한계와 편향성 때문이다. 이런 한계는 영상 추천 알고리즘을 통해 특정 정치 성향이 있는 사람에게 지속적으로 해당 정치 성향에 우호적인 뉴스와 자극적인 제목들을 반복적으로 주입시키는 방식으로 부작용을 확대 재생산한다. 확증 편향된 정보의 무한반복과 확산은 다양성을 기반으로 한 민주의의를 훼손한다. 편식이 몸을 해치는 것과 마찬가지다.
이들 온라인 플랫폼들이 어떤 알고리즘을 사용하는지는 정확히 알려진 바 없다. 그들만의 영업 기밀에 해당한다는 이유에서다. 이들 알고리즘의 위협이 대부되면서 통신 사업자나 서비스 제공자에게 모니터링 의무를 부여하는 법안들도 줄을 잇고 있다. 하지만 이런 종류의 규제로 미디어 기술 발전에 재갈을 물릴 수는 없다. 미디어 기술은 사회·경제·기술적 진화와 맞물린 역동적 사회 발전 과정이기 때문이다. 편식이 몸에 나쁘다고 편식금지법을 만들 수 없는 것처럼 미디어의 부작용이 두려워 알고리즘 금지법을 만들 수는 없는 일이다.
유병연 논설위원 yooby@hankyung.com