페북, 뉴질랜드 테러 동영상 1시간 방치 "인공지능이 식별 못해"

"노출·테러범 선전물과 달리 학습할 자료 충분치 않아"

뉴질랜드 이슬람사원(모스크) 테러를 실시간으로 중계한 동영상이 1시간 가까이 페이스북에 올라와 있었던 것으로 나타났다고 미국 일간 월스트리트저널(WSJ)이 21일(현지시간) 보도했다.

테러 용의자인 브렌턴 태런트는 헬멧에 부착한 카메라를 이용해 자신의 테러 범행을 실시간으로 중계했는데 처음 중계가 시작될 때부터 페이스북이 이를 삭제할 때까지 약 1시간이 걸렸다는 것이다.

WSJ에 따르면 당시 테러 장면 생중계는 현지시간으로 오후 1시 33분께 시작해 17분 뒤인 오후 1시 50분께 끝났다.

그로부터 12분 뒤 한 페이스북 이용자가 이 동영상이 문제가 있는 것으로 보고 신고했다.

그러나 동영상은 곧장 삭제되지 않았다.

모니터링 요원들이 이를 검토하고 조처를 할 때까지 대기에 걸려 있었던 것으로 보인다.

그러는 사이 뉴질랜드 경찰의 소셜미디어팀이 오후 2시 29분께 페이스북에 문제의 동영상을 통지했다.

테러 동영상은 그로부터 몇 분 뒤 삭제됐다.

하지만 이미 4천 번 이상 조회되고 페이스북이나 다른 사이트에서 수백만 번 복제가 이뤄진 다음이었다.

WSJ은 "이런 지연은 폭력적 동영상이나 다른 혐오 콘텐츠를 중단하는 과정에서 거쳐야 하는 일련의 시스템상 공백들 때문에 발생한 것으로 보인다"고 지적했다.



페이스북은 해로운 콘텐츠 차단을 위해 도입한 인공지능이 이번 테러 동영상확산 과정에서 사실상 무용지물이었다고 시인했다.

생중계 당시는 물론, 그 이후에도 문제의 동영상을 탐지하지 못했다.

가이 로젠 페이스북 부사장은 "알몸 노출이나 테러리스트의 선전물처럼 인공지능을 훈련시킬 충분한 사례가 있는 경우에는 인공지능이 잘 작동해왔다"며 "하지만 이슬람사원 대학살 같은 콘텐츠는 인공지능이 학습할 만큼 양이 충분하지 않다"고 말했다.

페이스북은 지난해 수니파 급진주의 무장조직 이슬람국가(IS)나 알카에다와 연관된 거의 모든 콘텐츠를 식별해 제거했다고 자랑했다.

하지만 다른 종류의 극단주의 콘텐츠를 적발하는 데서는 그만한 성과를 못 냈고, 이번 이슬람사원 총기 테러에서는 사실상 무방비로 뚫렸다.

해니 퍼리드 다트머스 칼리지 컴퓨터과학 교수는 "문제는 안전장치가 전혀 없다는 것"이라며 사용자의 신고 뒤에도 동영상 삭제 때까지 지체됐다는 사실은 페이스북의 규모에 견줘 콘텐츠 감시팀 인력이 충분하지 못하다는 징후라고 말했다.

스콧 모리슨 호주 총리는 "라이브 동영상 같은 서비스를 제대로 통제하지 못한다면 페이스북이 이런 서비스를 하도록 허용해도 되느냐"라고 물었다.

페이스북은 문제의 동영상을 감지하기 위한 기술을 개선해 나가겠다고 밝혔다.

/연합뉴스