"데이터 편식하며 성장한 AI, 객관적 판단 기대하기엔 곤란…비판적 사고 가져야"

윤송이 엔씨소프트 사장 인터뷰
AI 카오스 막으려면

GPT-3 학습 데이터 93%가 영어
치우친 답변 내놓을 가능성 높아
AI가 내포한 '편견' 잡는 게 중요

AI, 완전무결한 존재 아닌 만큼
윤리에 어긋나는 일 알려줘야

윤송이 엔씨소프트 사장이 인공지능(AI) 윤리에 관해 설명하고 있다. /이솔 기자

오픈AI의 챗GPT는 출시 2개월 만에 월 이용자 1억 명을 돌파하며 세계적인 관심을 모았다. 인간처럼 스스로 무언가를 만들어내는 생성형 인공지능(AI)의 위력에 찬사가 쏟아졌다. 의심의 눈초리도 생겨났다. AI가 만든 가짜 사진에 증시가 출렁거리는 일이 벌어지면서 AI를 올바르게 개발하고 사용해야 한다는 목소리가 커졌다.

윤송이 엔씨소프트 사장(NC문화재단 이사장)은 AI 윤리의 중요성을 일찌감치 강조했다. 그는 2022년 공학, 철학, 윤리학, 사회학 등 다양한 분야의 석학 다섯 명과 나눈 대담을 엮은 <가장 인간적인 미래>를 출간하기도 했다.

○생성 AI에서 배제된 26억 명

최근 엔씨소프트 경기 성남시 판교 사옥에서 만난 윤 사장은 “생성 AI와 같은 파워풀한 기술을 사용하고, 발전시키고, 확산하는 과정에는 책임감이 따라야 한다”며 “이런 기술을 책임지고 관리하는 사람이 어떤 윤리적인 기준을 갖춰야 하는지에 대해선 아직 컨센서스가 없다”고 말했다.

그는 AI를 증기기관, 전기, 인터넷처럼 인류 역사의 변곡점을 만든 ‘범용 목적 기술(general purpose technology)’로 꼽았다. 2000년대 디지털 기술을 기반으로 구글, 메타, 넷플릭스 등 ‘디지털 네이티브’ 기업이 새롭게 떠오른 것처럼 ‘AI 네이티브’ 기업이 태동할 수 있는 변혁기가 왔다는 설명이다. 윤 사장은 “AI와 같은 소프트웨어는 앞선 기술과 달리 글로벌 플랫폼 위에서 서비스하기 때문에 영향력, 파괴력도 더 커질 수 있다”고 분석했다.

AI에 문제점은 없을까. 윤 사장은 데이터의 편향성을 지적했다. 현재 주목받는 초거대 AI는 방대한 데이터를 기반으로 한다. 이 데이터 대부분은 온라인에서 생성됐다. 오픈AI의 대규모언어모델(LLM) GPT-3는 학습 데이터의 93%가량이 영어인 것으로 알려졌다. 인터넷 공간의 데이터 대다수가 영어로 작성됐기 때문이다. 국제전기통신연합(ITU)에 따르면 전 세계 인구의 67%인 54억 명만이 인터넷을 사용한다. 유럽·미주 지역은 약 90%가 인터넷을 쓰는 데 비해 아프리카의 인터넷 접속률은 37%에 그쳤다. 윤 사장은 “많은 사람이 중요하게 생각하는 가치관을 반영하지 못하는 게 현실”이라고 지적했다.

○엔지니어부터 AI 윤리의식 갖춰야

파급력이 큰 기술일수록 책임이 뒤따른다. AI 윤리가 필요한 것도 이 같은 이유에서다. 윤리적인 AI를 개발하기 위해선 우리가 추구하는 AI가 무엇인지에 대한 고민이 선행돼야 한다는 게 윤 사장의 생각이다. 그는 “사회 구성원들이 더 많은 사람에게 기회가 열려있는 사회를 지향한다면 AI 역시 이런 가치를 추구해야 한다”고 강조했다.

이 같은 고민을 먼저 해야 하는 사람은 윤리학자가 아니라 AI 모델과 서비스를 개발하는 엔지니어다. 윤 사장은 “내가 만드는 AI가 어떤 사람에게 영향을 줄 수 있는지 생각하는 것만으로도 많은 문제를 해결할 수 있을 것”이라고 말했다. 그는 미국 하버드대의 ‘임베디드 에틱스’ 프로그램을 소개했다. 하버드대 컴퓨터과학과와 철학 학부 간 협력 사업으로 엔지니어링 과정에서 윤리적·사회적 의미를 고려할 수 있도록 설계된 교육 프로그램이다. 모든 공학 수업에 윤리적 추론 개념을 포함해 AI 기초를 배우는 동시에 AI의 편향성, 공정성 이슈를 스스로 질문할 수 있는 인재를 양성한다.

이용자 역시 AI가 완전무결하지 않다는 사실을 인지할 필요가 있다. 그는 “생성 AI는 환각(할루시네이션), 표절과 같은 한계가 존재한다”며 “AI는 유용한 도구일 뿐 절대 진리를 알려주는 존재가 아니라는 비판적 사고를 갖춰야 한다”고 강조했다.

AI 윤리가 규제로 작용할 것이란 우려와 관련해선 “규제와 혁신은 동전의 앞뒷면 같은 관계가 아니다”는 답이 돌아왔다. 윤 사장은 “AI가 할 수 있는 일과 해서는 안 되는 일의 경계선을 명확하게 제시하면 안전한 범위 안에서 혁신이 멈추지 않고 일어날 수 있다”고 했다.

사회적인 자정 작용도 기대할 수 있다. 윤 사장은 인간 복제 기술을 예로 들었다. 그는 “인간 복제는 놀라운 기술이고 엄청난 잠재력이 있지만 과연 윤리적으로 올바른 기술인가에 대한 전 세계적 토론이 벌어졌다”며 “결국 인간이 복제되지 않는 사회가 더 좋을 것이란 결론이 났다”고 설명했다.

■ 윤송이 사장은

엔씨소프트의 북미법인(엔씨웨스트) 최고경영자(CEO)로 엔씨소프트의 글로벌 사업 전략을 총괄하고 있다. 24세에 미국 매사추세츠공과대(MIT)에서 당시 한국인 최연소 박사 학위를 받았다. 엔씨소프트의 인공지능(AI)센터 설립을 주도해 AI와 자연어 처리에 관한 다양한 연구를 기업 경영에 접목하고 있다. 미국 스탠퍼드 인간중심 AI연구소 자문위원, MIT 이사회 이사로 활동 중이다.

이승우 기자 leeswoo@hankyung.com