[커버스토리] '개발이냐, 규제냐'…갈라지는 AI 진영

Cover Story

그래픽=추덕영 한국경제신문 기자

올해는 인공지능(AI)이 진정한 시작을 알리는 해가 될 것이라고 합니다. 영국 주간지 이코노미스트는 ＜2024 세계대전망＞에서 ‘현실로 다가온 AI’를 중요한 흐름으로 꼽았죠. 9일부터 12일까지 미국 라스베이거스에서 열리는 최첨단 기술의 경연장 소비자가전쇼(CES)도 온통 AI로 도배되고 있습니다. 삼성전자는 CES 기자회견의 표어를 ‘모두를 위한 AI(AI for All)’로 정했고, 인텔은 ‘모든 곳에 AI(AI Everywhere)’를 내세웠습니다.

AI로 사람들의 생활과 산업현장에서 도움을 받겠지만 꼭 장밋빛 미래가 보장되는 것은 아닙니다. 벌써부터 AI의 ‘일자리 습격’을 걱정하는 목소리가 큽니다. 작년 IBM, T모바일, 드롭박스 등 테크기업들이 회계·인사 등 지원 부서 인력의 30%까지 AI로 대체하겠다고 선언했습니다. 인류에게 새로운 미래를 가져다줄 것으로 기대를 받고 있는 AI가 오히려 재앙이 될지 모를 일입니다.

이러다 보니 빅테크의 본고장 미국 샌프란시스코에선 AI 개발을 자유롭게 허용할 것이냐, 인류에게 해가 되지 않도록 규제할 것이냐를 놓고 일대 논쟁이 벌어지고 있습니다. 작년 말 샘 올트먼 오픈AI CEO의 축출과 복귀도 이런 갈등에서 시작된 것이어서 더욱 관심을 끕니다. ‘AI 개발 감속이냐, 가속이냐’를 둘러싼 논쟁의 철학적 배경과 견지해야 할 관점을 4, 5면에서 살펴봤습니다.

"빨리 개발 안하면 죽는다" vs "속도 조절해야"
AI 낙관론과 파멸론, 종교전쟁 방불케 해요

게티이미지뱅크

인공지능(AI) 개발 속도를 둘러싼 미국 내 개발자 간 논쟁은 먼저 소셜미디어를 달군 뒤, 신문 등에서 경쟁적으로 보도되고 있습니다. 지난달에도 AI 개발 예찬론자인 베프 제이조스(소셜미디어 X의 활동명)가 X에 “한국에서 돌아오는 길”이라며 인공위성에서 찍은 한반도의 밤 모습을 올려 화제가 됐죠. 불빛 찬란한 한국에는 ‘e/acc(Effective Accelerationism, 효과적 가속주의)’란 글자를, 캄캄한 북녘 땅엔 ‘Decel(Decelerationism, 감속주의)’이란 약어를 붙였습니다. AI 개발을 통제(감속)하면 북한처럼 미개한 사회로 전락하고, 자유롭게 허용하면 한국처럼 문명이 꽃필 거라는 주장입니다. AI의 자유로운 개발이 중요하다고 강조한 거죠.

오픈AI CEO 갈등으로 비화

현재 AI 개발자들은 두 진영으로 나뉘어 있습니다. 앞서 얘기한 효과적 가속주의와 효과적 이타주의(EA·Effective Altruism)입니다. 효과적 가속주의란 용어는 효과적 이타주의를 패러디해 만든 것 같습니다.

효과적 가속주의의 요지는 기술 발전은 무엇이든 세상에 이롭기 때문에 모든 규제와 안전장치를 없애야 한다는 겁니다. AI의 해로움보다 이점이 훨씬 많다는 점을 강조합니다. 가속주의자들은 모임에서도 “개발하지 않으면 죽는다(Accelerate or Die)” “AI를 자유롭게(Keep AI Open)”라고 외칩니다. 생성AI 챗GPT 개발 회사로 유명한 오픈AI의 샘 올트먼이 이 진영에 속해 있고, 일론 머스크 테슬라 CEO도 베프 제이조스를 X에서 팔로(follow)하는 중입니다.

반면 효과적 이타주의자들은 AI 규제가 먼저라고 주장합니다. 인류에게 이익이 되도록 AI를 개발하는 효과적인 방법을 찾아야 하고, 그게 바로 21세기 이타주의라는 거죠. 이들은 시간이 걸리더라도 안전하게 AI를 개발해야 하고, 이를 위한 기술 규제가 필요하다고 강조합니다. 그래서 ‘AI 감속주의’라고도 부릅니다. 작년 전 세계 과학자 1000여 명이 세계의 모든 AI 연구소에 “GPT4(최신 챗GPT)보다 더 강력한 AI 개발을 최소 6개월간 중단하라”고 촉구한 게 그런 목소리입니다. 작년 6월 유럽연합(EU)이 위험성이 높은 AI의 개발을 규제하는 법안을 마련하기도 했죠.

양 진영의 주장은 결국 ‘파멸론-이타주의(감속주의)-기술 통제주의’와 ‘낙관론-가속주의-기술 유토피아주의’로 요약할 수 있습니다. 이들의 논쟁은 뉴욕타임스의 칼럼니스트가 “종교 분립 전쟁과 같다”고 표현할 정도로 뜨겁습니다. 작년 말 오픈AI 이사회가 샘 올트먼 CEO를 축출하려 한 사건도 이런 대립에서 비롯됐습니다. 오픈AI 공동 창업자이자 수석 과학자인 일리야 수츠케베르를 비롯해 오픈AI 이사회 멤버들은 ‘착한 AI’를 만들려는 감속주의자가 많았는데, 샘 올트먼은 AI 칩 개발과 투자 유치 등으로 회사의 빠른 성장을 원했다는 겁니다. 결국 직원들의 지지를 받은 샘 올트먼이 CEO로 복귀하고 일부 이사들이 물갈이되면서 오픈AI 사태는 일단락됐는데요. 이를 두고 파이낸셜타임스는 “두머(Doomer, 파멸론자)의 패배”라고까지 표현했습니다.

기술개발, 과연 통제할 수 있나

과학기술의 발전이 과연 인류가 원하는 방향으로 진행될 수 있을까 의심해볼 수 있습니다. AI가 어떤 문제 해결을 위해 인간에게 대안과 선택지를 주고, 인간이 그것 가운데 하나를 승인하고 AI가 실행하면 문제가 없을 겁니다. 그런데 만약 AI가 고도로 발전해 자신의 판단으로 먼저 실행을 하고 인간에게 통보만 하거나, 아예 인간을 배제해버린다면 어떤 끔찍한 결과가 초래될지 알 수 없습니다. 생성AI 스타트업인 미국 앤트로픽이란 회사는 이런 AI의 부작용을 피하려고 챗봇 출시를 미뤘다는 얘기가 있을 정도입니다. AI에 대한 두려움이 개발자들 사이에 얼마나 큰지 알 수 있습니다.

인간 이성이 바라는 대로 AI를 통제할 수 있을까요? 인류에게 이익이 된다고 생각한 결정이 혹여 잘못된 방향으로 이끌지는 않을까요? 의문은 여전히 남게 됩니다.

NIE 포인트

1. 생성AI를 어떻게 활용하고 있는지 서로 얘기를 나눠보자.

2. 오픈AI CEO 갈등 사태의 전말에 대해 알아보자.

3. 기술 파멸론과 낙관론이 논쟁을 벌인 과거 사례를 찾아보자.

'효과적 이타주의' 인간 이성 강조하지만
독선과 이율배반에 빠질 위험성도

일론 머스크 테슬라 CEO가 지난달 31일 게시한 한반도 위성 사진. /머스크 엑스(X)

AI 개발 속도 조절론의 철학적 배경인 ‘효과적 이타주의(EAEffective Altruism)’에 대해 좀 더 알아볼까요? 요즘 이 말을 모르면 미국 실리콘밸리의 돌아가는 사정을 이해하기 어려울 정도입니다. EA의 뿌리는 1970년대로 거슬러 올라가는데요. 호주 윤리학자 피터 싱어가 당시 사회운동의 하나로 주창한 EA의 핵심 내용이 무엇인지 살펴보겠습니다.

가장 합리적 방법 찾는 EA

‘이타주의’ 하면 먼저 기부행위를 떠올릴 수 있습니다. 그런데 좋은 뜻으로 시작한 기부가 꼭 좋은 결과를 낳는 건 아닙니다. 아프리카의 물 부족 문제를 해결한다며 세계 각지에서 모금한 돈으로 ‘플레이 펌프’란 기구를 제공한 사례가 있습니다. 이 기구는 아이들이 놀이를 하면서 물도 길어 올릴 수 있도록 만든 건데요, 처음엔 신선하고 그럴듯했습니다. 하지만 아이들이 금방 싫증을 내면서 동력원을 얻지 못했고, 수동 펌프보다도 못한 성능 때문에 프로젝트는 실패하고 맙니다. 남을 돕고자 하는 이타적인 행동이 좋은 결과로 이어지게 하려면 ‘이성적 판단’이 필요하다는 깨달음을 줍니다.

저개발국의 빈곤, 여성 인권 침해, 해양쓰레기 등 인류 공동의 문제도 마찬가지입니다. 이런 문제 해결을 위해 한정된 자원을 어떻게 활용할지를 고민하기 시작한 게 EA의 출발입니다. EA를 이론적으로 정립한 윌리엄 맥어스킬 영국 옥스퍼드대 교수는 EA를 ‘타당한 근거와 추론에 기반해 다른 사람을 돕는 최고의 방법을 찾고, 이에 기초해 행동을 취할 것을 강조하는 철학이자 사회운동’이라고 정의했습니다.

돈 버는 수단 삼았다는 비판도

그런데 이렇게 목표가 고상한 EA를 이기적 탐욕을 가리기 위한 용도로 쓰는 사람들이 생겨나 문제입니다. ‘효과성’을 강조하는 EA는 눈앞의 소액 기부에 신경 쓰기보다는 큰돈을 기부할 수 있도록 돈을 많이 벌 궁리를 하라는 얘기로 들릴 수 있어요. 또 능력이 있다면 비영리단체에서 일하기보다 급여가 많은 직업을 선택하고, 그렇게 번 돈으로 기부를 많이 하는 게 ‘효과적’이라고 가르치는 것 같기도 합니다. 실제로 맥어스킬 교수는 어떤 직종이 가장 선(善)한 일에 기여할 수 있는지 연구하고, 사람들에게 무료로 직업 상담을 해주는 8만시간(80000hours)이란 기관을 설립하기도 합니다.

이런 맹점을 파고든 대표적인 사람이 지금은 파산한 암호화폐거래소 FTX의 창업자 샘 뱅크먼프리드입니다. 그는 돈을 많이 벌어 더 많이 기부하겠다고 공언하면서 FTX 투자를 유치하고 다녔죠. 암호화폐거래소 창업자라면 자유로운 기술 개발을 주창할 것 같은데, 자신의 선한 이미지를 부각하기 위해 기술을 적절히 통제하려는 EA를 지지한다고 강조했습니다. 부자들이나 지적 능력이 뛰어난 개발자들이 돈을 벌기 위해 EA를 수단으로 삼는다는 비판이 그래서 나오는 겁니다.

자신의 판단만이 인류를 구할 수 있다고 생각하는 독선도 문제입니다. 샘 올트먼 CEO를 축출하려 한 오픈AI의 이사회 멤버들이 그런 경우입니다. 마치 영화 ‘어벤져스’에서 혹성의 자원이 모자란다며 생명의 절반을 말살하려는 악당 타노스를 연상시키기도 합니다.

인간 초월할 AI 초지능 나올 것

‘기술 통제냐, 개발 가속이냐’의 논쟁은 AI 출현 이전에도 종종 있었습니다. 원자력·핵무기 개발, 유전자가위 기술 등 생명공학 기술 개발, 인간과 독립해 의사결정을 할 수 있는 자율주행 기술 개발 등에서도 비슷한 논쟁이 일었지요. 결국 인간이 자신의 미래를 통제할 수 있는 수준으로 과학기술을 발전시킬 것인가, 아니면 인간의 존엄한 가치를 좀 더 높일 수 있도록 과학기술 개발에 속도를 내야 하느냐 하는 선택의 문제인 겁니다. 그런데 이런 두 가지 관점과 주장은 모두 일리가 있습니다. 한쪽으로 치우치지 않는 접근 자세가 중요하겠지요. AI가 수십 년 내에 인간의 일반 지능을 넘어 초지능(super intelligence)을 지니게 될 것이란 사실을 분명히 인식하는 게 중요해 보입니다.

NIE 포인트

1. 효과적 이타주의와 관련한 피터 싱어의 주장을 알아보자.

2. 효과적 이타주의의 장단점에 대해 토론해보자.

3. AI 개발 가속과 감속 중 무엇이 옳은지 토론해보자.

장규호 한경 경제교육연구소 연구위원 danielc@hankyung.com