엔비디아 본사 관계자가 엔비디아의 인공지능(AI) 칩인 H100을 설명하고 있다. /샌타클래라=최진석 특파원
엔비디아 본사 관계자가 엔비디아의 인공지능(AI) 칩인 H100을 설명하고 있다. /샌타클래라=최진석 특파원
미국 캘리포니아 샌타클래라에 있는 엔비디아 본사에 들어서면 누구나 엔비디아 창업자이자 최고경영자(CEO)인 젠슨 황을 만날 수 있다. 전시장 중앙 대형 스크린에 있는 그의 아바타인 토이 황을 통해서다. 한국경제신문 취재진이 한국 언론 최초로 엔비디아 본사를 방문한 지난달 중순, 전시장 대형 스크린에는 다이애나라는 이름의 인공지능(AI) 휴먼이 사람 같은 피부와 표정으로 방문자를 매료시켰다. 찰리 보일 엔비디아 DGX 부사장은 “사람과 자연스러운 대화가 가능하도록 생성형 AI 챗봇의 성능을 고도화하고 있다”며 “다양한 언어를 실시간으로 구사하는 AI 동시통역자가 곧 나올 것”이라고 말했다.

○닻 올린 차세대 반도체 경쟁

슈퍼컴 시대, 전력량 폭증…"초저전력 반도체 개발이 명운 가를 것"
인간에 가까운 엔비디아의 AI 챗봇을 움직이는 힘은 반도체다. 차세대 반도체 산업의 판도를 뒤흔들 AI 반도체의 선두 주자가 엔비디아다. 엄청난 양의 데이터를 AI가 빠르게 학습할 수 있도록 해주는 그래픽처리장치(GPU) 시장에서 엔비디아는 사실상 독점적인 권한을 지니고 있다.

엔비디아의 GPU 시장 점유율은 90%에 육박한다. 오픈AI가 내놓은 초 거대언어모델 GPT4에도 엔비디아 GPU인 A100이 1만여 개 사용됐다. ‘반도체 주권’을 위해 ‘홍색 공급망(red supply chain)’을 구축하는 데 혈안이 돼 있는 중국조차 엔비디아의 최첨단 GPU인 H100을 울며 겨자 먹기로 살 수밖에 없다.

전문가들은 차세대 반도체 시장을 장악하기 위한 경쟁은 이제 막 닻을 올렸다고 보고 있다. 엔비디아 본사 취재에 동행한 이철호 서울대 전기정보공학부 교수는 “생성형 AI 시대가 열리면서 방대한 연산량을 감당할 수 있는 슈퍼컴퓨터 개발 경쟁도 본격화하고 있다”며 “엔비디아의 독주를 막아설 차세대 반도체를 누가 먼저 개발하느냐에 따라 국가의 운명이 바뀔 것”이라고 말했다.

테슬라가 도조로 맞불을 놓으며 슈퍼컴퓨터 경쟁에 뛰어든 것도 이런 이유에서다. 도조는 일론 머스크 CEO가 2021년 8월 처음 공개한 AI 슈퍼컴퓨터 개발 프로젝트다. 테슬라가 완전자율주행 소프트웨어(SW)를 개발하기 위해 가동을 시작한 도조는 초당 100경 번 연산이 가능한 엑사플롭스급 성능을 갖췄다.

○‘컴퓨팅 파워’ 전쟁에 국가 운명 달려

테슬라는 그간 자율주행 AI를 엔비디아 GPU에 의존했다. 비싼 가격과 엔비디아에 쏠린 공급망을 우려해 테슬라는 자체 반도체 설계를 결정했다. 도조는 테슬라의 오토파일럿과 자율주행 AI를 구동하는 신경망을 훈련하는 데 사용된다. 도조에는 테슬라가 설계한 D1 칩이 사용됐다. D1 칩의 연산력은 엔비디아 A100 칩보다 15.8% 뛰어나고, 초당 처리할 수 있는 데이터는 A100 칩의 다섯 배에 달하는 것으로 알려졌다.

이미 슈퍼컴퓨터 경쟁력을 강화한 엔비디아는 도조에 앞서 고성능 AI 처리를 위해 개발한 DGX GH200이라는 이름의 슈퍼컴퓨터를 공개했다. 이 모델에는 단일 GPU 역할을 하는 256개의 GH200 슈퍼칩이 장착됐다. 이전 세대인 DGX A100보다 메모리 용량이 100배 이상 커진 144TB 규모 공유 메모리를 제공한다. 최대 연산 능력은 1엑사플롭스다. DGX GH200을 구성하기 위해 동원된 광섬유 케이블의 길이는 240㎞이며, 60㎜ 규격 냉각팬 2112개가 투입됐다. 전체 무게는 약 18.1t으로 코끼리 네 마리와 맞먹는다.

엔비디아와 테슬라 외에도 생성형 AI 바드를 개발한 구글, 챗GPT 기반 챗봇 빙을 만든 마이크로소프트(MS) 등 빅테크들은 AI 경쟁력 확보를 위해 잇달아 슈퍼컴퓨터 시장에 뛰어들고 있다. 글로벌 시장조사업체 마켓리서치퓨처(MRFR)에 따르면 슈퍼컴퓨터 시장 규모는 2032년 237억달러(약 31조4700억원)에 달할 전망이다. 이 교수는 “빅테크 모두 엔비디아 칩을 사용하고 있고, 도조를 개발한 테슬라도 엔비디아에서 아예 탈피하진 못할 것”이라며 “모두 엔비디아가 구축한 ‘운동장’에서 뛰는 셈”이라고 말했다.

강경주 기자/샌타클래라=최진석 특파원 qurasoha@hankyung.com