1개 4400만원에도…GPU가 '가성비' 뛰어난 이유는

한꺼번에 여러 정보 병렬처리
CPU서버 25분의 1 비용으로
챗GPT 같은 초거대 모델 작동

대만계 미국인인 젠슨 황(61)은 1993년 엔비디아를 세우고 게임용 그래픽을 구현할 목적으로 그래픽처리장치(GPU)를 내놨다. 등장 직후 20년 가까이 중앙처리장치(CPU)를 보조하는 역할에 머물렀던 GPU는 최근 인공지능(AI) 시대의 주역으로 도약했다.

엔비디아는 1999년 ‘지포스256’이라는 이름으로 사상 첫 GPU를 세계에 선보였다. GPU는 컴퓨터에서 픽셀(조각) 단위의 대용량 그래픽 정보를 빠르게 처리해 결과 값을 모니터에 출력하는 장치다.

1990년대 초반까지 CPU가 컴퓨터 그래픽을 처리했다. 하지만 머리카락 한 올까지 정밀하게 구현하는 등 수준이 높아진 그래픽을 전문으로 처리하는 장치 수요가 커졌고 이에 맞춰 GPU가 등장했다.

CPU는 입력된 순서대로 하나씩 정보를 처리한다. 이에 비해 GPU는 한꺼번에 여러 정보를 동시에 처리(병렬 연산)한다. 그만큼 다수의 픽셀이 모인 그래픽을 동시에 빠르게 처리하는 데 유리하다. 엔비디아는 GPU가 AI 심화학습(딥러닝)에 적합하다는 것을 파악했다. 병렬 연산을 앞세운 GPU의 빅데이터 처리 속도가 CPU를 압도해서다.

챗GPT를 비롯한 생성형 AI 시대가 열리면서 GPU가 본격적으로 주목받고 있다는 분석이다. 주요 정보기술(IT) 업체들이 AI 개발 경쟁에 뛰어들면서 GPU 가격도 폭등세다. 현재 개당 3만3000달러(약 4390만원) 안팎에 거래되고 있다.

엔비디아는 GPU ‘가성비(가격 대비 성능)’가 우수하다고 강조하고 있다. 젠슨 황은 5월 29일 대만에서 열린 IT 박람회 ‘컴퓨텍스 2023’에서 “많이 살수록 많은 것을 절약할 것”이라고 여러 차례 강조했다.

엔비디아에 따르면 챗GPT 같은 초거대언어모델(LLM)을 작동하려면 통상 CPU 서버 960개를 돌려야 한다. CPU 서버 960개의 가격은 1000만달러(약 133억원)에 달한다. 사용 전력량은 11GWh(기가와트시)로 추산된다. 같은 수준의 LLM을 구동하는 데 GPU 서버는 2개면 충분하다. GPU 서버 2개의 가격은 40만달러(약 5억3200만원), 전력량은 0.13GWh에 불과하다. GPU 서버 가격은 CPU 서버의 25분의 1 수준이다. 전력 소모량은 85분의 1에 그친다.

김익환 기자 lovepen@hankyung.com