GPU(왼쪽)와 CPU
GPU(왼쪽)와 CPU
“그래픽처리장치(GPU)는 현대 인공지능(AI) 기술을 완성할 핵심 전력이다.”

미국 유명 과학잡지 포퓰러사이언스는 지난해 컴퓨터 연산장치의 한 종류인 GPU를 소개하는 기사에서 이 같은 표현을 썼다. GPU가 4차 산업혁명의 핵심인 인공지능 컴퓨터 핵심 부품으로 쓰인다는 점을 고려하면 과장은 아니다. 이세돌 9단을 꺾은 구글 딥마인드의 AI 컴퓨터 ‘알파고’를 만드는 데에도 CPU 1920개와 더불어 280개의 GPU가 들어갔다.

자율주행차, 클라우드 등 미래산업에도 GPU는 핵심 요소로 꼽힌다. 테슬라는 자사의 모든 자율주행차에 GPU를 이용하겠다고 지난해 발표했다. 구글, 마이크로소프트, 페이스북, 아마존 같은 거대 정보기술(IT) 기업들은 데이터센터를 구축하면서 점점 더 많은 GPU를 쓰고 있다.
게임용 부품서 4차 산업혁명 주역 된 GPU
5년 전만 해도 GPU에 대한 관심은 이렇게 크지 않았다. GPU는 게임이나 영상편집 등 멀티미디어 작업에서 CPU를 보조하기 위한 부품으로 등장했다.

GPU가 4차 산업혁명의 총아로 각광받은 것은 AI 연구에서 뛰어난 성능을 발휘한다는 점이 확인되면서부터다. 2010년 AI 분야 석학인 앤드루 응 스탠퍼드대 교수는 12개의 GPU가 무려 2000개의 CPU에 맞먹는 딥 러닝 성능을 발휘한다는 사실을 발견했다. 딥 러닝은 인간 신경망 구조를 본뜬 기계학습(머신러닝)의 일종으로 컴퓨터가 스스로 문제 해결 방법을 찾아내는 기술을 말한다.

2012년 열린 이미지넷 대회(소프트웨어로 사진을 인식해 사물이나 배경이 무엇인지 맞히는 프로그래밍 경진대회)에서 놀라운 성능을 내면서 GPU는 인공지능 학계의 ‘스타’가 됐다. 당시 토론토대 박사과정을 밟고 있던 알렉스 크리제브스키(현 구글 머신러닝팀 엔지니어)는 사진인식 프로그램에 처음으로 GPU를 이용해 ‘마의 장벽’으로 여겨지던 인식률 80%를 넘기면서 학계를 뒤흔들었다.
CPU(왼쪽)와 GPU 구조를 나타낸 개념도. GPU는 CPU에 비해 많은 코어를 갖고 있어 방대한 양의 정보를 한꺼번에 처리할 수 있다.
CPU(왼쪽)와 GPU 구조를 나타낸 개념도. GPU는 CPU에 비해 많은 코어를 갖고 있어 방대한 양의 정보를 한꺼번에 처리할 수 있다.
GPU가 CPU에 비해 딥러닝에 강한 것은 연산 방식의 차이 때문이다. 딥 러닝을 구현하려면 방대한 양의 정보를 한꺼번에 처리할 수 있어야 한다. CPU는 직렬처리 방식(한 가지 작업을 마친 뒤 다음 작업을 처리)에 최적화된 1~8개의 코어로 구성돼 있다. 명령어가 입력된 순서대로 순차적으로 데이터를 처리한다. 구조상 수많은 정보가 한꺼번에 들어오면 병목현상이 생겨 비효율적이다. 반면 GPU는 수백에서 수천 개의 코어가 들어가 있어 대량의 데이터를 너끈히 처리할 수 있다.

예를 들어 점을 하나씩 찍는 방식으로 그림을 그린다고 해보자. CPU는 붓을 움직이는 속도는 빠르지만 한 번에 한 개의 점만 찍을 수 있다. 그림 하나를 완성하려면 많은 시간이 걸린다. 반면 GPU는 손놀림은 느리지만 한꺼번에 수천 개의 붓을 동시에 쥐고 있어 붓질 한 번에 그림을 완성할 수 있다.

이후 GPU는 AI뿐만 아니라 동영상 변환 작업, 기후 변화 예측, 암호해독 등 다양한 분야에 사용되고 있다. 특히 미래 핵심 산업인 자율주행차 시스템을 개발하는 데 GPU는 필수 요소로 꼽힌다. 자율주행 차량은 지속적으로 주변 상황에 관한 정보를 수집하고 많은 양의 데이터를 빠르게 분석해 판단을 내려야 한다. 김승규 엔비디아코리아 상무는 “자율주행차에 CPU를 이용할 수 있지만 비용과 전력 소모가 상당할 것”이라며 “병렬연산 작업에서 높은 효율을 내는 GPU는 자율주행차의 핵심 부품”이라고 말했다.

AI 시장이 성장하면서 GPU 수요 역시 꾸준히 증가할 것으로 예상된다. 시장조사기관 IDC는 세계 인공지능 시스템 시장 규모가 지난해 80억달러에서 2020년 470억달러(약 53조6740억원)로 늘어날 것으로 추산했다.

유하늘 기자 skyu@hankyung.com