가격 치솟고 구입에 몇달 걸려
美 엔비디아가 사실상 독점
비트코인 채굴로 수요 폭증
“AI 분석을 하려고 해도 장비 구하는 데 몇 달이 걸려요.”
요즘 AI 연구자·기업 사이에선 이런 불만이 커지고 있다. AI·빅데이터 분석에 대한 수요는 급증하는데 AI 분석에 필요한 핵심 장비인 그래픽처리장치(GPU)의 공급난이 극심해서다. AI용 GPU는 미국 엔비디아 제품에 사실상 100% 의존하고 있다. 공급에 차질이 빚어지거나 가격이 폭등해도 대처할 방법이 딱히 없다.
GPU는 원래 PC 게임을 위해 개발됐다. 하지만 여러 명령을 동시에 처리할 수 있는 특성 덕분에 AI 딥러닝에 적합하다는 사실이 밝혀졌고, 지금은 AI·빅데이터 분석에 없어선 안 될 장비로 자리잡았다. 유성준 세종대 인공지능융합연구센터장은 “GPU 시스템은 AI의 ‘심장’이라 해도 과언이 아니다”고 했다.
문제는 GPU가 비싸고 구하기도 힘들다는 점이다. 개인, 연구자가 주로 쓰는 GPU인 엔비디아의 ‘RTX 3090’은 출시 때인 작년 9월 개당 200만원대 초반이었으나 반년이 조금 지난 지금은 300만원대로 뛰었다. 웬만한 AI 연구엔 GPU가 8개 이상 필요한 만큼 비용 부담이 크다. 중저가 GPU는 비트코인 채굴에도 많이 쓰인다. 여기에서도 주문량이 폭증해 품귀 현상을 부채질했다. 유 센터장은 “GPU 시스템을 갖춘 구글 등의 클라우드 서비스를 빌려 논문을 쓰면 1000만~2000만원이 든다”며 “요즘 AI 연구 논문이 학계보다 GPU가 풍부한 대기업에서 많이 나오는 이유”라고 말했다.
빅데이터 분석에는 고가 GPU 시스템인 DGX 시리즈가 주로 쓰인다. 서버 한 대가 2억~3억원에 이른다. AI 벤처기업 관계자는 “중소기업에는 버거운 비용”이라고 호소했다.
AI용 GPU는 사실상 엔비디아가 독점하고 있다. 세계 4대 데이터센터로 꼽히는 아마존·마이크로소프트·구글·알리바바의 센터도 AI 가속기(AI를 실행하기 위한 전용 하드웨어)의 97.4%를 엔비디아에 의존하고 있다. 국내 데이터업계 관계자는 “한국은 의존도가 100%라고 봐도 된다”며 “엔비디아 GPU 가격이 폭등하거나 품절돼도 대체 가능한 제품이 없다는 게 어려움을 가중시킨다”고 말했다. 차량용 반도체 부족 현상에서 보듯 엔비디아의 GPU 생산에 문제가 발생하면 AI·빅데이터 사업에 차질이 생길 것이란 우려도 나온다.
강상기 한양대 AI솔루션센터장은 “공공 데이터센터 확충을 통해 정부가 싸게 GPU 시스템을 빌려주는 것은 물론 민간에서도 기업끼리 GPU 시스템을 공유하는 사례가 확산돼야 한다”고 말했다.
서민준 기자 morandol@hankyung.com