'점입가경' GPU 확보전쟁…韓은 AI칩 기근

산업리포트

빅테크 지형 바꾸는 첨단 AI칩
오픈AI, 스타게이트로 칩 싹쓸이
머스크, xAI 인프라 10배로 투자

AI인프라 부족에 시달리는 韓
中은 자체 AI칩으로 대응 나서
‘인공지능(AI) 인프라(컴퓨팅)가 부족해 사업 운영이 힘들다’. 국내 AI 개발자들이 이구동성으로 하는 말이다. 지난해 11월 열린 ‘SK AI 서밋 2024’에서 유영상 SK텔레콤 대표는 “대한민국은 전체 다 합쳐도 H100이 2000개에 불과하다”고 토로했다. H100은 엔비디아가 2022년 선보인 AI 및 고성능 컴퓨팅용 그래픽처리장치(GPU)다. 미국 빅테크업계에서 앙숙 관계인 일론 머스크 테슬라 최고경영자(CEO)와 샘 올트먼 오픈AI CEO가 트럼프 2기 정부의 5000억달러 AI 인프라 투자 프로젝트인 스타게이트를 두고 설전을 벌이는 것도 그 이면엔 GPU 확보를 위한 수싸움이 깔려 있다는 분석이 나온다.

올트먼-머스크 설전의 배경

26일 미국 테크 전문 매체 디인포메이션에 따르면 올트먼 CEO가 스타게이트 프로젝트에 뛰어든 것은 고성능 GPU를 확보하기 위해서다. 오픈AI는 그동안 대주주인 마이크로소프트(MS)의 투자와 지원으로 대규모 GPU를 확보해 잇달아 최고 성능의 AI 모델을 선보일 수 있었다. 지난해 초 오픈AI와 MS는 1000억달러를 들여 대규모 AI 인프라 프로젝트를 구축한다는 구상에 합의하기도 했다. MS는 2023년에만 엔비디아의 GPU H100을 15만 개 사들였다.

하지만 개당 5000만원을 웃도는 엔비디아의 H100을 확보하려는 경쟁이 치열해진 데다 MS 내부에서 ‘대규모 데이터센터를 이용할 고객사를 추가로 확보하기 어렵다’는 회의론이 높아지면서 오픈AI는 지난해 필요한 물량을 충분히 확보하지 못한 것으로 알려졌다. 이런 상황에서 스타게이트는 올트먼 CEO에게 구세주나 마찬가지일 것이라는 게 AI 업계의 분석이다. 도널드 트럼프 미국 대통령은 AI 데이터센터 등을 구축하는 데 약 5000억달러를 투자하겠다고 밝혔다.

커지는 국내 AI업계의 우려

인간의 능력과 최대한 비슷한 일반인공지능(AGI) 개발에 열을 올리는 빅테크 사이에선 엔비디아의 H100 확보전이 치열하다. 머스크 CEO가 2023년 xAI를 창업하며 AI산업에 뛰어들어 경쟁은 점입가경 수준으로 치닫고 있다. 머스크 CEO는 xAI가 사용하는 세계 최대 규모의 AI 슈퍼컴퓨터 ‘콜로서스’를 기존보다 10배 키우겠다고 지난달 밝히기도 했다. H100 투입 규모를 10만 개에서 100만 개로 늘리겠다는 것이다.이 같은 상황을 지켜보는 국내 AI업계에선 ‘도저히 따라갈 수 없는 경쟁’이라는 자조 섞인 우려가 쏟아지고 있다. 소프트웨어정책연구소가 실시한 AI 기업 대상 설문조사에서 ‘AI 인프라(컴퓨팅)가 부족해 사업 운영이 힘들다’고 답한 비율이 2020년 29.2%에서 2023년 53.2%로 3년 새 두 배 가까이로 늘었다. 국내 주요 1441개 AI 기업이 보유한 H100은 2023년 말 기준으로 총 1961개에 불과했다.

업계에선 오히려 중국의 방식이 벤치마킹 모델이 될 수 있다는 지적이 나온다. 중국 AI 기업들은 엔비디아의 고성능 칩을 수입할 수 없는 상황에서도 딥시크 등 글로벌 AI 기업을 배출하고 있다. 뉴욕타임스(NYT)는 지난 23일 딥시크가 오픈AI와 구글 등 실리콘밸리의 거대 기업보다 첨단 칩을 적게 사용하면서도 경쟁력 있는 챗봇을 개발해 미국의 AI 칩 수출 규제를 넘어섰다고 분석했다.

김주완 기자 kjwan@hankyung.com