"너무 비싸다"...反 엔비디아 빅테크 뭉쳤다

왜 지금이 엔비디아의 시대인가? 이 말에 대한 반론의 여지는 수도 없이 많지만, 현존 인류의 삶을 뒤바꿀 인공지능 생태계 그 중심에 '엔비디아'가 있다는 사실은 누구도 부인할 수 없을 겁니다. 지난 주 열렸던 엔비디아의 개발자 컨퍼런스는 지금 엔비디아의 주가가 왜 이렇게 높은 지, 우리에게 그 이유와 타당성을 설명해줬습니다.

끝없이 자신과 경쟁하며, 스펙만으로 압도하는 1등의 모습에, 전 세계 빅테크들은 전율을 느꼈을 겁니다. 이름만 들어도 아는 구글과 인텔, 퀄컴이 모여 인공지능 소프트웨어를 만들기로 한 건, 미래 인공지능 생태계의 언어가 모두 엔비디아로 쓰여질 지 모른다는 공포 때문이었을 겁니다.

그 생태계 속으로 들어가보겠습니다. 지금의 인공지능 생태계는 4개의 핵심 축으로 구성됩니다.

한 쪽에는 오픈AI처럼 AI 모델을 만들고 서비스하는 회사와 그에 맞는 인공지능 반도체를 설계하는 엔비디아 같은 팹리스, 이렇게 두 개의 축이 있고, 다른 한 쪽에는, 설계도면을 찍어내는 파운드리와 이에 필요한 메모리, HBM을 만드는 메모리 반도체 회사들이 있습니다.

과거에는 이 4개의 축이 어느 정도 독립적이었고, 표준화된 제품들을 조립하는 수준이었지만, 이제 모든 것들이 합쳐지고 유기적으로 연결되고 있습니다.

본격적으로 시작된 AI 인프라 전쟁, 그 중심에 '엔비디아'가 있습니다. 앞에 있는 AI 모델과 뒤에 있는 파운드리와 메모리를 묶어 맞춤형 반도체를 만들어 내는 자신들 만의 생태계를 만들어가고 있는 겁니다.

이제 인공지능을 개발하는 곳들은 엔비디아의 AI 반도체 사양에 맞춰 인공지능 모델을 설계하고 있습니다. 그들의 표준어가 되고 있는 겁니다.

그래서 반(反)엔비디아 전선의 등장은, 반격이 아닌 거대한 로마제국이 된 엔비디아에 맞서기 위한 생존의 문제라는 게 전문가들의 해석입니다.

인공지능 모델에 최적화된 맞춤형 반도체를 설계하고, 고도로 미세화된 공정을 통해 만들어진 첨단 반도체들을 묶어, 인공지능 서비스까지 돌리는, 전체 인공지능 생태계를 만드는 경험을 해보지 못하고 도태된다면, 결국 최강자에서 다 먹힐지도 모른다는 공포가 시작된 겁니다. 미국의 인텔이 네이버에 협업을 제안한 것도 이같은 맥락으로 해석할 수 있습니다.

결국, 파운드리와 메모리라는 막강한 두 개의 축을 가지고 있는 우리나라도 인공지능 서비스와 AI 반도체 설계까지 아우르는 국내 생태계라도 한 번 만들어 봐야 다가오는 미래를 기대해 볼 수 있다는 뜻입니다.

박해린 산업부 기자와 자세한 얘기 나눠보죠.

박 기자, 앞서 보신 것처럼 엔비디아의 아성에 맞서기 위해 구글과 인텔, 퀄컴 등 이름만 들어도 알만한 빅테크들이 뭉쳤습니다.

엔비디아의 힘이 그만큼 어마어마하다는 거죠?



엔비디아는 AI 모델을 구축하고 서비스하는 데 필수인 하드웨어 'GPU'와 소프트웨어 기술을 모두 장악하며, AII칩 시장 점유율의 80% 이상을 차지하고 있습니다.

이렇게 시장을 독점하고 있는 건 그래픽처리장치, 즉 GPU인 하드웨어뿐 아니라 AI 개발 소프트웨어인 '쿠다(CUDA)'의 역할이 핵심입니다.

주요 IT 기업들이 동맹을 맺는 것도 쿠다에 맞설 소프트웨어를 개발하는 게 골자입니다.

소프트웨어는 AI가 다양한 데이터를 학습하고 추론할 수 있도록 프로그램을 짜는 역할을 하는데,

이게 IT기업들을 엔비디아의 생태계로 가두는 역할을 하고 있습니다.

쿠다는 사용료가 없지만, 오직 엔비디아의 반도체에서만 구동된다는 큰 제한이 있거든요.

즉 하드웨어적으로 타 기업에서 엔비디아의 성능을 따라잡은 신제품을 내놓아도

이들 반도체에서는 쿠다를 사용할 수 없기 때문에 결국 쿠다에 익숙한 개발자들이 엔비디아를 선택하게 되는 겁니다.

AI 산업이 발전할수록, AI 기업들의 엔비디아 의존도는 커질 수밖에 없는 구조인 거죠.

최근 열린 엔비디아의 AI 개발자 컨퍼런스(GTC)에서도 젠슨황 엔비디아 CEO는 쿠다를 자랑했습니다. 들어보시죠.

[젠슨황 / 엔비디아 CEO: 엔비디아는 모든 종류의 서비스를 쿠다로 가속화하고 있습니다. 쿠다 덕분에 엔비디아는 풍부한 생태계를 갖추었으며 (쿠다의) 프로그래밍 기능이 없었다면 불가능했을 것입니다.]

엔비디아의 아성을 무너뜨리기 위해선 하드웨어뿐 아니라 소프트웨어 기술을 모두 대체해야 하기 때문에 어떤 한 기업이 이를 해결하기 어렵다고 판단해

글로벌 빅테크 기업들이 소프트웨어 측면에서 전에 없던 동맹 체제를 구축하며 엔비디아의 독주를 막으려 하는 겁니다.

소프트웨어는 연합으로 대응하고, 하드웨어는 각 사가 '비밀병기'로 키운다 라고 보면 되겠습니다.



삼성전자도 최근 비밀병기 라는 표현까지 쓰며 '마하-1'이란 'AI 가속기'를 공개했지요?

AI 가속기는 뭡니까?



AI가속기는 AI가 대규모 데이터를 습득해 모델을 구축하는 '학습'과 해당 모델을 실제 서비스에 활용하는 '추론' 과정에서 쓰이는 반도체 패키지입니다.

그래픽처리장치인 GPU와 신경망 처리장치인 'NPU' 등을 모두 아우르는 개념인데요.

대다수 기업들은 GPU에 고대역폭메모리 'HBM'을 붙인 엔비디아의 AI 가속기를 학습, 추론 구분 없이 활용하고 있는데,

가격이 비싸고, 전력비가 높다는 단점이 있습니다.

NPU는 추론에 특화된 상품으로, 가격이 저렴하고 전력 효율이 높다는 강점이 있어 엔비디아의 GPU를 꺾을 대항마로 대두되고 있는 겁니다.

경계현 삼성전자 반도체 부문 사장은 최근 주총에서 데이터 지연 현상을 8분의 1로 줄이고, 전력 효율을 8배 높인 제품인 '마하1' 출시를 예고하며 자신감을 드러냈습니다.

마하1은 네이버가 핵심 소프트웨어를 설계하고 삼성전자는 칩 디자인과 생산을 맡는 겁니다.

삼성전자는 마하1을 연내 네이버에 AI 서버용으로 납품하고,

네이버는 대화형 챗봇과 AI로 식당 추천 서비스 등을 효과적으로 구현하는 과정에 마하1을 활용할 것으로 예상됩니다.



엔비디아의 아성을 무너뜨릴 만한 경쟁력이 있을까요?



시장에선 강력한 수요가 있어 해 볼 만한 경쟁이라고 말합니다.

국내 NPU 시장의 1세대로 불리는 기업, 퓨리오사AI의 백준호 대표를 인터뷰했는데요.

NPU가 자동차로 따지면 전기차와 같다고 비유했습니다.

지금은 GPU가 시장을 장악하고 있지만 더 효율적이고 저렴하고, 지속가능한 건 NPU로, 결국 시장은 NPU로 재편될 것이란 겁니다.

[백준호 / 퓨리오사AI 대표 : 지금 빠른 속도로 저희 같은 회사들이 NPU를 기반으로 한 제품을 고도화해 나가고 있습니다. 더 효율적이고 훨씬 더 비용을 절감할 수 있는 NPU반도체가 앞으로 더 많이 보급이 될 거라고 생각합니다.]

최수연 네이버 대표도 이번 주총에서 "AI시대가 되면서 칩 비용이 가장 큰 고민"이라고 말하기도 했죠.

네이버는 삼성전자뿐 아니라 인텔과도 손잡고, 국내 NPU기업들의 칩까지 테스트하며 엔비디아의 생태계에서 벗어나려 애쓰고 있습니다.

실제로 가격을 비교해보면, 엔비디아의 주력 칩 'H100'은 개당 가격이 4만 달러, 우리 돈 약 5000만 원대에 거래되는데, 이 조차도 족히 일년을 기다려야 받을 수 있습니다.

삼성전자의 마하1은 500만 원 안팎에서 정해질 것으로 예상되고, 국내 기업들의 1세대 NPU의 경우 약 200만 원 수준으로 가격 경쟁력이 높습니다.

네이버는 올해 마하1의 성능 검증 등 안정화 테스트를 거쳐 엔비디아의 AI 가속기를 대체할 계획입니다.

삼성전자는 네이버를 통해 성능 검증된다면 마이크로소프트(MS), 메타 등 빅테크 공략도 가능하다고 보고 있습니다.

결국 반 엔비디아 공동전선의 이유는 엔비디아 제품이 '비싸기' 때문이었고, 비용을 감당 못한 유저들이 대체제를 간절하게 찾고 있기 때문이라고 보면 되겠습니다.

박해린기자 hlpark@wowtv.co.kr