엔비디아는 2020년 10월에 개최된 GPU 테크놀로지컨퍼런스(GTC) 2020에서 새로운 제품인 DPU를 발표 하였다. DPU는 조금 생소할 수도 있다. DPU는 데이터 프로세싱 유닛(Data Processing Unit)의 약자로 CPU, GPU와 같이 데이터를 처리하지만 조금 성격이 다르다.
우리가 잘 알고 있는 CPU는 중앙처리장치로서 시스템 전반에 걸쳐 일어나는 일을 처리하는 역할을 하고 있다. GPU는 게이밍 그래픽에 특화된 처리장치로써 최근 병렬 연산의 장점을 이용한 대량의 데이터를 한꺼번에 처리하는데 사용되기도 한다. DPU도 데이터를 처리하지만 단일 프로세서라기 보다는 CPU, GPU, NIC, FPGA, DRAM 등 여러가지 반도체들을 하나로 결합한 하나의 시스템이며 일반적인 PC보다는 데이터센터와 같이 어느정도 규모가 있는 곳에 사용된다. 그렇다면 DPU는 왜 등장하게 되었을까?
초창기 PC가 개발되었을 당시 CPU는 데이터처리, 이동, 저장, 프로그램 구동 등 전체 시스템을 관리 했다. 하지만 그래픽이 발전되면서 CPU만으로는 프로그램 구동과 그래픽을 동시에 처리하는데 한계가 있었고 이를 해결한 것이 그래픽만 전문적으로 처리하는 GPU이다. 이와 유사한 현상이 데이터센터에서도 나타났다. 과거 일반인들이 사용하는 클라우드의 개념은 우리가 잘 알고 있는 구글드라이브, 네이버 N드라이브와 같이 파일 저장/공유 서비스이다.
이후 클라우드는 다양한 형태로 발전하게 되었다. 소프트웨어를 구동하는 SaaS, 인프라 장비를 대여하는 형태의 IaaS, 플랫폼을 제공하는 PaaS 등 다양한 형태로 발전하게 되었고 일반 PC처럼 연산의 중요성도 높아지게 되었다. 이와 함께 서버에 사용되는 서버칩의 발전뿐만 아니라 대량의 데이터를 효과적으로 빠르게 분석하기 위해 GPU와 같은 가속기가 도입되기 시작하였다. 현재 가속기 부분에서 절대적인 시장 점유율을 차지하고 있는 엔비디아의 경우 2014-2015년 3억달러 수준의 매출을 기록하던 데이터센터 부분 매출이 2020년에는 60억달러까지 성장하였다. 클라우드 서비스의 확대와 함께 빠른 성장을 보여 주었다.
최근 클라우드 시장의고민은 바로 데이터이다. 급격하게 증가하는 데이터로 인해 데이터센터 내부/외부의 통신이 중요하다. 현재 데이터센터 내에서 데이터의 네트워킹, 보안, 저장 등은 CPU가 처리하고 있다. 데이터가 증가할수록 CPU의 가용성은 떨어질 수 밖에 없다. 이를 해결해 줄 수 있는 것이 바로 DPU이다. 이미 시장에서는 DPU와 유사한 개념의 시스템이 존재한다. 네트워크 부분을 가속시키는 Smart NIC, 저장매체에 프로세서 기능을 추가해 속도와 효율성을 증가시키는 Smart SSD 등이 있다. DPU는 네트워크나 저장 중 한 부분에만 집중하기 보다는 통합적인 솔루션과 소프웨어까지 제공하는 시스템이다. DPU는 데이터센터 내부의 효율적인 데이터 처리뿐만 아니라 더 나아가서는 엣지컴퓨팅의 기반이 되는 시스템이라고 판단된다. DPU시장을 선점하는 업체는 자연스럽게 엣지 컴퓨팅 시장에서도 영향력을 행사 할 수 있다고 판단된다.
현재 DPU시장은 엔비디아/멜라녹스, 마벨테크놀로지/인파이, AMD/자일링스, 인텔(베아풋/알테라/Xe), 브로드컴 등이 경쟁하고 있다. 시장 성장의 초입 단계인 만큼 아직 경쟁 우위를 말하기 어렵고 발전되야하는 부분이 많다. 하지만 데이터 가속의 GPU와 슈퍼컴퓨터에서 대량의 데이터 전송의 장점을 확인한 멜라녹스 인피니밴드(고성능 컴퓨팅과 기업용 데이터 센터에서 사용되는 스위치 방식의 통신 연결 방식)기술을 활용한 엔비디아 DPU 성장이 기대된다. 데이터센터에서 보여주었던 성장성을 다시 한번 보여주기를 기대해 본다.