데이터 저장과 연산을 '동시에'…삼성, 세계 첫 AI 메모리반도체

기존 대비 성능 2배 향상
전력 소모도 70% 이상 줄여

그래픽처리장치(GPU), 데이터처리장치(DPU), 신경망처리장치(NPU)…. 인공지능(AI) 기술 발달로 처리해야 할 데이터가 기하급수적으로 늘자 부상한 시스템 반도체다.

삼성전자는 조금 다르게 접근했다. 메모리 반도체에 AI 프로세서를 탑재해 중앙처리장치(CPU)의 역할을 줄여주는 혁신 기술을 개발했다. 삼성전자가 17일 발표한 ‘HBM(고대역폭 메모리)-PIM(프로세서 인 메모리)’이다. 최근 반도체 분야 최고 권위의 학회인 ISSCC에 관련 논문도 공개했다.

이번에 선보인 HBM-PIM은 기존의 D램과 같은 역할을 한다. 일반적으로 컴퓨터는 CPU가 D램에서 데이터를 불러와 연산하고, 이를 다시 저장장치에 보관하는 ‘폰 노이만’ 구조로 작동한다. 데이터가 CPU와 D램 사이를 오가다보니 처리할 데이터가 급증하면 병목현상이 생긴다. 빅데이터를 다루는 AI 분야에서 연산 처리 속도가 느려지는 원인으로 꼽혀왔다.

삼성전자는 이런 한계를 해결하기 위해 D램에서 데이터 연산을 미리 일정 부분 처리한 뒤 CPU로 전달하는 기술 개발에 나섰다. 이를 위해 2018년 개발한 2세대 HBM ‘아쿠아볼트’에 AI 프로세서를 탑재했다. HBM은 D램보다 용량이 크고 속도가 월등히 높은 슈퍼컴퓨터용 메모리 반도체다. 초당 2.4Gb(기가비트)로 풀HD영화 61편을 1초 만에 전송할 수 있다.

이를 업그레이드한 반도체가 HBM-PIM이다. 삼성전자는 HBM 내부 각 뱅크(기억장치 논리 구성 단위)에 AI 엔진을 장착하고, 병렬처리를 극대화했다. 기존 2세대 HBM과 비교해 성능은 두 배 이상 높아지고, 시스템 에너지는 70% 이상 줄어든다고 설명했다.

기존 HBM 인터페이스를 그대로 지원하기 때문에 하드웨어나 소프트웨어 변경 없이 성능을 높일 수 있는 것도 장점이다. 삼성전자는 상반기 내 고객사들의 AI 가속기에 HBM-PIM을 탑재해 테스트를 완료할 예정이다.

반도체업계에서는 삼성전자가 AI 반도체 시장을 선도할 계기를 마련했다는 평가가 나온다. 박재근 한양대 융합전자공학부 교수는 “세계적으로 HBM을 설계·양산할 수 있는 기업은 삼성전자와 SK하이닉스뿐”이라며 “HBM에 PIM을 접목했다는 것은 후발주자와의 격차를 확실히 벌렸다는 의미”라고 말했다.

삼성전자는 메모리 반도체 용량과 성능을 높이면서 AI 프로세서를 탑재해 연산까지 가능한 기술을 속속 개발 중이다.

이수빈 기자 lsb@hankyung.com