삼성전자, AI 메모리 제품군 확대…PIM 기술 적용

삼성전자 HBM-PIM.

삼성전자가 인공지능(AI) 엔진을 탑재한 메모리 반도체 제품군을 확대한다.

삼성전자는 24일 온라인으로 개최된 'Hot Chips' 학회에서 PIM(Processing-in-Memory) 기술을 D램 메모리 공정 등에 적용한 다양한 제품군과 응용사례를 소개했다.

PIM은 메모리 내부에 연산 작업에 필요한 시스템 반도체의 프로세서 기능을 이식한 차세대 신개념 융합기술이다.

앞서 삼성전자는 지난 2월 PIM 기술을 활용해 슈퍼컴퓨터와 AI 등 초고속 데이터 분석에 활용되는 HBM2(High Bandwidth Memory) 아쿠아볼트(Aquabolt)에 인공지능 엔진을 탑재한 'HBM-PIM'을 세계 최초로 개발한 바 있다.

삼성전자는 이날 학회에서 D램 모듈에 AI엔진을 탑재한 'AXDIMM(Acceleration DIMM)', 모바일 D램과 PIM을 결합한 'LPDDR5-PIM' 기술, HBM-PIM의 실제 시스템 적용 사례를 각각 소개했다.

AXDIMM은 PIM 기술을 칩단위에서 모듈단위로 확장한 것으로, D램 모듈에 인공지능 엔진을 장착한 제품이다. D램 모듈의 동작 단위인 각 랭크(Rank)에 AI엔진을 탑재하고 병렬 처리를 극대화해 성능을 높였다.

또 AI엔진으로 D램 모듈내부에서 연산이 가능해 중앙처리장치(CPU)와 D램 모듈간의 데이터 이동이 줄어 AI 가속기 시스템의 에너지 효율을 높일 수 있다.

삼성전자는 PIM 기술이 모바일 D램과 결합할 경우 데이터센터와 연결 없이 휴대폰 독자적으로 AI 기능을 수행할 수 있는 '온 디바이스(On-Device) AI' 성능과 에너지 문제를 효과적으로 해결할 수 있을 것으로 보고 있다.

삼성전자는 지난 2월 공개한 HBM-PIM을 실제 시스템에 탑재한 검증 결과도 학회에서 발표했다.

미국 자일링스(Xilinx)에서 이미 상용화 중인 AI 가속기 시스템에 HBM-PIM을 탑재할 경우 기존 HBM2 이용 대비 시스템 성능이 2.5배가량 높아지고, 시스템 에너지는 60% 이상 감소됨을 입증했다.

김남승 삼성전자 메모리사업부 D램 개발실 전무는 "HBM-PIM은 업계 최초의 인공지능 분야의 맞춤형 메모리 솔루션으로 고객사들의 AI 가속기에 탑재돼 상업적 성공의 가능성을 인정받았다"며 "향후 표준화 과정을 거쳐 차세대 슈퍼컴퓨터와 인공지능용 HBM3, 데이터센터용 D램 모듈 등으로 확장할 예정"이라고 말했다.

노정동 한경닷컴 기자 dong2@hankyung.com