삼성전자 일 냈다…세계 최초로 메모리에 AI 엔진 탑재

삼성전자, 세계 최초 인공지능 HBM-PIM 개발/사진제공=삼성전자

삼성전자가 세계 최초로 메모리 반도체와 인공지능(AI) 프로세서를 하나로 결합한 'HBM-PIM(Processing in memory)'을 개발했다고 17일 밝혔다. 데이터 저장 공간으로만 여겼던 메모리 반도체에 AI 엔진을 탑재해 일부 연산까지 가능하게 한 것이다.

PIM는 메모리 내부에 연산 작업에 필요한 기능을 더한 차세대 신개념 융합기술을 뜻한다.
삼성전자는 PIM 기술을 활용해 슈퍼컴퓨터(HPC)와 AI 등 초고속 데이터 분석에 활용되는 'HBM2 아쿠아볼트'에 인공지능 엔진을 탑재한 HBM-PIM을 개발했다.

삼성전자에 따르면 AI 시스템에 HBM-PIM을 탑재하면, 기존 HBM2를 이용한 시스템 대비 성능은 약 2배 이상 높아지고 시스템 에너지는 70% 이상 감소된다. 기존 HBM 인터페이스를 그대로 지원해 기존 HBM 이용자들은 하드웨어나 소프트웨어의 변경 없이 HBM-PIM을 통해 강력한 AI 가속기 시스템을 구축할 수 있게 된다.

최근 인공지능의 응용 영역이 확대되고 기술이 고도화됨에 따라 고성능 메모리에 대한 요구가 지속적으로 커져왔다. 다만 기존의 메모리반도체로는 '폰 노이만' 구조의 한계를 극복하기 어려웠다.

폰 노이만 구조는 오늘날 대부분의 컴퓨터에서 사용하는 방식으로 CPU가 메모리로부터 명령어를 불러오고 실행하며 그 결과를 다시 기억장치에 저장하는 작업을 순차적으로 진행하는 과정이다. 이 과정에서 CPU와 메모리간 주고받는 데이터가 많아지면 작업처리가 지연된다.

삼성전자는 이를 극복하기 위해 메모리 내부의 각 뱅크(주기억장치 구성시 최소 논리적 단위)에 인공지능 엔진을 장착하고 병렬처리를 극대화해 성능을 높였다고 설명했다. 또한 HBM-PIM은 메모리 내부에서 연산처리가 가능해 CPU와 메모리간 데이터 이동이 줄어들어 AI 가속기 시스템의 에너지 효율을 높였다.

삼성전자는 이같은 혁신기술을 D램 공정에 접목시켜 HBM-PIM을 제품화 하는데 성공했다. 반도체 분야 세계 최고권위 학회인 ISSCC에도 이같은 내용을 담은 삼성전자의 논문이 공개돼 있다.

릭 스티븐스 미국 아르곤 국립 연구소 컴퓨팅, 환경 및 생명과학 연구실장은 "HBM-PIM은 AI 응용을 위한 성능 및 에너지 효율 측면에서 놀라운 성과로 HBM-PIM 시스템 평가를 위해 향후에도 삼성전자와 지속적인 협력을 기대한다"고 말했다.

삼성전자 관계자는 "올 상반기내 다양한 고객사들의 AI 가속기에서 HBM-PIM을 탑재해 테스트 검증을 완료할 예정"이라며 "향후 고객사들과 PIM 플랫폼의 표준화와 에코 시스템 구축을 위해 협력을 강화해 나갈 계획"이라고 덧붙였다.

배성수 한경닷컴 기자 baebae@hankyung.com