'AI 속도 10배 빠르게'…SK하이닉스, 생성형 AI 가속기 카드 공개

지난 12일(현지시간)부터 미국 캘리포니아주에서 열린 'AI 하드웨어&엣지 서밋 2023'에 설치된 SK하이닉스 현장 부스. SK하이닉스 제공

SK하이닉스가 생성형 인공지능(AI)에 특화된 가속기 카드 시제품을 공개했다. 그래픽처리장치(GPU)로 가동했을 때보다 AI 반응속도가 10배 이상 올라간 동시에 전력 사용량은 대폭 감축했다.

SK하이닉스는 지난 12일(현지시간)부터 사흘간 미국 캘리포니아에서 열린 'AI 하드웨어&엣지 AI 서밋 2023'에서 GDDR6-AiM(액셀러레이터 인 메모리)를 활용한 생성형 AI 가속기 카드 시제품을 처음으로 공개했다. 제품 이름은 AiMX다.

이번에 공개한 가속기 카드는 CPU나 GPU의 속도를 높여주는 가속기 칩인 GDDR6-AiM을 여러개 연결해 만든 제품이다. GDDR6-AiM 칩은 초당 16기가비트 속도로 데이터를 처리하는 GDDR6 메모리에 연산기능이 더해진 제품이다. 기존에는 데이터를 기억하는 역할만 맡던 메모리의 한계를 벗어나 연산까지 가능한 '차세대 스마트 메모리'다. 지난해 2월 처음 공개됐다.

GDDR6-AiM(액셀러레이터 인 메모리)을 여러 개 연결해 성능을 한층 개선한 SK하이닉스의 가속기 카드 'AiMX' 시제품. SK하이닉스 제공

SK하이닉스는 이번 행사에서 제품 시연도 선보였다. 이 칩을 여러개 탑재한 AiMX 시스템에서 메타의 생성형 AI인 OPT 모델을 직접 시연했다. GPU만 탑재한 시스템보다 반응 속도는 10배 빠르고, 전력소모는 5분의 1 수준이다. 생성형 AI는 대량의 데이터를 다루기 때문에 전력은 적게 쓰면서도 고속으로 작동하는 메모리가 필요하다.

지난 12일부터 미국 캘리포니아에서 열린 AI 서밋에서 SK하이닉스가 새로 선보인 가속기 카드를 탑재한 AiMX로 거대 인공지능 언어모델을 시연하고 있다. SK하이닉스 제공

임의철 SK하이닉스 메모리 솔루션 담당(부사장)은 "SK하이닉스의 AiMX는 기존 GPU를 쓸 때보다 고성능, 저전력에 비용도 절감할 수 있는 솔루션"이라며 "인공지능 시대를 이끌어갈 메모리 기술 개발을 이어나갈 것"이라고 말했다.

이 서밋은 글로벌 IT 기업과 유명 스타트업이 참가해 AI와 머신러닝 개발 성과를 공유하는 자리다. SK하이닉스는 올해로 세 번째 이 행사에 참가했다.

최예린 기자 rambutan@hankyung.com