권오형 퓨처플레이 대표(왼쪽부터), 김장우 망고부스트 대표, 김한준 퓨리오사AI 최고기술책임자(CTO), 김주영 하이퍼엑셀 대표가 10일 ‘코리아 인베스트먼트 위크(KIW) 2024’에서 ‘AI 반도체와 K-스타트업의 기회’를 주제로 토론하고 있다. 강은구 기자
권오형 퓨처플레이 대표(왼쪽부터), 김장우 망고부스트 대표, 김한준 퓨리오사AI 최고기술책임자(CTO), 김주영 하이퍼엑셀 대표가 10일 ‘코리아 인베스트먼트 위크(KIW) 2024’에서 ‘AI 반도체와 K-스타트업의 기회’를 주제로 토론하고 있다. 강은구 기자
“앞으로 인공지능(AI) 반도체의 대세는 엔비디아와 성능은 엇비슷하면서 값이 싼 제품이 될 겁니다.”(김한준 퓨리오사AI 최고기술책임자·CTO)

10일 열린 ‘코리아 인베스트먼트 위크(KIW) 2024’의 ‘AI 반도체와 K-스타트업의 기회’ 세션 무대에 오른 AI반도체 스타트업 경영진은 신경망처리장치(NPU) 얘기에 많은 시간을 할애했다. 김한준 CTO는 “AI 반도체 시장의 90%를 잡고 있는 엔비디아의 그래픽처리장치(GPU)는 ‘학습’에 최적인 칩이지만 전력 소모와 가격 면에서 한계가 분명하다”며 “GPU보다 전력 소모량이 적고 저렴한 칩이 대안이 될 것”이라고 말했다.

퓨리오사AI는 지난달 2세대 NPU ‘레니게이드’(RNGD)를 공식 출시했다. 김 CTO는 이 제품에 대해 “4세대 고대역폭메모리(HBM3)를 넣어 데이터센터에서 대규모언어모델(LLM)을 실행할 수 있으면서도 엔비디아 GPU보다 전력 효율성이 최대 60% 높다”고 소개했다.

김주영 하이퍼엑셀 대표는 “엔비디아와 똑같은 조건에서 경쟁하면 질 수밖에 없다”며 “엔비디아가 GPU 시장을 독점해 ‘추론’용 반도체 시장이 빠르게 커지고 있다”고 했다. 그러면서 “글로벌 AI 반도체 기업들은 뛰어난 성능과 저렴한 가격을 겸비한 제품 개발에 주력하고 있다”고 덧붙였다. 하이퍼엑셀은 LLM에 최적화된 ‘언어처리장치’(LPU) 반도체 개발에 특화된 스타트업이다. 이 회사가 개발한 ‘오리온’은 엔비디아 GPU에 견줘 성능은 절반 정도지만 가격이 5분의 1 수준이다.

이들은 글로벌 반도체 시장에서 K반도체 스타트업의 위상이 높아질 것으로 내다봤다. 김장우 망고부스트 대표는 “한국에는 삼성전자, SK하이닉스 같은 메모리 반도체 대기업이 있는 데다 정부도 적극 지원하는 편”이라고 했다. 김주영 대표는 “한국은 설계부터 메모리, 파운드리 등 반도체산업이 골고루 발달한 덕에 신제품 개발 환경이 잘 갖춰져 있다”고 말했다.

김채연 기자 why29@hankyung.com