미국에도 한판승…AI 반도체 스타트업 성공엔 공식이 있다

국내 인공지능(AI) 반도체 스타트업의 굴기가 예사롭지 않습니다. 성능 면에서 세계 최고의 평가를 받는가 하면, 연달아 대기업과 협력을 늘리며 생태계를 키우고 있습니다. 일각에선 이들의 날개짓에 의문을 제기하는 목소리도 나옵니다. 아직은 시제품 제작 단계가 주를 이루다 보니, 정말 그래픽처리장치(GPU)를 상대로 시장 점유율을 뺏어올 수 있느냐는 비판적인 시각입니다. 한경 긱스(Geeks)가 몸집을 키운 토종 AI 반도체 스타트업의 공통점은 무엇인지 그리고 이들의 남은 과제는 무엇인지 상세히 짚었습니다.

“이르면 5월 리벨리온의 칩을 탑재하겠습니다.”

윤동식 KT클라우드 대표가 지난 18일 ‘KT클라우드 서밋 2023’에서 엔비디아 등 외산 반도체 의존을 줄이겠다는 의사를 밝혔다. 리벨리온은 2020년 만들어진 AI 반도체 스타트업이다. 이 업체는 최근 AI 반도체 성능 테스트에서 세계 최고 권위를 자랑하는 ‘엠엘퍼프(MLPerf) 대회에서 미국 엔비디아와 퀄컴을 앞섰다. 리벨리온의 AI 반도체 ’아톰‘은 언어처리, 이미지 분석 영역에서 1.4~3배 뛰어난 성능을 보였다.

리벨리온을 창업한 박성현 대표는 KAIST 전자과를 수석 졸업하고, 미국 매사추세츠 공대(MIT) 컴퓨터공학 인공지능랩(CSAIL)에서 박사학위를 마친 인물이다. 첫 직장은 컴퓨터 중앙처리장치(CPU)를 설계하는 인텔을 택했다. 이후 스페이스X에서 인공위성 칩을 만들었고, 모건스탠리 퀀트 트레이더로 일하며 금융 지식을 쌓았다. 한국의 반도체산업 생태계를 기반으로, AI 반도체의 ’전세 역전‘이 시작될 것이란 믿음에서 11년 만에 고국으로 돌아왔다. 서울대, KAIST를 거쳐 IBM 왓슨연구소에서 AI 반도체 수석 설계자로 재직한 오진욱 최고기술책임자(CTO)가 함께했다.

포스코·현대차·삼성…‘큰 손’ 잡는 AI 반도체

세계적 성능의 칩을 만든 리벨리온처럼, 국내 AI 반도체 생태계를 이끄는 업체는 대부분 스타트업이다. 창업가가 미국에서 시스템반도체 개발 경험을 갖추고 귀국해, 대기업과 합종연횡을 이루는 경우가 주를 이룬다. 미국에서 경력을 쌓고 한국에서 창업에 도전하는 기업가는 흔하지만 AI 반도체 업종은 특히 이런 형태가 도드라진다. 단시간 내에 투자금을 대량으로 유치하고, 이미 존재하는 반도체 인프라를 적절히 사용하는 곳만이 살아남을 수 있기 때문이다. ‘독불장군’은 투자금을 깎아먹을 때까지 시제품도 내놓지 못할 가능성이 높다. 경력과 학력이 가장 중요한 비즈니스란 평가도 나온다.

AI 반도체 스타트업 딥엑스는 최근 포스코DX, 현대자동차그룹과 연이어 협력 구도를 형성했다. 포스코DX와는 공장과 물류 설비 제어시스템에 AI 반도체를 탑재해 대단위 자동화 솔루션을 구현한다. 현대자동차그룹의 로봇 플랫폼 연구조직인 로보틱스랩과도 업무협약(MOU)을 체결해 AI 모델 추론에 쓰이는 신경망처리장치(NPU)를 제공하기로 했다. 딥엑스는 김녹원 경희대 컴퓨터공학부 교수가 2018년 창업했다. 그는 애플에서 ‘아이폰X’의 애플리케이션 프로세서(AP)를 만든 시스템 반도체 전문가로 꼽힌다. 딥엑스는 지난 14일엔 대만 반도체 유통사 코아시아그룹과 MOU를 맺기도 했다. 코아시아그룹은 삼성전자 파운드리 사업부의 전속 협력 기업인 코아시아일렉을 계열사로 두고 있다.

사피온은 지난해 4월 SK텔레콤의 사내 AI 반도체 사업 부문이 독립한 업체다. SK스퀘어·SK하이닉스가 투자에 참여해 설립을 도왔다. 사피온은 국내 최초 데이터센터용 AI 반도체인 ‘X220’을 개발하며 주목받았다. 미국 조지아 공대 박사 출신인 류수정 대표가 업체를 이끈다. 퓨리오사AI는 류 대표 동문인 백준호 대표가 2017년 창업했다. 백 대표는 미국 반도체 기업 AMD의 그래픽처리장치(GPU) 설계팀 출신이다. 퓨리오사AI의 AI 반도체 ‘워보이’는 지난 5일 삼성전자에서 양산에 돌입했다.

AI 반도체는 GPU를 이길 수 없다?

AI는 방대한 데이터를 학습한다. 관건은 속도다. AI 서비스 구현을 위해선 대규모 연산을 단시간 내에 해내는 처리장치가 필수적이다. 정보처리장치인 컴퓨터가 보편화된 이래, CPU와 그래픽처리장치(GPU)가 이 역할을 담당했다. 특히 GPU는 AI가 대세에 오르며 가치가 다시 부각된 연산처리장치로, 엔비디아의 글로벌 지위를 새롭게 한 기기가 됐다. CPU는 데이터를 순서대로 직렬 처리하는 장치라, 대량의 연산 처리에 취약하다. 반면 GPU는 태생이 데이터를 병렬 처리하도록 개발돼 있다. 하지만 성능을 충족하더라도 애초 사용 목적과는 다를 수밖에 없다. 전력 낭비, 자원 비효율이 발생하는 것을 막기는 어려웠다.

산업계에서 AI 반도체가 주목받은 것은 비교적 최근이다. 1956년 신경학과 정보이론의 발달로 AI 이론이 정립된 이래, AI는 혹한기를 반복해왔다. 다량의 논문이 이어져 왔으나, 빛을 보지 못한 주요 이유는 하드웨어 발달 속도가 AI 이론을 구현해내기에 너무 늦다는 점이었다. 2010년대 딥러닝 기법이 등장하며 AI 서비스가 쏟아져나온 배경엔 정보처리장치의 발달이 있었다. 하드웨어 내부에 별도 명령어 저장공간(컨트롤 메모리)을 놓는 프로그래머블 반도체(FPGA), NPU셀을 놓는 머신러닝하드웨어(ASIC)가 모두 AI 반도체로 분류된다. 쓰임은 조금씩 다르지만, 공통적으로 대량 연산에 최적화된 에너지 효율과 속도를 자랑한다.

CNN은 이미지를 쪼개고, 각 픽셀을 곱하고 합하는 과정을 거친다. 때문에 '합성곱 신경망'으로 불리기도 한다. viso.ai 홈페이지 캡처

일각에선 AI 반도체에 회의적인 시선을 보내는 이들도 있다. 최근 AI 연구의 동향 때문이다. CNN(Convolutional Neural Network)은 당초 AI가 이미지를 학습하는 핵심 기법이었다. 이미지를 아주 작은 단위로 쪼개서, 이를 합하고 곱해가며 내용을 식별하는 원리다. 하지만 2020년 등장해 최근까지 주목받는 ViT(Vision Transformer) 방식은 이런 복잡한 단계가 사라졌다. 더 방대한 데이터를 적은 자원으로 학습할 수 있게 된 것이 핵심이다. 굳이 특화 반도체가 필요 없을 뿐더러, 기반 알고리즘도 GPU가 더 유리하다는 분석이다.

업계 한 연구원은 “CNN은 데이터 재사용이 굉장히 많은데, ViT와 같은 트랜스포머 계열 기법은 데이터 재사용이 별로 없어 AI 반도체를 쓸 이유가 없다”며 “결국 연구자들은 곱셈, 덧셈을 제일 잘하는 GPU를 다시 찾게 될 것”이라고 귀띔했다.

투자금 소진 전 구매처 찾기 ‘사활’

박성현 리벨리온 대표가 신형 인공지능(AI) 칩 '아톰'을 소개하고 있다. 최혁 기자

AI 반도체 제작사는 이런 의견을 정면 반박하고 있다. 박 대표는 “GPU 사용이 더 편해질 수는 있지만 대세가 된다는 주장엔 동의하지 않는다”며 “트랜스포머 계열에 맞는 전용 AI 반도체를 만들면 되는 일이고, 마이크로소프트(MS)의 구매 동향을 봐도 GPU와 AI 반도체를 동시에 사는 전략이 이어지고 있다”고 했다. “예전엔 하드웨어의 중요성이 200이었다면, 트랜스포머 계열의 등장으로 중요성이 170 정도로 줄어든 것뿐”이라며 “시장에 검증된 NPU가 나타난다면, 오히려 GPU 제작사나 사용처 입장에선 매력적인 ‘투자 선택지’가 나타난 셈이다”라고도 덧붙였다. MS나 엔비디아가 GPU를 중심에 놓고도, 사업 다각화 측면에서 언제든 AI 반도체 스타트업에 투자나 인수합병(M&A)을 진행할 수도 있다는 말이다.

추가적으로 넘어야 할 산은 ‘구매처 찾기’다. AI 반도체 스타트업들이 대기업과의 협력에 사활을 거는 이유다. AI 반도체는 시제품을 만드는 데만 수십억원에서 수백억원이 드는 고가의 비즈니스다. 매출액을 낼 대상 회사도 흔치 않을뿐더러, 투자금이 소진되기 전에 기술력을 증명해야만 한다. 시제품을 만들 때도, 효용성을 증명할 때도 가장 빠른 수단은 대기업과의 협력이다. 업계가 리벨리온과 KT클라우드의 상용화 실적을 주목하는 배경이기도 하다. 2020년 출시된 사피온의 AI 반도체 ‘X220’와 NHN 데이터센터의 협력 이래 국내에선 굵직한 AI 반도체 상용화 소식이 없었다.

업체들이 한 가지 더 기대를 걸고 있는 점은 정부 지원이다. 초기 단계이지만, 기술력으로 무장한 업체들이 다수 나타나며 지원 정책도 늘어나는 추세다. 정부는 2030년까지 AI 반도체 분야에 약 8300억원을 투입하겠다고 선언했다. 상용화 초기 단계인 국산 NPU 고도화 사업을 추진하고, 메모리와 연산 프로세서 기능을 한 칩에 합친 저전력 AI 반도체 ‘PIM’의 개발도 지원한다.

생태계를 함께 구축해갈 대기업에서도 호응하고 있다. AI 반도체로 클라우드 인프라를 만들게 하는 ‘AI 반도체 팜 구축 및 실증 사업’에선 국내 토종 클라우드 3사인 NHN클라우드·KT클라우드·네이버클라우드가 사피온·리벨리온·퓨리오사AI와 팀을 꾸렸다. 정부의 목표는 글로벌 시장에서도 인정받을 수 있는 기술 수준 구현이다. 시장조사업체 가트너에 따르면 글로벌 인공지능 반도체 시장은 2020년 230억달러(30조3000억원)에서 2025년에는 700억달러(92조3300억원)에 달할 것으로 전망된다.

이시은 기자 see@hankyung.com