온디바이스 인공지능(AI) 시장에 스타트업도 속속 뛰어들고 있다. 실시간으로 소음을 제거하는 AI 기능이 들어간 이어폰, 7초 만에 원하는 이미지를 스마트폰에서 구현하는 기술 등이 주목받고 있다.

AI 산업은 크게 두 가지 축으로 나뉜다. 오픈AI, 마이크로소프트, 구글, 메타처럼 자체 AI 모델을 개발하고 이를 토대로 초거대 AI 플랫폼을 구축하려는 빅테크가 주류다. 전문가들은 다양한 AI 기반 응용 서비스 시장도 이에 못지않게 중요하다고 보고 있다. 이 분야에선 스타트업이 강점을 갖기 마련이다.

CES 2024에 참가한 가우디오랩은 실시간으로 소음을 제거하는 AI 음원 분리 기술로 CES 혁신상을 받았다. 이 회사는 이어폰 등에 적용할 수 있는 온디바이스 기술을 개발 중이다. 오현오 가우디오랩 대표는 “개인 맞춤형 소리를 원하는 수요가 점점 커지고 있다”며 “사적인 대화의 경우 서버에 저장하면 프라이버시 이슈가 생길 수 있어 온디바이스 AI가 필요하다”고 설명했다.

자율주행 기업, 배송 로봇 플랫폼도 앞다퉈 온디바이스 AI를 채택하고 있다. 뷰런테크놀로지는 이번 CES에서 차세대 라이다 첨단운전자보조시스템(ADAS) 솔루션 ‘뷰원’을 공개한다. 운전자 졸음 모니터링 솔루션을 개발한 이스라엘의 치피아는 ‘엔비디아 드라이버’ 시스템온칩(SoC)에 최적화한 임베디드 제품을 CES에서 공개할 예정이다.

기존 그래픽처리장치(GPU)보다 전력 효율이 높은 신경망처리장치(NPU) 관련 스타트업도 주목받고 있다. 딥엑스는 CES에서 ‘올인포 AI 토털 솔루션’을 공개하고 스마트 카메라, 모빌리티, 로봇, 가전에 적용하는 시연 행사를 연다.

CES 참가 기업은 아니지만 경량화 솔루션에선 스퀴즈비츠가 기대주다. 포스텍 출신 NPU 전문가들이 설립한 이 회사는 초거대 이미지 생성형 AI 모델인 ‘스테이블 디퓨전’을 클라우드 접속 없이 스마트폰에서 구동해 7초 만에 그림을 그려낼 수 있도록 가볍게 만들었다. 셀카 사진을 클라우드 서버로 전송할 필요가 없어 개인정보 보호 측면에 강점이 있다는 평가를 받는다.

라스베이거스=허란 기자 why@hankyung.com