AI 모델 최적화 기술 기업 노타가 글로벌 시장조사업체 CB인사이트의 ‘LLMOps Market Map’의 AI 최적화 부문 기업 중 하나로 선정됐다고 20일 밝혔다.

CB 인사이트는 글로벌 100만 개 이상의 스타트업 데이터베이스를 기반으로 각종 리포트를 발행한다. 'LLMOps(초거대 언어 모델 운영) Market Map'은 올해 신설된 분야다. 최근 급부상한 LLM(초거대 언어 모델) 분야에서 선두를 달리고 있는 구글, 아마존, 오픈 AI 등 글로벌 빅테크 기업들이 이름을 올렸다.

노타는 ‘AI 최적화’ 부문에 국내 기업으로는 유일하게 등재됐다. 전체 부문에서 이름을 올린 한국 기업은 노타와 데이터 가공 부문의 크라우드웍스 등 2곳 뿐이다.

‘AI 최적화'는 하드웨어 특성 및 사양을 고려해 AI 모델을 경량화 및 최적해 AI 모델이 효율적이면서도 고성능을 유지할 수 있도록 하는 기반 기술이다. 최근 LLM(초거대 언어 모델)의 등장으로 기업들의 AI 도입 및 운영 비용이 급증하고 있는 가운데 AI 경량화 및 최적화 기술은 이러한 비용 부담을 절감할 수 있어 주목을 받고 있다.

노타는 창업 직후부터 AI 모델 경량화・최적화 기술 개발 및 연구 경험과 노하우를 축적해 왔다. 해당 기술을 ‘넷츠프레소'라는 제품으로 구현해 국내외 기업들을 파트너로 확보하는 등 기술적 성과를 사업적 성과로 이어가고 있다.

최근에는 이미지를 생성하는 초거대 AI 모델 스테이블 디퓨전(Stable Diffusion)을 경량화했다. 해당 데모가 세계 최고 권위의 컴퓨터 비전 학회 ICCV 2023의 데모 트랙에 채택되는 등 기술력을 인정받았다.

채명수 노타 대표는 “최근 LLM 영역에 대한 기업들의 관심이 급증한 만큼 디바이스 환경에 맞게 최적화된 AI 모델의 필요성도 높아졌다”라며, "엔비디아, 암 등 글로벌 AI 반도체 기업들과 구축해온 긴밀한 파트너십을 토대로 세계 시장에서 AI 보편화에 기여하는 기업으로 성장해 나갈 것"이라고 전했다.

김주완 기자 kjwan@hankyung.com