'AI 몸집' 90%까지 줄인다

라이징 AI스타트업 (34) 노타

경량화 플랫폼 '넷츠프레소'
알고리즘 단순화해 압축
연산 오류비율 1%도 안돼

사물인터넷(IoT) 시대로 접어들면서 사회 모든 기록이 데이터로 전환되는 세상이 됐다. 데이터 양도 폭발적으로 늘어나고 있다. 데이터를 기반으로 고도화하는 인공지능(AI)은 제조, 유통, 건설 등 모든 분야를 아우르는 범용 기술이 돼가고 있다. 하지만 데이터가 많아질수록 AI는 연산 문제로 무거워질 수밖에 없다. AI 경량화 기술이 필요한 이유다.

2015년 설립된 노타는 AI 경량화 기술 스타트업이다. 노타는 창업할 때 스마트폰 키보드 오타 교정 AI를 개발하는 회사였다. 개인정보 침해를 방지하기 위해 클라우드 방식이 아니라 개인 디바이스에서 AI를 운영하는 방식을 채택했다. 이때 채명수 노타 대표(사진)는 작은 디바이스에서 AI를 실행하는 것이 얼마나 어려운 일인지 경험했다. 방대한 규모의 클라우드 서버를 통해 AI를 적용하는 것은 비교적 수월해도 작은 디바이스에서 AI 연산 처리는 버거운 일이었다. AI 연산을 가볍게 하는 기술이 꼭 필요하다는 걸 느꼈다.

채 대표는 “AI를 작은 디바이스에서 돌릴 때 방대한 AI 모델 크기와 연산량은 고질적인 문제였다”며 “시행착오를 다른 사람은 하지 않았으면 했고, AI 경량화 기술을 개발하는 기업으로 피벗(사업 아이템 전환)해 현재 노타가 됐다”고 설명했다.

노타는 작은 디바이스에서도 AI 연산을 할 수 있게 하는 AI 경량화 기술 개발에 들어갔다. 연구 끝에 AI 경량화 기술이 적용된 딥러닝 자동 경량화 플랫폼 ‘넷츠프레소’를 출시했다. 넷츠프레소를 이용하면 단기간에 각 기기에 맞는 최적 AI 모델을 만들 수 있다. 다양한 경량화 기법으로 기존 입력된 모델 알고리즘을 간단하게 만드는 방식이다. 전문 엔지니어가 없어도 빠르고 저렴하게 AI 모델을 경량화할 수 있다는 장점이 있다.

노타는 AI 모델 사이즈를 최대 90%까지 줄이는 기술력을 확보했다. 압축 후 연산 오류가 나는 비율은 1%가 채 되지 않는다. AI 모델 경량화 기술은 현재 폐쇄회로TV(CCTV) 모니터링, 불량 검출, 재고 파악, 얼굴인식 기반 출입 시스템 등 말단 디바이스에서 AI 연산이 필요한 분야에 적용되고 있다. 노타는 더 나아가 대규모 서버나 클라우드 서비스 등에서도 AI 경량화 기술을 적용하려 하고 있다.

노타는 빠르게 성장하고 있다. 2020년 8월 80억원 규모 시리즈A 투자 라운드를 마친 데 이어 지난해 12월 175억원 규모 시리즈B 투자를 마무리했다. 누적 투자금액은 275억원에 달한다. 지난해 매출은 2019년 대비 4배 이상 증가했다. SK텔레콤, 삼성SDS, 인텔, 엔비디아 등 국내외 정보기술(IT) 대기업들과 협업도 하고 있다.

채 대표는 “AI로 인해 10년 전 삶과 오늘의 삶은 큰 차이가 있다”며 “AI 활용의 장벽인 모델 크기와 연산량 문제를 해결해 AI가 인간 삶과 사회에 긍정적 변화를 가져오게 하고 싶다”고 말했다.

구민기 기자 kook@hankyung.com