온디바이스AI·LLM 기반 e커머스 솔루션·스마트 수자원 관리. 최근 열린 제65회 AI미래포럼 스타트업 라운드테이블에 참여한 국내 유망 AI 스타트업의 서비스다. 한경 긱스와 '바른 과학기술사회 실현을 위한 국민연합'(과실연) AI미래포럼(AIFF), 캡스톤파트너스가 주최한 이번 행사는 업체와 투자자를 이어주기 위해 마련했다.
DALL·E
DALL·E
제틱에이아이, 통합 온디바이스 AI 소프트웨어 개발
제틱에이아이는 온디바이스 AI 소프트웨어 스타트업이다. 김연석 제틱에이아이 대표는 "지난 9월에 오픈AI가 발표한 내용에 따르면 오픈AI의 매출은 5조원인데 비용은 12조원으로 손실이 7조원에 달한 것으로 나타났다"며 "대부분 관련 비용은 GPU 클라우드에서 발생한다"고 말했다. 이어 "GPU 자체도 비싸지만 설비도 비싸고 유지와 관리에도 엄청난 돈이 들어간다"고 덧붙였다.

김 대표는 "이런 상황에서 관련 비용을 줄이려는 여러 시도가 있었고 사용자의 기기에서 AI가 구동하는 온디바이스AI가 주목받기 시작했다"고 말했다. 그는 "디바이스에서 AI 모델이 돌아가야 하기 때문에 AI 모델이 작아야 하고 이런 모델을 돌릴 AI 소프트웨어도 필요하다"고 설명했다.

김 대표는 "최근 스마트폰에 들어가는 NPU는 기존 CPU와 GPU 대비 성능이 최대 60배 정도 빠르고 전력 소모도 기존보다 90% 이상 줄었다"며 "모바일 NPU 시장에서 엔비디아 같은 강력한 사업자가 아직 없다"고 말했다. 그는 "제조사마다 다른 NPU를 사용해 하나의 소프트웨어를 모두 사용할 수 없다는 진입 장벽이 있다"고 설명했다.

김 대표는 "이런 상황에서 NPU 사용을 포기하고 CPU와 GPU를 사용하면서 작은 AI 모델을 만드는 데 집중하는 회사도 있다"며 "작은 AI 모델을 만들게 되면 기존 연산보다 빨라질 수는 있지만 모델 퍼포먼스는 떨어지는 경우도 생긴다"고 말했다. 제틱에이아이는 이런 상황 등을 해결하기 위한 소프트웨어를 개발하고 있다.

제틱에이아이는 지난 7월 온디바이스 AI 통합 솔루션 '제틱 멜란지'의 시험 버전을 출시했다. 기존 AI 모델을 온타깃 AI 모델 라이브러리로 구현해 온디바이스 AI로 통합하는 자동화된 솔루션이다. 멜란지 사용자는 AI 모델을 활용해 쉽고, 빠르고, 간편하게 온디바이스 AI 애플리케이션을 만들 수 있다. 멜란지는 다양한 SoC 회사의 NPU와 다양한 운영체계(OS)를 지원해 기기와 상관없이 온디바이스 AI를 구현할 수 있다. 김 대표는 "해외 사업도 강화하고 있으며 인도의 의료 회사와 자사 솔루션 도입하는 방안을 논의하고 있다"고 밝혔다.

코르카, AI로 e커머스 플랫폼 지원
코르카는 AI SaaS 올인원 마케팅 솔루션 기업이다. 정영현 코르카 대표는 "기본적으로 저희는 거대언어모델(LLM_과 추천 시스템 분야에 집중하고 있다"며 "리테일 미디어 플랫폼이라고 하는 분야로 실시간 이용자 행동 데이터를 분석해 소비자가 더 많이 클릭할 수 있고 더 많이 살 것 같은 물건을 광고한다거나 추천하고 e커머스 플랫폼이 수익을 늘리는 것을 돕는다"고 말했다.

정 대표는 "LLM으로 사람에게 가치를 주는 다른 솔루션도 만들고 있다"며 "그중 하나가 '문라이트'라는 AI 기반 PDF 문서 분석 솔루션"이라고 설명했다. '문라이트'는 PDF 버전의 논문을 쉽게 요약하고 번역하며 분석 데이터 기반 대화 기능을 탑재한 AI 논문 분석 솔루션이다. 스마트 인용(인용된 문서와 사용자 라이브러리 간의 연관성을 알려주는 기능), 라이브러리 자동 분류/색인(산업별 맞춤형 색인 기능) 등 기능도 제공한다.

정 대표는 "대화형 AI 캘린더 ‘트레이스’ 등 업무 환경을 혁신하는 AI 서비스도 계속 내놓고 있다"며 "LLM에서 나온 회사의 역량을 e커머스 플랫폼에 접목하고 있고 현재 관련 업체와 논의 중으로 내년에 해당 매출도 예상한다"고 말했다. 이어 "AI에서 가장 돈을 많이 버는 분야가 광고 추천으로 구글이나 페이스북도 광고 매출 비중이 상당히 높다"고 덧붙였다. 정 대표는 "보안 관련해서도 LLM에서 역량을 발휘할 수 있도록 국내 법무법인과 협력하고 있다"고 말했다.

에코피스, AI 로봇으로 수자원 관리
에코피스는 스마트 수자원 관리 솔루션 스타트업이다. 채인원 에코피스 대표는 "미래는 좋은 하이테크도 필요하지만 기후 변화에 따른 수자원 관리도 굉장히 중요하다"고 강조했다. 그는 "사람이 쓰는 물이 수질에서 가장 민감한데 일단 가둬놓고 사용하고 있으며 소양강 댐에서 작년부터 녹조가 발생하기 시작했다"고 말했다. 이어 "반도체를 만들 때도 많은 물이 필요하고 해당 수자원에선 반도체 생산 비용이 굉장히 올라갈 것이라는 예측도 나온다"고 덧붙였다.

채 대표는 "수자원 산업 생태계는 굉장히 아날로그 상태로 사람이 결정하고 약품을 투입한다"며 "AI 데이터 기반과 비교하면 취약하다"고 말했다. 그는 "녹조가 생겼을 때 사람이 배를 타고 다니면서 제거하거나 약품을 뿌리는 등 효율성이 떨어지고 유지 비용도 많이 들고 위험한 작업"이라고 설명했다. 채 대표는 "에코피스의 차별성은 저렴한 유지 비용, 무인 자동화, 3차원 수질 모니터링 등"이라고 말했다.

에코피스는 물 위를 자유롭게 돌아다니며 수질 측정과 오염원 분석으로 물을 정화하고 수질 오염의 확산을 예방할 수 있는 AI 자율 주행 기반 수상 로봇 에코봇을 개발했다. '에코봇'은 상수원, 도심 호수 공원, 농업용 저수지 등 물이 고여 있는 시설의 수자원을 사람이 아닌 수상 로봇을 통해 관리할 수 있는 솔루션이다. 녹조 발생 시에는 녹조를 감지해 제거하고 오염도를 실시간 확인할 수 있다. 수온 상승으로 인한 물고기 폐사, 악취 발생, 탁도 증가 등의 다양한 수질 문제에 대응할 수 있는 AI 솔루션이다.

채 대표는 "처음엔 자율 주행 로봇으로 데이터를 수집했고 사업을 확장하면서 오염을 정화하는 솔루션까지 내놨다"고 말했다. 이어 "로봇은 충전 없이 수상 위에서 365일 작업을 수행할 수 있어 에너지 문제도 해결했다"며 "앞으론 B2C 사업을 강화해 수질 관리 로봇 솔루션 위를 사람이 타고 즐길 수 있는 미래형 수상 모빌리티 레저 솔루션도 구상 중"이라고 밝혔다.

김주완 기자 kjwan@hankyung.com