최근 인공지능(AI)이 핵심 기술로 떠오르면서 국내 스타트업도 앞다퉈 관련 기술과 서비스를 개발하고 있다. 챗GPT 등장으로 주목받기 시작한 생성 AI 서비스의 핵심 기술인 거대언어모델(LLM)에 대한 관심도 커지고 있다. 한국경제 AI미래포럼과 한국공학한림원 기술경영정책분과·컴퓨팅분과 23일 공동 주최한 '초거대 AI 웨비나 시리즈 제5탄-초거대 AI와 스타트업의 도전'에서 국내 유망 AI 스타트업이 자사 기술을 통해 관련 동향을 소개했다.
안현실 한경AI경제연구소장이 진행한 '초거대 AI 웨비나 시리즈 제5탄-초거대 AI와 스타트업의 도전'/ 임대철 기자
안현실 한경AI경제연구소장이 진행한 '초거대 AI 웨비나 시리즈 제5탄-초거대 AI와 스타트업의 도전'/ 임대철 기자

소프트리AI “LLM으로 정보 검색 효율성 높일 수 있어"

“최근 각종 데이터가 급증해 필요한 정보를 찾기 어려워졌습니다. 정보 검색에 LLM을 적용하면 이런 문제를 해결할 수 있어요”

박성준 소프트리AI 대표는 ‘지식 기반 워크플로우 혁신을 위한 정보 인출과 초거대 언어 모델의 결합’이라는 주제로 LLM을 적용한 정보 검색 서비스를 설명했다. 소프트리AI는 2019년 구글 박사(PhD) 펠로우십을 수상한 박성준 대표가 지난해 설립한 자연어처리(NLP) 기반 AI 기술 스타트업이다.

박 대표는 스타트업을 투자하는 벤처캐피탈(VC)의 업무를 예로 들어 정보 처리의 어려움을 설명했다. VC 심사역은 인터넷 검색, 관련 책, 각종 산업 동향 보고서 등 기업 관련 자료와 창업자 면담, 사업계획서 등 피투자기업 내부 자료를 분석해 투자심사보고서를 작성한다. 하지만 매번 새로운 산업과 사업 모델을 공부하기 위해 방대한 자료를 읽어야 하고 심사보고서를 작성하는 과정에서 필요한 수치를 찾기도 어렵다. 박 대표는 “LLM이 관련된 정보를 모두 학습해 심사역의 질문에 바로 필요한 정보를 바로 제공할 수 있다"고 설명했다.

LLM은 크게 두 단계로 관련 업무를 처리한다. 우선 정보 검색(Retriever) 단계다. 방대한 자료에서 사용자의 질문과 관련도가 높은 내용을 빠르고 정확하게 찾는다. 다음은 생성 단계다. 이전 단계에서 찾은 정보를 취합해 맥락에 맞고 구조화된 자연스러운 문장으로 풀어낸다. 김 대표는 "최근에는 LLM이 거짓 정보도 제공할 수 있다는 것을 사람들이 알기 때문에 LLM이 제공한 정보의 출처 정보도 중요해졌다"고 말했다.

소프트리AI는 지난달 멘탈케어 플랫폼 기업 휴마트컴퍼니와 멘탈케어용 AI 챗봇 개발을 위한 업무협약(MOU)을 체결하기도 했다. 소프트리AI는 자사의 생성형 AI 기술을 휴마트컴퍼니의 심리 상담 애플리케이션 트로스트에 결합할 계획이다. 두 회사는 멘탈케어에 최적화된 AI 챗봇 개발과 개인화된 멘탈케어 서비스 제공, 데이터 보안 및 사용자 프라이버시 보호 강화 등에 상호 협력하기로 했다.

셀렉트스타, "AI 스타트업도 컴플라이언스에 관심 가져야"

“챗GPT 등장으로 AI업계에 대지진이 일어났습니다. 사업 방향을 고민하는 AI 스타트업도 생겼죠. 오픈소스 LLM을 바탕으로 LLM을 직접 만드는 기업도 늘고 있습니다”

황민영 셀렉트스타 부대표는 ‘하이퍼스케일 AI와 스타트업 도전, 그리고 데이터 스타트업 시각’이라는 주제로 발표했다. 셀렉트스타는 AI 학습 데이터 플랫폼 전문 스타트업이다. AI 성능을 향상는 학습 데이터를 제공한다. 2018년 설립 이후 230개 이상의 기업이 셀렉트스타를 통해 AI 학습 데이터를 구축했다.

황 부대표는 챗GPT 출시가 국내 AI 스타트업에 큰 영향을 줬다고 설명했다. 그는 “국내 AI 스타트업 업계에서는 ‘우리가 아무리 열심히 AI 모델을 개발해도 오픈AI의 GPT는 따라가지 못할 것 같다’는 생각이 퍼지고 있다”고 우려했다. 100억원 이상 투자를 받은 스타트업도 AI 모델 개발을 포기하는 경우도 나왔다. 인력을 감축하는 AI 스타트업도 늘고 있다.

해외 빅테크 기업이 계속 AI 사업을 확대하는 것도 경계할 필요가 있다는 것이 황 부대표의 의견이다. 그는 “구글이 생성 AI 서비스를 쉽게 사용할 수 있는 기능도 준비하고 있다”며 “이용자가 PDF 파일을 쉽게 입력하고 AI가 관련 내용을 학습해 관련 정보를 쉽게 찾아주는 수준까지 AI 모델이 발달하기도 했다”고 말했다.

개인 정보, 저작권 등 AI 데이터 관련 규제도 눈여겨봐야한다고 황 부대표는 강조했다. EU가 세계 최초로 AI를 규제하는 법안을 추진하고 있다. 미국과 한국 등 다른 나라도 비슷한 법안을 마련할 전망이다. 황 대표는 "최근 글로벌 기업들이 AI를 도입하기 전에 1순위로 고려하는 것은 사업성보다는 '리스판서블(responsible) AI'"라며 "AI 사용에서도 컴플라이언스를 상당히 따진다"고 설명했다. 그는 스타트업도 관련 동향에 관심을 가질 필요가 있다고 덧붙였다.

셀렉트스타는 최근 산업은행으로부터 40억원 규모의 시리즈A 투자를 유치하기도 했다. 이번 투자유치를 통해 코스닥 상장을 본격화한다. 지난 6월 대신증권을 상장 주관사로 선정해 기업공개(IPO) 로드맵을 수립했다. 기술 평가를 통한 특례 상장으로 2025년까지 상장 절차를 마무리한다는 전략이다.

푸딘코, "상거래 분야에도 LLM 도입 효과적"

"최근 상거래 분야에서도 LLM 도입이 늘고 있습니다. 소비자 맞춤형 정보를 제공하는 서비스에 생성형 AI 기능을 활용하면 효과가 큽니다"

김주필 푸딘코 최고사업책임자(CBO)는 '초거대 언어 모델을 활용한 취향 커머스'라는 주제로 발표했다. 푸딘코는 소셜 미디어 기반 맛집 리뷰 서비스다. 해당 앱 가입자는 22만명으로 MAU(월간 이용자)는 4만명이 넘는다. 지난 5월 대화형 와인 추천 서비스 ‘챗와인’을 출시했다. 대규모 언어 모델 (LLM)을 바탕으로 네이버 하이퍼클로바와 오픈AI의 챗GPT를 함께 활용했다.

김 CBO는 "코로나19 확산 이후 국내 와인 시장이 이전보다 5배 정도 급성장했는데 와인 관련 정보는 상당수가 비정형 데이터로 관리됐다"고 말했다. 와인에 대한 정보를 통합 관리하는 플랫폼도 없다. 김 CBO는 "와인 정보는 대부분 소수의 전문가 중심으로 오프라인으로 공유된다"라며 "푸딘코는 이런 비정형 정보를 AI 모델 적용해 체계화했다"고 설명했다.

예를 들어 와인의 가장 중요한 정보인 가격은 서울에서도 가게마다 다르다. 푸딘코는 이런 와인 정보를 LLM으로 활용해 AI챗봇으로 대화형으로 제공한다. 푸딘코는 오픈AI의 GPT와 네이버의 하이퍼클로바를 활용했다. 김 CBO는 "하이퍼클로바가 한국의 와인 지식을 많이 학습한 영향인지 국내 와인 커뮤니티에서 사용하는 한글 와인 용어에 대한 대답이나 이해 도가 오픈API의 챗GPT를 번역해서 얻은 응답의 품질보다 더 뛰어난 것을 확인할 수 있었다"고 말했다. 푸딩코는 네이버의 최신 LLM인 하이퍼클로바X를 도입해 네이버 예약 서비스나 지도 서비스도 연동할 계획이다.

인이지, "제조업 혁신을 위해서도 LLM 필요"

"세계 제조업의 혁신 공장에서도 AI를 도입하고 있습니다. 에너지 효율적인 사용이나 인구구조 변화에 대응하기 위해서 제조업의 AI 활용은 필수가 될 겁니다"

최재식 인이지 대표는 'AI를 통한 제조의 변화, 생성형 AI·대화형언어모델의 제조업 적용 방안'를 주제로 발표했다. 인이지는 국내 대표적인 산업 현장 AI 전문 스타트업 중 하나다. 최재식 KAIST 교수가 2019냔 창업한 인이지는 제조 업체 대상 공정 최적화 AI를 만든다. 포스코의 스마트고로에 AI 솔루션을 적용하며 이름을 알렸다. 용광로 쇳물 온도의 예측 오차를 줄여 연간 647억원 상당의 연료비를 줄였다.

최 대표는 최근 산업 현장에 AI 도입은 피할 수 없다고 강조했다. 세계경제포럼(WEF)에서 선정한 '등대공장'을 사례로 들었다. 등대공장은 첨단 기술을 도입해 세계 제조업의 미래를 밝히는 공장을 뜻한다. 최 대표는 "작년에 새로 선정된 등대공장 29곳의 145개 기술 중 47%인 68건이 AI와 관련된 것"이라고 설명했다.

세계 최대 이차전지 기업인 중국 CATL(닝더스다이)의 경우에는 지능형 생산 관리 시스템을 도입했다. 배터리용 양극제 처리 작업에서 AI가 미세하게 처리할 수 있는 알고리즘을 적용했다. 이런 자동화로 제품의 균일성을 높여 수율(양품 비율) 99.8%를 넘길 수 있었다. 수작업 규모도 70% 이상 감소했다.

최 대표는 국내 제조업에서 AI 도입이 더 필요하다고 주장했다. 그는 "최근 한전의 적자 규모가 급격히 커지고 에너지 비용 상승으로 제조업의 원가 부담도 늘었다"라며 "AI로 불필요한 에너지 소비를 줄이고 생산성도 높일 수 있다"고 말했다. 저출산고령화에 따른 젋은 인력 감소에 대응하는 방법도 AI 도입이다.

최 대표는 제조업에서 LLM 도입도 늘어날 것으로 전망했다. 그는 "산업 현장에서 중요한 자료 중 하나가 생산 작업 일지인데 이 데이터를 디지털로 전환하고 생성 AI가 학습하면 새로운 기능이 나올 수 있다"고 말했다. 최 대표는 "비가 오면 공정에 많은 영향을 주는데 시멘트 공장에 습도가 올라가면 결과물이 눅눅해질 수 있다"며 "관련 생산일지를 학습해 AI에 '지금 습도가 몇 %인데 온도를 얼마나 올려야 하나"라고 물어보면 '언제 생산일지를 참고해서 온도를 몇 도 정도 올려라'라는 답을 받을 수도 있다"고 덧붙였다.

공장 설비 메뉴얼을 파악하는 데도 LLM 활용이 가능하다. 최 대표는 "항공기 엔진 같은 큰 설비는 메뉴얼이 상당히 두껍다"라며 "이걸 생성 AI에 학습시켜 설비에 문제가 생길 때 어떻게 대응해야 하는지 신속하게 파악할 수 있을 것"이라고 말했다. 인이지도 관련해 일명 '시계열 예측을 위한 파운데이션 모델'을 개발하고 있다. 제품 수요, 연료 수급 등에 대해 예측하는 AI 솔루션이다.

김주완 기자 kjwan@hankyung.com