환각현상 70%·비용 50% 줄였다…KT 초거대 AI '믿음' 출시
입력
수정
'믿음' 2000억개 파라미터…1조 토근 데이터 학습
경량·초대규모 전문모델까지 총 4종 제품군 공개
믿음은 인공지능(AI) 최대 맹점으로 꼽히는 환각현상(허구를 진실처럼 대답하는 현상)을 70% 줄이고 비용을 50% 수준으로 낮춘 것이 특징이다. 회사 측은 믿음을 활용해 LLM의 기업 간 거래(B2B) 사업을 집중적으로 발굴해 기존 AI 사업을 고도화할 계획이다.
"믿음, 환각 70% 줄이고 비용 50% 절감 가능"
파운데이션 모델이란, 초거대 AI 핵심 기반 모델로 오픈 AI사의 자연어 처리 모델 GPT가 대표적이다. 복잡한 기술의 구현이나 시스템의 구축을 위해 기업에서 원하는 형태로 미세조정(Fine-Tuning·파인 튜닝)을 거쳐 다양한 AI 응용서비스를 만들 수 있다. 초거대 AI를 사용하고 싶지만 수십억에서 수천억에 달하는 파라미터 모델을 직접 만들 여력이 없는 기업들의 경우, 이처럼 공개된 파운데이션 모델을 튜닝해 활용할 수 있다.회사 관계자는 "LLM의 B2B 사업화를 가속하고, 궁극적으로 기업들이 원하는 AI 사업 모델과 응용 서비스의 폭발적 확산을 이끌어낸다는 계획"이라고 전했다.
특히 믿음은 AI 대표적인 단점으로 꼽히는 '환각현상'을 최대 70% 최소화했다. 환각현상을 개선하기 위해 도식화된 문서 등을 정확히 이해하도록 돕는 '다큐먼트 AI', 목표 도메인과 문서에 최적화된 정보를 찾는 '서치 AI', 원문에 근거한 응답만 생성하도록 강화학습을 적용한 '팩트가드 AI' 등 세 가지 기술을 각각 적용했다.
KT는 AI 반도체 팹리스(반도체 설계기업) '리벨리온' 등과 '믿음'의 기업 전용 AI 클라우드팜도 패키지 형태로 제공한다. KT클라우드의 그래픽처리장치(GPU) 인프라 종량제 서비스 '하이퍼스케일 AI 컴퓨팅'(HAC)을 이용하면 학습 비용을 기존보다 약 27％, 리벨리온의 신경망처리장치(NPU)를 쓰면 서비스·추론 비용을 약 50％ 절감할 수 있다고 회사 측은 설명했다.
"1조 달러 시장 노린다"…초거대 AI B2B 시장 집중
KT는 기업전용 LLM 사업화에 ‘업스테이지’, Math-GPT를 비롯한 교육 영역에선 ‘콴다’와 ‘에누마’, 기업용 업무 개인비서 영역에는 ‘비아이매트릭스’ 등 다양한 AI 스타트업들과 ‘믿음’을 활용한 AI 사업모델을 공동으로 개발하고, 국내 및 글로벌 시장을 공략할 예정이다. 블룸버그 인텔리전스의 보고서에 따르면 생성형 AI 시장은 2032년에 약 1조3000억달러 규모로 성장할 예정이다. 한국IDC는 국내 AI 시장이 2027년 4조4000억 규모로 성장할 것이라고 내다봤다.이날 설명회에선 실제로 KT가 기업은행에 믿음을 적용해 만든 신뢰도 높은 전문 상품지식 제공 서비스를 선보이기도 했다. 내부적으로는 AI 고객센터(AICC)와 지니TV, AI 통화비서 등 기존 AI 사업들의 인공지능을 ‘믿음’으로 고도화하고, KT의 무선서비스, IVI, 로봇 등에도 초거대 AI를 적용한 사업화를 계획하고 있다. 또한, 믿음을 적용해 내부 업무 프로세스 등도 대폭 개선할 방침이다. 실제로 믿음을 시범 적용한 KT 콜센터에선 봇 인식률 5% 개선, 후처리 속도 20% 및 지식 구축 속도 30% 향상 등 다양한 부분에서 성능 개선 효과를 보였다고 회사 측은 전했다. 향후 금융과 통신영역, 지니TV 마케팅, 시니어와 육아상담 등 영역에서도 믿음을 적용한 업무 개선이 진행될 전망이다.
송재호 KT AI·DX융합사업부문장 부사장은 “초거대 AI 시장은 세계적 빅테크 기업부터 스타트업까지 참여하며 급격한 디지털 혁신이 진행되고 있다”며 “KT는 차별화된 초거대 AI 모델을 개방하고 대한민국이 디지털 전환을 주도할 수 있도록 모든 역량을 집중하겠다”고 말했다.
조아라 한경닷컴 기자 rrang123@hankyung.com