SKT "통신 특화 텔코 LLM, 연내 출격"

에이닷·GPT 등 활용해 최적화
통신 데이터·전문용어 학습
6월 개발 마치고 고객센터 도입

글로벌 버전 통해 해외 공략
他 통신사 생성AI 구축도 지원

에릭 데이비스 SK텔레콤 AI테크컬래버레이션 담당(왼쪽)과 정민영 AI 플랫폼 담당이 30일 서울 을지로 T타워에서 열린 ‘텔코 대규모언어모델(LLM)’ 설명회에서 질문에 답하고 있다. SK텔레콤 제공

SK텔레콤이 고객 상담과 네트워크 운용 등 통신 서비스에 특화한 대규모언어모델(LLM)을 선보인다. 연내 자사 서비스에 적용하고 해외 통신사를 위한 글로벌 버전도 내놓을 방침이다.

SK텔레콤은 30일 서울 을지로 T타워에서 기자설명회를 열고 오는 6월 말까지 ‘텔코(통신사) LLM’ 개발을 완료할 예정이라고 발표했다.

텔코 LLM은 통신 요금제, 멤버십, 공시지원금 등 국내 통신 전문 용어와 인공지능(AI) 윤리가치 같은 내부 지침을 학습한 통신업 특화 LLM이다. SK텔레콤이 개발한 에이닷엑스를 비롯해 오픈AI의 GPT, 앤스로픽의 클로드 등 다양한 파운데이션 모델을 튜닝해 만든 ‘멀티 LLM’이다. 업무 분야와 용도에 따라 다른 LLM을 활용해 비용을 절감하고 성능은 높였다는 설명이다.

에릭 데이비스 SK텔레콤 AI테크 컬래버레이션 담당은 “한 개의 범용 LLM으로 다양한 문제를 해결하기 어렵다”며 “통신 데이터와 업무 노하우에 맞춰 미세조정(파인튜닝)과 모델평가(벤치마킹)를 거쳐 상황에 맞게 골라 쓸 수 있는 다양한 텔코 LLM을 개발했다”고 설명했다.

SK텔레콤은 올해 자사 고객센터에 텔코 LLM을 적용하고 다른 분야로 확대한다. 현재 고객센터에서 상담 전화 한 건을 처리하려면 평균적으로 고객 상담 3분, 상담 후 업무 처리에 30초가 걸린다. 텔코 LLM을 도입하면 상담사가 고객과 전화하는 동안 AI가 해결책을 상담사에게 제공하고 상담 내용을 요약하는 등 업무 시간을 줄여줄 것이란 설명이다. 네트워크 인프라 운용에도 텔코 LLM을 쓸 수 있다. 네트워크 모니터링 중 문제가 발생하면 텔코 LLM이 장비 매뉴얼, 대응 사례 등의 정보를 기반으로 상황에 맞는 답변을 곧바로 제공한다.

정민영 SK텔레콤 AI플랫폼 담당은 “고객센터, 인프라뿐만 아니라 법무, 인사 같은 사내 업무까지 통신사 운영의 다양한 영역에서 텔코 LLM이 업무 효율성을 높일 것”이라며 “텔코 LLM의 활용 사례를 늘려가겠다”고 말했다.

SK텔레콤은 다른 통신사가 생성형 AI 서비스를 쉽게 구축할 수 있게 돕는 ‘인텔리전스 플랫폼’도 공개했다. 멀티 LLM부터 텍스트, 이미지 등 다양한 데이터를 다룰 수 있는 멀티모달 AI, 서비스 관리와 배포·확장 등에 필요한 오케스트레이션, LLM의 환각 현상을 막을 수 있는 검색증강생성(RAG) 등을 아우르는 기업용 AI 개발·운용 패키지다. 이를 활용해 다른 통신사들이 고객센터 콜봇·챗봇, 유통 채널 어시스턴트 등을 만들어 자사 서비스에 접목할 수 있다는 설명이다. 텔코 LLM과 마찬가지로 동맹관계인 다른 통신사에도 보급한다는 목표다.

이승우 기자 leeswoo@hankyung.com