KT, 국내 최초 LLM 수출 '성과'…AX 글로벌 시장 확장 속도

태국 내 LLM 플랫폼 구축
중동·유럽 시장 확장 계획

KT 직원들이 태국어 LLM 플랫폼 구축 프로젝트에서 개발한 LLM 운영 관리 환경 'LLM 옵스'를 테스트하고 있다. 사진=KT

KT가 국내 최초로 거대언어모델(LLM)을 수출했다. 해외에 종합 인공지능(AI) 인프라를 구축하고 생성형 AI 서비스 개발·운영하게 된 것은 국내 기업 중 처음이다.

KT는 15일 태국 '자스민' 그룹의 정보기술(IT) 전문 기업 '자스민 테크놀로지 솔루션(JTS)'과 추진한 태국어 LLM 플랫폼 구축 프로젝트를 성공적으로 마무리했다고 밝혔다. JTS와 처음 손을 잡은 것은 2023년 10월. 당시 양사는 태국·동남아시아 전용 LLM 공동 구축과 사업 협력을 위한 업무협약(MOU)을 체결했다.

KT는 지난해 3월부터 JTS와 태국어 LLM 플랫폼 개발 프로젝트를 위한 계약을 추가로 체결한 뒤 1년여간 프로젝트를 수행해 왔다. LLM 운영 관리 환경인 'LLM 옵스'와 AI 서비스 인프라 '그래픽처리장치(GPU) 팜'을 구축하고 태국어 전용 LLM 모델까지 개발하는 게 골자다. AI 인프라 구축부터 개발까지 한 번에 수행하는 원스톱 프로젝트다.

KT는 LLM 옵스를 고객사 맞춤형으로 구축해 JTS가 복잡한 생성형 AI 운영 환경을 더 효율적이고 한정적으로 운용할 수 있도록 했다. LLM 옵스는 다양한 LLM 모델의 학습·배포·운영 전 과정을 관리하는 환경이다.

더불어 KT는 클라우드 자회사 KT 클라우와 함께 그래픽처리장치(GPU) 자원 관리를 위한 GPU 팜도 태국 현지에 조성했다. 여기에 기반해 JTS는 태국 기업과 기관에 GPU 구독 서비스(GPUaaS)를 공급하고 본격적으로 태국 내 AI 생태계 확장을 촉진할 계획이다.

KT는 자체 모델 개발 경험과 노하우를 토대로 국내 LLM 전문 기업 업스테이지와 태국어 전용 LLM을 공동 개발했다. 이 모델은 태국어, 영어, 한국어 등을 지원한다. 태국의 방대한 고유 데이터를 학습해 태국 정치, 역사, 문화 관련 질문에도 정확하게 대화할 수 있다.

KT는 JTS의 전문 기술 파트너로서 △AI 플랫폼 고도화 △GPU 인프라 확장 및 유지 보수 △AI 기반 신규 서비스 발굴 등 다분야에서 지속적인 협력을 이어간다. 태국 AI 전환(AX) 시장을 겨냥한 서비스를 단계적으로 선보일 계획이다.

KT는 이번 프로젝트를 기반으로 글로벌 AX 사업을 본격적으로 확대한다. 동남아 시장뿐만 아니라 중동, 유럽 등 다른 글로벌 시장을 공략한다는 구상이다.

이진형 KT 전략·사업컨설팅부문 AI사업전략담당 상무는 "이번 프로젝트에서 얻은 경험과 노하우를 포함해 KT는 마이크로소프트, 팔란티어와의 전략적 제휴를 기반으로 AI, 클라우드의 서비스형 상품 라인업도 다각화해 나갈 계획이다"라고 말했다.

박수빈 한경닷컴 기자 waterbean@hankyung.com