SKT "기가와트급 데이터센터 조성…'AI 인프라 슈퍼 하이웨이' 만든다"

SK텔레콤이 기가와트급 하이퍼스케일 인공지능 데이터센터(AI DC) 조성에 나선다. 세계 최고 수준의 ‘AI 인프라’를 구축해 아시아태평양 지역의 ‘AI DC 허브’로 도약한다는 구상이다.

유영상 SK텔레콤 대표는 4일 열린 ‘SK AI 서밋 2024’에서 이 같은 내용의 ‘AI 인프라 슈퍼 하이웨이’ 구축 계획을 발표했다.

SK텔레콤은 AI 데이터센터, 그래픽처리장치(GPU) 클라우드 서비스, 에지 AI 등을 중심으로 전국에 AI 인프라를 구축한다는 목표다. 이를 기반으로 국내외 파트너들과 함께 해외 시장에도 진출할 계획이다. 유 대표는 “한국이 세계 최고 수준의 정보통신기술(ICT) 인프라를 기반으로 ICT 강국 반열에 올랐던 것처럼 인프라에서 출발하는 성공 방정식이 AI 시대에도 적용될 수 있다”며 “AI 인프라 슈퍼 하이웨이를 구축해 한국이 AI G3로 도약할 수 있도록 앞장서겠다”고 말했다.

먼저 국내 지역 거점에 100메가와트(MW) 이상 전력이 필요한 하이퍼스케일 AI DC를 구축하고 향후 규모를 기가와트(GW)급 이상으로 확장한다. AI DC를 지역 거점에 구축하면 수소, 태양광, 풍력 등 지역의 신재생에너지를 활용할 수 있고 해저 케이블을 통한 글로벌 확장도 용이하다는 설명이다. SK텔레콤은 “SK가 보유하고 있는 고효율 차세대 반도체와 액침 냉각 등 에너지 솔루션, AI 클러스터 운영 역량을 결합하면 보다 저렴한 비용으로 효율적인 AI DC를 구축할 수 있다”고 강조했다.

앞서 SK텔레콤은 다음 달 판교에서 AI DC 테스트베드를 오픈할 계획이다. 엔비디아의 최신 칩과 SK하이닉스 HBM 등 첨단 반도체부터 차세대 액체 냉각 솔루션, GPU 가상화 솔루션, AI 에너지 최적화 기술 등을 구현했다.

SK텔레콤은 GW급 AI DC를 통해 중장기적으로 50조원 이상의 신규 투자 유치, 55만명 이상 고용 창출, 175조원 이상 경제 효과, 지역 AI 첨단산업 육성 등이 기대된다고 설명했다.

국내 GPU 공급 부족을 해소하기 위해 가산 데이터센터를 AI DC로 전환해 클라우드 형태로 제공하는 서비스형 GPU(GPUaaS)를 출시할 계획이다. 다음 달 H100 기반의 GPUaaS를 시작으로 내년 3월에는 국내 최초로 엔비디아의 최신 GPU H200을 도입한다. 더 많은 기업이 GPU를 직접 구매하지 않고도 쉽게 AI 서비스를 개발할 수 있도록 지원한다는 목표다.

한국의 AI 반도체를 중심으로 ‘한국형 소버린 AI’도 구현한다. 내년부터 총 1000억원을 투자해 리벨리온의 신경망처리장치(NPU), SK하이닉스의 HBM, SK텔레콤과 파트너사들이 보유한 다양한 AI DC 솔루션을 결합한다. 국내 최대 규모의 NPU팜을 구축하고, 정부와 협력해 데이터 주권이 중요한 공공 영역뿐만 아니라 국내 주요 기업 및 클라우드 사업자, K-AI 스타트업과 협력해 AI 기술 자립 및 생태계 확산을 주도할 계획이다.

마지막으로 전국에 연결된 통신 인프라를 활용해 AI DC와 온디바이스 AI 사이 간극을 메꿀 수 있는 ‘에지 AI’를 도입할 예정이다. 에지 AI는 이동통신 네트워크와 AI 컴퓨팅을 결합한 인프라를 의미한다. 대규모 AI DC 대비 저지연, 보안 및 개인정보 보호 강화 측면에서 유리할 뿐만 아니라, 온디바이스 AI 대비 대규모 AI 연산을 할 수 있어 기존 AI 인프라와 상호보완 기능을 할 수 있다.

유 대표는 “지금까지 통신 인프라는 속도와 용량 싸움이었지만 이제는 네트워크 진화의 패러다임이 변화해야 한다”며 “향후 6G는 통신과 AI가 융합된 차세대 AI 인프라로 진화할 것”이라고 말했다.

이를 통해 해외 시장에도 진출한다. SK텔레콤은 국내외 AI 기업들과 협력해 AI 반도체와 데이터센터, 에너지 솔루션이 결합한 AI DC 토털 솔루션을 개발, 글로벌 시장에 진출할 계획이다. GPUaaS 기반 파트너십을 맺은 람다 등과 함께 GPUaaS 글로벌 사업 기회도 모색한다. 에지 AI의 글로벌 기술 표준화를 선도하고 선행 기술을 공동 연구하는 등 6G의 AI 인프라 전환을 위한 노력도 함께 할 방침이다.

유 대표는 “SK텔레콤은 대한민국의 AI G3 도약이라는 사명 아래 AI 인프라 슈퍼하이웨이를 구축 중”이라며 “새로운 미래를 정부와 지방자치단체, 기업이 함께 만들어 갈 수 있도록 힘을 모으자”고 제안했다.

이승우 기자 leeswoo@hankyung.com