"고비용 AI인프라, 필요한 만큼 빌려쓰세요"
입력
수정
KT '하이퍼스케일 AI 서비스' 출시
국내 최초로 솔루션서비스에 IPU 도입
"기능은 더 좋고 비용효율 높아"
이 서비스는 AI컴퓨팅파워, 개발자툴킷, 머신러닝 프레임워크, 전문가그룹 컨설팅, 데이터센터 등 AI 연구·상용화에 필요한 인프라와 컨설팅을 두루 제공한다. 상용화된 표준 머신러닝 개발 프레임워크를 모두 지원한다. 관련 라이브러리는 모두 무상으로 쓸 수 있다. AI 전용 프로세스칩인 지능형처리장치(IPU)를 국내 최초로 서비스에 도입했다. 당초 그래픽 처리를 위해 설계된 그래픽처리장치(GPU)와 달리 병렬처리에 적합하게 설계된 AI 전용 장치다. 미국 퍼듀대에 따르면 IPU는 BERT-Large모델, MCMC모델 등에서 GPU 대비 2~16배 빠른 성능을 냈다. 이를 통하면 대규모 AI학습·추론 등을 더 수월하게 할 수 있다는 설명이다.
손찬혁 KT IDC사업팀장은 “IPU는 GPU 기반 동일 구성에 비해 비용이 60% 이상 저렴하고, 에너지 효율성은 40~80% 더 높다”며 “기존 인프라보다 저렴한 가격에 고성능 AI 컴퓨팅 서비스를 쓸 수 있다는 의미”라고 말했다.
IPU는 병렬구조를 통해 유연하게 서버 규모를 조절할 수 있다는 것도 장점이다. 필요한 만큼 자원을 이용하다가 빠르게 확장에 나설 수 있어 프로젝트 관리가 쉽다. KT는 국내 1위 매니지드서비스제공사(MSP) 메가존클라우드와 협력해 KT의 경기 분당 인터넷데이터센터(IDC)에 ‘하이퍼스케일 AI존’을 구축했다. KT는 보안성이 높은 고집적 컴퓨팅 인프라와 네트워크를 제공하고, 메가존클라우드는 기술서비스를 담당한다.
KT IDC에 입주하지 않고 솔루션만 쓸 수도 있다. 한지운 메가존클라우드 상무는 “기업이나 기관이 필요한만큼 서비스를 연동해 쓸 수 있다는 것이 장점”이라며 “기존 보유한 AI 모델링을 IPU로 최적화하거나, AI 모델을 개선할 수 있는 컨설팅 서비스도 제공할 것”이라고 말했다.
KT는 이 서비스가 연구·바이오·금융 분야 등 각계에서 수요가 있을 것으로 보고 있다. 김상곤 KT IDC사업담당 상무는 “대학원 등 연구계에선 언어분석 수요가, 바이오·의료 분야에서는 유전자영역 분석을 위한 AI 서비스 수요가 높다”며 “금융분야에서도 퀀트나 금융사기탐지 등에 AI 분석을 적용하는 사례가 늘고 있다”고 말했다. 그는 “일반 기업이 전문 AI 인프라 갖추려면 하드웨어 투자 비용이나 기간이 많이 든다”며 “KT 하이퍼스케일 AI 서비스를 이용하면 별도로 인프라 구축을 하지 않고도 AI 연구개발에만 매진할 수 있다는 장점이 있다”고 덧붙였다.
KT는 IDC 인프라를 바탕으로 이번 서비스를 마련했다. 이미희 KT Cloud/DX사업본부장 상무는 “KT는 20년 넘게 쌓은 IDC 운영노하우와 전문 인력을 두고 있다”며 “수도권 각 IDC를 연결한 ‘원IDC’ 네트워크를 구성해 대용량 트래픽이 발생해도 차질없는 서비스를 영위할 수 있다”고 말했다.
그는 “KT는 국내 최대 테라급 인터넷 백본망과 IDC를 기반으로 AI 등 차세대 핵심기술 개발을 선도할 솔루션을 지속적으로 선보일 것”이라고 했다.
선한결 기자 always@hankyung.com