KT클라우드 대표 "저전력 고성능 AI칩, 다음달 적용"

엔비디아 대비 전력 사용량 5분의 1

윤동식 KT클라우드 대표가 18일 서울 삼성동 그랜드인터콘티넨탈 서울 파르나스에서 열린 ‘KT클라우드 서밋 2023’ 기조강연에서 차세대 AI칩 인프라 적용 계획을 발표하고 있다. KT클라우드 제공

KT클라우드가 ‘역대급’ 저전력 고성능 차세대 AI(인공지능)칩을 다음달 인프라에 적용한다. 엔비디아와 비교하면 전력 사용량이 5분의 1 이하면서 성능은 그 이상인 NPU(신경망처리장치) 칩이다.

윤동식 KT클라우드 대표는 18일 서울 삼성동 그랜드인터콘티넨탈 서울 파르나스에서 열린 ‘KT클라우드 서밋 2023’ 기조강연에서 이같은 계획을 밝혔다. 윤 대표는 “엔비디아 GPU(그래픽처리장치)칩보다 낮은 전력으로 성능은 그 이상 낼 수 있는 NPU칩을 다음달 말 인프라에 적용할 것”이라고 말했다.

이 칩은 AI반도체 스타트업 ‘리벨리온’이 개발, 대만 TSMC가 제작했다. KT클라우드는 리벨리온과 긴밀한 파트너십을 맺고 AI 전용 칩을 개발해왔다.

그는 “NPU에서 만족하지 않고 PIM(지능형 메모리반도체) 개발 및 활용도 계획하고 있다”며 “정부의 K-클라우드 계획에 맞춰 진행 중이며 조만간 구체적인 계획을 발표하겠다”고 설명했다. PIM은 데이터를 임시 저장하기만 하던 메모리반도체에 추론 연산과 학습이 가능하도록 하는 기술이다.

과학기술정보통신부는 세계 최고 수준의 초고속·저전력 국산 AI 반도체를 개발하고 이를 데이터센터에 적용하는 K-클라우드 프로젝트를 추진하고 있다.

초거대AI 시대엔 전력 소모량을 절감하면서 성능을 효율적으로 내는 인프라를 구축하는 게 중요하다고 윤 대표는 설명했다. 윤 대표는 “AI의 전력 소모량은 어마어마하다”며 “이렇게 전력을 소모하다가는 탄소 배출로 AI가 금지되는 날이 올 수도 있다”고 말했다. 그는 “학습, 추론 비용을 혁신적으로 감소시켜야 일반 기업도 얼마든지 사용할 수 있는 AI 시대가 될 것”이라고 덧붙였다.

정지은 기자 jeong@hankyung.com