전기 잡아먹는 하마 생성AI…"엔비디아 GPU, 일부 국가보다 더 많은 전력 소비"

엔비디아 그래픽처리장치(GPU) H100. /사진=엔비디아

전 세계적인 인공지능(AI) 수요 급증으로 인해 엔비디아의 고성능 그래픽처리장치(GPU) ‘H100’의 올해 연간 소비전력량이 소규모 국가와 맞먹는 수준이 될 것이라는 전망이 나왔다. GPU는 생성AI의 훈련 및 추론에 필수적으로 활용되는 AI 반도체다. 앞으로 AI 기술이 전 산업에 확대 적용될수록 전력 부담도 커질 것으로 보인다.

1일(현지시간) 관련 업계에 따르면 정보기술(IT) 전문매체 톰스하드웨어는 최근 프랑스 기업 슈나이더 일렉트릭의 보고서를 인용해 “엔비디아의 GPU 전력 소비량이 미국 주요 도시와 맞먹는 수준”이라며 “일부 소규모 국가보다 더 많은 전력을 소비할 것”이라고 보도했다.

이 매체는 엔비디아가 지난해 150만개, 올해 200만개의 H100을 판매할 것으로 전망했다. 이렇게 되면 총 350만개의 H100이 연간 1만3091GWh의 전력을 소비하게 된다. 이는 리투아니아, 과테말라의 연간 소비전력량(1만3092GWh)과 비슷한 수치다. 마이크로소프트의 폴 쵸르낙 데이터센터 기술 거버넌스 및 전략 수석 전기 엔지니어는 “GPU 수백만개가 공급되는 올해 연말까지 H100 전력 소비량이 애리조나주 피닉스의 모든 가구보다 더 많은 전력을 소비할 것”이라며 “텍사스주 휴스턴에 이어 미국에서 5번째로 큰 도시와 맞먹는 규모”라고 설명했다. 국가 단위로 봤을 때는 리투아니아와 과테말라와 같은 국가의 연간 전력 소비량과 비슷하다. 앞으로 생성AI에 대한 수요가 더 높아질 것을 감안하면 GPU 구동으로 인한 전력 부담이 심화할 가능성이 있다.

다만, 앞으로 GPU의 전력 효율이 개선되면서 전력 소비량이 급격하게 증가하진 않을 것으로 내다봤다. 톰스하드웨어는 “GPU의 전력 소비량은 다소 충격적으로 보이지만, 효율성이 증가하고 있다는 점에 주목해야 한다”며 “엔비디아의 차세대 GPU인 B100은 같은 소비 전력 대비 더 많은 작업을 수행할 것”이라고 보도했다.

실리콘밸리=최진석 특파원 iskra@hankyung.com