지난 10일 한경 히치콕스튜디오에서 열린 ‘초거대 AI 시대를 열어가기 위한 AI 반도체 기술’ 웨비나에서 참석자들이 토론하고 있다. 김범준 기자
지난 10일 한경 히치콕스튜디오에서 열린 ‘초거대 AI 시대를 열어가기 위한 AI 반도체 기술’ 웨비나에서 참석자들이 토론하고 있다. 김범준 기자
“초거대 인공지능(AI)의 운영 비용을 최소화하면서 서비스를 제공하는 게 화두로 떠오를 것이다.”(이동수 네이버클라우드 이사)

“현재 대부분의 AI에 그래픽처리장치(GPU)가 사용되지만 앞으로는 GPU만으로 AI 서비스를 따라잡는 게 쉽지 않을 것 같다.”(김주영 KAIST 전기전자공학부 교수)

한경 AI경제연구소는 한국공학한림원과 공동으로 지난 10일 한국경제신문사 히치콕스튜디오에서 ‘대한민국 초거대 AI 시대를 열어가기 위한 AI 반도체 기술’을 주제로 웨비나(온라인 세미나)를 열었다. 하정우 네이버 AI랩 소장 사회로 진행된 세미나엔 김주영 교수, 박성현 리벨리온 대표, 이동수 이사, 윤두희 과학기술정보통신부 정보통신방송기술정책과장이 참석해 AI 반도체 발전 방향에 대해 토론했다.

GPU를 대체할 새로운 AI 특화 반도체가 필요하다는 주장이 제기됐다. 업계에선 GPU가 전력을 많이 쓰고 비싸기 때문에 AI 서비스를 저렴하게 제공하는 게 쉽지 않다는 얘기가 나온다. 예컨대 현재 AI 서버에 널리 쓰이는 엔비디아의 'A100' GPU의 국내 판매 가격은 2500만~3000만원, 신제품 'H100'은 8000만원을 넘는다.

이 이사는 “챗GPT의 답변에 들어가는 비용은 일반적인 텍스트 기반 검색보다 100~200배 비싸다”며 “하루 1500만 명이 챗GPT를 사용한다고 하면 연간 수조원의 운영비가 들어간다”고 설명했다. 김 교수는 “AI에 쓰이는 GPU는 크고 무거운 고비용 하드웨어”라고 지적했다. 웨비나 참석자들은 챗봇, 로봇, 자율주행 등에 특화된 최적화 AI 반도체가 필요하다는 데 의견을 같이했다.

‘AI 경량화’가 중요하다는 주장도 제기됐다. AI 경량화는 알고리즘을 특정 AI 반도체에 맞게 최적화해 적은 비용으로 우수한 성능을 내는 것이다. 박 대표는 “AI 서비스를 준비하는 팀과 반도체팀은 경량화를 함께 고민해야 한다”고 말했다.

정부를 대표해 웨비나에 참석한 윤 과장은 초거대 AI에 적용할 수 있는 AI 반도체 개발 환경을 조성할 것이라고 강조했다. 그는 “저전력 반도체 수요가 커지면서 한국 기업에 기회가 생기고 있다”며 “다가올 AI 혁명은 하드웨어(반도체)의 혁신에서 시작될 것”으로 전망했다. 또 “정부는 GPU 대비 가격 경쟁력이 3~4배 높은 AI 반도체를 데이터센터에 적용해서 국내 클라우드의 경쟁력을 높이고 향상된 AI 서비스를 제공할 것”이라고 덧붙였다.

황정수 기자 hjs@hankyung.com