이대로면 큰일 삼성도 초긴장…SK하이닉스, 심상치 않네

SK하이닉스는 D램 시장 '만년 2위'로 불린다. 올해 1분기 D램 시장 점유율은 더 낮아졌다. 삼성전자가 43.2% 1위를 지켰고 SK하이닉스는 23.9%의 점유율을 기록, 미국 마이크론에 이어 3위로 밀렸다.

하지만 SK하이닉스가 '30년 메모리반도체 1위' 삼성전자를 주눅 들게 하는 제품이 있다. 바로 고대역폭메모리(HBM·high bandwidth memory) D램이다. HBM은 다수의 D램을 쌓고 연결해(패키징) 데이터 처리 용량을 극대화한 제품이다. SK하이닉스의 'HBM3' D램이 엔비디아의 그래픽처리장치(GPU)와 함께 챗GPT 같은 생성형 인공지능(AI)용 서버 등에 활용되면서 전 세계적인 관심을 받고 있다.

최근 반도체업계에선 'HBM 시장에서 SK하이닉스가 삼성전자를 압도하고 있다'는 평가가 나온다. 대만의 시장조사업체 트렌드포스는 올해 SK하이닉스가 HBM 시장에서 점유율 53%를 가져가고, 삼성전자는 38%에 그칠 것으로 전망했다.(이에 대해 삼성전자 반도체사업을 이끄는 경계현 사장은 지난 5일 임직원 소통행사에서 "삼성 HBM 제품의 시장 점유율이 여전히 50% 이상"이라고 말했다.)

D램 만년 2위 SK하이닉스가 떠오르는 D램 시장인 HBM에서 앞서가고 있는 비결이 뭘까. SK하이닉스 임직원들에게 물었더니 △고객사와의 긴밀한 협업 △경영진의 기술 리더십 △패키징(후공정) 투자 △HBM 특화 기술력 등 네 가지를 꼽았다.

2013년 최초 개발...SK하이닉스 경영진 "돈 안 돼도 투자"

SK하이닉스는 2013년 HBM을 최초 개발했다. 2015년엔 양산을 시작했다. 초기 단계엔 내부에서도 'HBM 시장이 과연 커질까'에 대한 의문이 컸다.

고객사와 협업한 게 끝까지 밀고 나갈 수 있는 원동력이 됐다. SK하이닉스는 미국의 중앙처리장치(CPU) 전문업체 AMD와 공동연구를 진행했다. SK하이닉스 관계자는 "제품 기획과 개발, 그리고 제조가 모두 오차 없이 준비됐다는 것을 높게 평가할 수 있다"고 설명했다.

당시 SK하이닉스 고위 경영진의 기술에 대한 안목과 리더십도 주목할만한 대목으로 평가된다. 2015년 HBM 양산 이후 버전이 업데이트되는 과정에서 SK하이닉스가 항상 1등을 한 건 아니다. 2018년 HBM2 때는 삼성전자가 치고 나가기도 했다.

SK하이닉스는 HBM에 대한 관심을 계속 이어갔다. 'HBM 시장이 빠른 속도로 성장하지 않을 것'이라고 판단하고 HBM 투자에 소홀했던 경쟁사와 달랐다. SK하이닉스는 핵심 기술에 대한 투자를 게을리하지 않았다. 경쟁사에서 HBM 관련 인력들도 영입한 것으로 알려졌다.

2022년엔 HBM3를 세계 최초로 개발하며 HBM2 때 내준 리더십을 되찾아왔다. 반도체업계 안팎에선 인텔, KAIST 교수 출신으로 2014년에 SK하이닉스 합류한 이석희 전 최고경영자(CEO)를 주목한다. 이 사장은 미래기술연구원장으로 입사해 2014~2016년 D램개발사업부문장, 2016~2018년 사업총괄 COO를 거쳐 2022년 3월까지 CEO를 맡았다. 이 전 CEO는 2021년 기자들과 만난 자리에서 "HBM에선 SK하이닉스가 1등"이라고 자랑스러워하기도 했다.

D램 위로 쌓는 '패키징' 기술 앞서나가

HBM은 D램 여러 개를 쌓고 연결해서 만든다. 웨이퍼 상태의 칩을 기기에 부착할 수 있는 상태로 만드는 '패키징' 기술이 경쟁력의 핵심으로 꼽힌다. 패키징을 통해 여러 개의 칩을 쌓고 연결해 기존 칩의 4배, 16배 이상의 용량을 만들어내기도 한다. 패키징 기술을 통해 HBM 같이 부가가치가 높은 반도체를 만들어낼 수 있는 것이다.

불과 5년 전만 해도 패키징에 대해 '이익률이 낮은, 중요성이 떨어지는 사업'이란 평가가 많았다. SK하이닉스는 조용히 패키징 경쟁력을 높이며 미래를 준비했다. D램과 패키징 부서 간 긴밀히 소통하며 경쟁사와 차별화되는 패키징 기술을 개발했다. 협력사와의 장기 계약을 통해 핵심 소재를 독점적으로 조달받았다.

2007년엔 웨이퍼레벨패키징(WLP)을 발전시켰다. 웨이퍼(반도체의 둥근 원판)에 그린 칩을 하나하나 잘라내 패키징하던 기존 방식과 달리, 칩을 잘라내지 않고 웨이퍼 상태에서 한 번에 패키징과 테스트를 진행한 이후 칩을 절단해 제품을 만드는 기술이다. WLP를 통해 패키징의 효율성을 크게 향상시켰다.

2010년엔 세계 최초로 '실리콘 관통 전극'이라고 불리는 TSV(through silicon via)를 활용해 WLP 패키징 기술을 고도화했다. TSV는 일단 웨이퍼 상태의 칩을 수직으로 쌓고, 웨이퍼 위의 칩마다 위아래를 관통하는 구멍을 수천개 뚫고, 전기신호를 전달하는 금속 물질을 채워 연결하는 것이다. 기존 전기선(와이어)를 연결해 패키징하는 '와이어본딩 패키징'보다 칩들 간 신호를 주고받는 시간이 짧아진다. 속도와 소비전력을 획기적으로 개선할 수 있는 것이 장점으로 꼽힌다.

2013년 SK하이닉스가 D램을 쌓아 만드는 HBM을 세계 최초로 개발, 양산할 수 있었던 것도 TSV 기술의 발전 영향이 크다. SK하이닉스가 지난 4월 D램 칩 12개를 수직으로 쌓아 24GB 용량의 HBM3 제품을 개발한 것도 TSV 기술이 기반이 됐다.

칩의 열 방출 돕는 신기술로 성능 높여

HBM은 여러 D램 칩을 수직으로 연결하는만큼 패키징을 통해 열을 효율적으로 배출할 수 있게 하는 기술도 중요하다. SK하이닉스는 방열(열을 방출하는 기능)을 위하 'MR-MUF(mass reflow-molded under fill)' 기술을 개발했다. SK하이닉스 관계자는 "MR-MUF는 세계 최고의 방열 특성을 갖춘 칩 생산의 기반이 된다"고 설명했다.

MR-MUF는 반도체 칩을 쌓아 올린 뒤 칩과 칩 사이 회로를 보호하기 위해 '액체' 형태의 보호재를 공간 사이에 주입하고 굳히는 공정이다. 칩을 하나씩 쌓을 때마다 필름형 소재를 깔아주는 기존 방식 대비 공정 효율성이 높고 방열에 이점을 가질 수 있다.

D램 12개를 쌓은 HBM3가 GPU 등을 포함한 시스템반도체 통합칩셋(SoC)와 함께 패키징된 모습을 나타낸 개념도. /SK하이닉스 제공

SK하이닉스는 3세대 HBM 제품인 'HBM2E'부터 MR-MUF 기술을 적용했다. 앞서 설명한 12단 HBM3부터는 더 진보된 기술인 '어드밴스드 MR-MUF'를 도입했다. 어드밴스드 MR-MUF는 기존 MR-MUF 대비 얇아진 웨이퍼가 휘지 않도록 제어하는 기술과, 방열성이 높은 신규 소재를 활용한 것이 특징이다. 이를 통해 생산성은 약 3배, 열 방출은 약 2.5배 끌어올렸다.

SK그룹 경영진 "한 과목 잘 한다고 우등생이냐"...경계 늦추지 않아

SK하이닉스가 HBM 시장에서의 우위를 이어갈 수 있을까. "기술 경쟁력으로 HBM 시장을 선도해 나갈 계획"이라는 게 SK하이닉스의 다짐이지만 삼성전자도 발 빠르게 움직이고 있다.

삼성전자는 올초 고급 패키징 기술 개발과 서비스를 강화하기 위해 경계현 디바이스솔루션(DS)부문장(사장) 직속 AVP(advanced packaging)팀을 신설했다. GPU와 D램 등 이종(異種) 반도체의 패키징이 중요해지는 추세를 반영해 '종합적인 턴키 서비스'를 제공하려는 목적이다. 올 4분기께엔 HBM3를 본격 양산하고 엔비디아, AMD 등 AI 서버용 GPU업체에 납품할 것으로 전망된다. AVP팀이 있는 충남 천안캠퍼스에 수천억원을 투자해 HBM 생산능력을 두 배가량 늘린다는 얘기도 나온다.

업계에선 '수주형 산업'에 가까운 HBM의 특성 상 시장을 선점하고 고객사들과 긴밀한 관계를 구축해놓은 SK하이닉스의 강세가 당분간 이어질 것으로 전망된다. 하지만 30년 메모리 1위 역사를 통해 양산력과 기술력을 갖추고 있고, SK하이닉스보다 상대적으로 자금 동원이 쉬운 삼성전자가 언제든지 '역전의 발판'을 마련할 수 있을 것이란 전망도 나온다.

2021년 2월 SK하이닉스의 최신 D램공장 'M16' 준공식에서 인사말을 하고 있는 최태원 SK그룹 회장. /한경DB

최근 만난 SK그룹 고위 관계자는 SK하이닉스의 HBM 선전에 대해 "국어 한 과목 잘 한다고 우등생이라고 볼 수 있냐. 아직 (삼성전자에) 멀었다"고 답했다. '지나친 겸손'으로 볼 수 있지만 삼성전자 메모리사업부의 저력을 알기 때문에 긴장의 끈을 놓지 않겠다는 '합리적인 경계심'으로도 판단된다.

HBM 시장의 비중은 현재 전체 D램 시장의 '한 자릿 수' 수준으로 분석된다. HBM 시장의 성장 가능성은 무궁무진한 것으로 평가된다. AI 기술이 고도화될수록 HBM의 수요가 커질 수 밖에 없기 때문이다. 앞으로 펼쳐질 SK하이닉스와 삼성전자의 HBM 진검승부가 메모리반도체 시장 판도에 어떤 변화를 가져올 수 있을까. 시장과 반도체업계의 관심이 점점 커지고 있다.

황정수 기자 hjs@hankyung.com