삼성, 알파고 방식으로 반도체 공정 혁신

AI가 스스로 문제 설정 후
공정 과정서 만들어진
데이터 활용해 효율 극대화

최근 수율하락까지 자체 예측
점검 요청하는 수준까지 지능화

삼성전자가 ‘2세대 알파고’ 방식을 적용해 메모리반도체 공정 혁신에 나선다. 인공지능(AI)이 공정 과정에서 생성된 데이터를 분석하고 활용도를 극대화해 반도체 생산혁신을 이루겠다는 게 목표다.

반도체 공정개선 AI가 주도

15일 전자업계에 따르면 삼성전자는 최근 AI 팹(fab·반도체 제조설비) 태스크포스(TF)를 구성했다. AI팹 TF는 빅데이터의 활용폭을 확대하기 위해 공정 지능화 관련 AI의 성능을 개선하는 것이 과제다. 이를 위해 지난 5월 바둑 세계 챔피언인 중국의 커제 9단에게 완승을 거둔 ‘2세대 알파고’ 방식을 적용할 예정이다. 이세돌 9단과 대결한 1세대 알파고는 인간 바둑기사들이 둔 기보 16만 개를 통해 바둑을 공부했지만 2세대 알파고는 부여된 바둑 규칙을 토대로 스스로 바둑하는 법을 익혔다. 인간의 방식에 얽매이지 않는 기발한 수가 많이 나온 이유다.

AI팹 TF는 이에 착안, 공정 개선이라는 큰 목표 아래 AI가 문제 설정과 구체적인 해결 방법까지 담당하는 시스템을 설계할 예정이다. 과거 지능화 공정 관련 AI가 “A는 B인가”라는 질문에 ‘네’ 혹은 ‘아니오’라는 답만 내놨다면 새로 설계되는 AI는 문제 인식 과정에서 ‘A가 B가 아니라 B가 A다’는 식으로 인과관계를 뒤집거나 ‘A와 C가 B다’라며 문제 설정 당시에는 몰랐던 새로운 인자를 제시해 복합적인 문제해결 시도를 한다는 설명이다. 삼성전자 관계자는 “메모리반도체는 공정 미세화가 진척되는 과정에서 생산 단계가 늘어나 곳곳에 병목이 생기면서 웨이퍼 기준으로는 생산량이 오히려 10~20% 감소한다”며 “AI를 통해 이런 손실을 대폭 줄일 것”이라고 말했다.

공정 지능화로 병목현상 해소

삼성전자는 2010년을 전후로 AI와 빅데이터를 이용해 메모리반도체 공장 지능화를 추진해왔다. 60~80단계에 이르는 메모리반도체 공정의 복잡성 때문에 각 단계에 있는 생산설비에 물량을 잘못 배정하면 병목현상이 생겨 생산효율이 떨어진다. 2010년 이전만 해도 경험이 많은 공정 엔지니어가 공정 흐름을 관리했지만 공장 지능화에 따라 지금은 AI가 관련 결정을 내리고 있다.

하지만 AI가 실시간으로 취합된 빅데이터를 제대로 활용하지 못하고 그대로 폐기하는 문제가 발생하면서 AI의 업그레이드 필요성이 제기됐다. 기존 AI가 문제 해결에 필요한 데이터만 모으는 필터링을 거치면서 활용 가능 데이터가 크게 감소해 빅데이터가 ‘스몰데이터’로 바뀌는 현상을 해소해야 한다는 설명이다.

삼성전자 관계자는 “데이터 밀도가 떨어져 의미 있는 결과를 도출하지 못하는 사례가 종종 생기면서 데이터의 사용 폭을 넓히는 것이 과제로 떠올랐다”며 ‘2세대 알파고’ 방식의 AI 개발에 나선 배경을 설명했다. 공정 과정에서 발생한 대량의 데이터 중 사람은 의미를 알 수 없었던 데이터까지 활용해 공정 효율을 높일 다양한 방안을 제시할 것으로 회사 측은 기대하고 있다.

김상훈 산업연구원 연구위원은 “반도체와 철강 등 자본재 비중이 큰 산업에서는 일찍부터 공정 스마트화가 이뤄졌다”며 “컴퓨팅 파워 확대로 AI 성능이 크게 개선되면서 데이터 이용 범위를 넓히기 위한 시도도 활발해지고 있다”고 말했다.

노경목 기자 autonomy@hankyung.com