"한국어 답변 GPT-4보다 낫다"…오픈AI·구글 제친 '하이퍼클로바X'

KMMLU, 45개 분야 3만5030개 문항으로 구성, 한국 특화 지식 측정
하이퍼클로바X, GPT-3.5-Turbo와 Gemini Pro보다 높은 평균 점수 기록

하이퍼클로바X 로고/사진=네이버클라우드 제공

네이버클라우드는 하이퍼클로바X(HyperCLOVA X)가 한국판 인공지능(AI) 성능 평가 체계(KMMLU)에서 오픈AI, 구글의 생성형 AI보다 높은 점수를 기록했다고 27일 밝혔다.

KMMLU는 국내의 대표적인 오픈소스 언어모델 연구팀인 해례(HAE-RAE)가 이끈 AI 성능 평가 지표 구축 프로젝트로 인문학, 사회학, 과학·기술 등 45개 분야에서 전문가 수준의 지식을 묻는 3만5030개 문항으로 구성돼 있다.

수학적 추론 능력과 같이 전 세계 공통으로 적용할 수 있는 광범위한 지식을 묻는 문항 비중이 약 80%, 한반도 지리, 국내법 등 한국 특화 문제 해결 능력을 평가하기 위한 문항은 20%로, AI의 보편적 능력과 로컬 지식을 고르게 측정해 한국 사용자에게 유용한 AI를 종합적으로 판단할 수 있다.

오픈AI, 구글 등 북미 테크 기업들이 자사 AI 성능을 확인하기 위해 주로 사용하는 지표인 MMLU를 한국어로 번역하는 경우 문항의 부정확한 번역과 여러 문제에 내재한 영어권 국가만의 문화적 맥락 때문에 AI 모델의 한국어 능력을 제대로 가늠하기 어려운 한계가 있었다.
그러나 KMMLU을 통해 한국어 원본의 시험 문제들로 구성되어, 국내·외 AI의 한국어 이해 역량도 보다 정확하게 평가할 수 있다.

KMMLU 연구 논문에 따르면 하이퍼클로바X는 오픈AI의 GPT-3.5-터보(Turbo)와 구글의 제미나이 프로(Gemini Pro)보다 높은 점수를 기록했다. 한국 특화 지식 기준으로는 오픈AI의 GPT-4보다도 높은 점수를 기록했다.

네이버클라우드는 KMMLU를 통해 입증된 하이퍼클로바X의 성능 경쟁력을 바탕으로, 하이퍼클로바X를 보안과 성능을 모두 갖춘 '소버린(Sovereign) AI' 솔루션으로 발전시켜나가겠다는 계획이다.

성낙호 네이버클라우드 하이퍼스케일 AI 기술 총괄은 "하이퍼클로바X는 세계 공통의 보편 지식에 한국 특화 문제 해결 능력을 더한 소버린 AI로 우수한 성능과 강력한 보안을 갖춘 솔루션과 함께 국내 산업계 전반에서 도입이 이뤄지고 있다"며 "자국어 중심 AI에 대한 전 세계적 수요가 관찰되는 만큼, 한국에서 확인한 소버린 AI의 경쟁력을 바탕으로 향후 글로벌 시장 진출에도 속도를 낼 것"이라고 말했다.

유지희 한경닷컴 기자 keephee@hankyung.com