네이버 하이퍼클로바X, 한국어 성능 평가서 GPT-4 능가
입력
수정
네이버가 개발한 거대언어모델(LLM) '하이퍼클로바X'가 한국에 특화한 문제 해결 능력에서 오픈AI와 구글의 LLM 보다 우수한 성능을 보인 것으로 나타났다.
네이버클라우드는 '하이퍼클로바X'가 한국판 인공지능(AI) 성능 평가 체계 'KMMLU'서 오픈AI·구글의 생성형 AI 보다 높은 점수를 받았다고 27일 밝혔다.KMMLU는 국내 대표 오픈소스 언어모델 연구팀인 '해례'가 이끄는 AI 성능 평가 지표 구축 프로젝트다. 인문학, 사회학, 과학·기술 등 45개 분야에서 전문가 수준의 지식을 묻는 3만 5030개의 질문으로 구성돼 있다. 평가 문항은 수학적 추론 능력과 같이 전세계 공통으로 적용 가능한 지식을 묻는 비중이 약 80%, 한반도 지리·국내법 등 한국 특화 문제 해결 능력을 평가하기 위한 비중이 20%로, AI의 보편적 능력과 로컬 지식을 고르게 측정해 한국 사용자에게 유용한 AI를 종합적으로 판단할 수 있다. 또한 KMMLU는 한국어 원본의 시험 문제들로 구성돼 국내외 AI의 한국어 이해 역량도 정확하게 평가할 수 있다.
KMMLU에 따르면 하이퍼클로바X는 오픈AI의 'GPT-3.5 터보'나 구글의 '제미나이-프로' 보다 높은 점수를 기록했다. 한국 특화 지식 기준으로는 오픈AI의 'GPT-4' 보다도 높은 점수를 기록해 교육·법률 등 로컬 정보의 중요성이 큰 산업 분야에서는 하이퍼클로바X의 강점이 드러났다.
네이버클라우드는 KMMLU를 통해 입증된 성능 경쟁력을 바탕으로 하이퍼클로바X를 보안과 성능을 모두 갖춘 '소버린 AI' 솔루션으로 발전시켜나가겠다는 계획이다. 소버린 AI는 국가의 데이터 주권과 규제 준수를 보장하기 위해 개발된 AI 기술을 의미한다.성낙호 네이버클라우드 하이퍼스케일 AI 기술 총괄은 "자국어 중심 AI에 대한 전세계적 수요가 관찰되는 만큼 한국에서 확인한 소버린 AI의 경쟁력을 바탕으로 향후 글로벌 시장 진출에도 속도를 낼 것"이라고 밝혔다.
박해린기자 hlpark@wowtv.co.kr
네이버클라우드는 '하이퍼클로바X'가 한국판 인공지능(AI) 성능 평가 체계 'KMMLU'서 오픈AI·구글의 생성형 AI 보다 높은 점수를 받았다고 27일 밝혔다.KMMLU는 국내 대표 오픈소스 언어모델 연구팀인 '해례'가 이끄는 AI 성능 평가 지표 구축 프로젝트다. 인문학, 사회학, 과학·기술 등 45개 분야에서 전문가 수준의 지식을 묻는 3만 5030개의 질문으로 구성돼 있다. 평가 문항은 수학적 추론 능력과 같이 전세계 공통으로 적용 가능한 지식을 묻는 비중이 약 80%, 한반도 지리·국내법 등 한국 특화 문제 해결 능력을 평가하기 위한 비중이 20%로, AI의 보편적 능력과 로컬 지식을 고르게 측정해 한국 사용자에게 유용한 AI를 종합적으로 판단할 수 있다. 또한 KMMLU는 한국어 원본의 시험 문제들로 구성돼 국내외 AI의 한국어 이해 역량도 정확하게 평가할 수 있다.
KMMLU에 따르면 하이퍼클로바X는 오픈AI의 'GPT-3.5 터보'나 구글의 '제미나이-프로' 보다 높은 점수를 기록했다. 한국 특화 지식 기준으로는 오픈AI의 'GPT-4' 보다도 높은 점수를 기록해 교육·법률 등 로컬 정보의 중요성이 큰 산업 분야에서는 하이퍼클로바X의 강점이 드러났다.
네이버클라우드는 KMMLU를 통해 입증된 성능 경쟁력을 바탕으로 하이퍼클로바X를 보안과 성능을 모두 갖춘 '소버린 AI' 솔루션으로 발전시켜나가겠다는 계획이다. 소버린 AI는 국가의 데이터 주권과 규제 준수를 보장하기 위해 개발된 AI 기술을 의미한다.성낙호 네이버클라우드 하이퍼스케일 AI 기술 총괄은 "자국어 중심 AI에 대한 전세계적 수요가 관찰되는 만큼 한국에서 확인한 소버린 AI의 경쟁력을 바탕으로 향후 글로벌 시장 진출에도 속도를 낼 것"이라고 밝혔다.
박해린기자 hlpark@wowtv.co.kr