초거대 AI, 취약점 찾는다…네이버, 검증대회 파트너로 참여

생성형 AI 레드팀 챌린지 내달 개최
네이버, 대표 파트너사로 참여
하이퍼클로바X로 안전성 검증

네이버가 다음 달 11~12일 개최되는 '생성형 AI 레드팀 챌린지'에 대표 파트너사로 참여한다. 생성형 AI 레드팀 챌린지는 초거대 언어모델(LLM)의 안전성·신뢰성·보안을 강화하기 위한 방법을 모색하는 행사다. 기술이나 서비스 취약점을 발견·검증하기 위해 의도적으로 공격하는 역할을 맡는 팀을 '레드팀'이라고 부른다.

네이버는 21일 과학기술정보통신부가 주최하고 한국정보통신기술협회(TTA)·초거대AI추진협의회가 주관하는 이번 행사에 대표 파트너사로 참여한다고 밝혔다.

행사 첫째 날에는 실제 서비스 중인 LLM에 참가자들이 모의로 프롬프트 공격을 가해 모델의 안전성을 검증하는 대회가 열린다. 네이버는 참가자들이 국내 최고 수준의 LLM을 검증할 수 있도록 자체 개발한 초대규모 AI 하이퍼클로바X를 제공한다.

이 대회는 전공과 상관없이 AI 윤리, 안전에 관심이 있는 누구나 사전 신청을 거쳐 참여할 수 있다. 우수 참가자들에게는 총 1700만원 상당의 상금이 주어진다.

둘째 날에는 안전한 AI 개발을 주제로 국내·외 AI 기술 리더들의 발표와 의견이 공유되는 콘퍼런스가 진행된다.

네이버는 대표 파트너사로 이번 행사를 운영한다. LLM 안전성 검증·강화, 안전한 AI 개발을 위한 전문가 논의에도 적극적으로 참여할 예정이다. 하정우 네이버 퓨처 AI 센터장은 안전한 AI 개발을 위한 노력을 소개한다. 김유원 네이버클라우드 대표는 초거대AI추진협의회 대표 자격으로 축사를 맡는다.

하 센터장은 "하이퍼클로바X의 안전성을 검증·강화하는 것은 물론 여러 선행 연구와 서비스 운영 경험을 통해 쌓아온 네이버의 AI 안전성 기술 역량과 노하우를 공유할 것"이라고 했다.

김대영 한경닷컴 기자 kdy@hankyung.com