국민 1000명이 모여 네이버·SKT AI 취약점 찾는다

과기정통부, 다음달 11~12일 생성형 AI 레드팀 챌린지 행사 개최
AI 취약점 공개 점검
우수 참가자 5명에 장관상과 상금 수여

국민 1000명이 모여 네이버와 SK텔레콤 등 국내 테크 기업의 생성형 인공지능(AI) 서비스의 취약점을 찾는 행사가 열린다.

과학기술정보통신부와 한국정보통신기술협회는 ‘생성형 AI 레드팀 챌린지’를 다음 달 11일부터 이틀간 서울 강남구 삼성동 코엑스에서 연다고 21일 발표했다. AI 윤리와 안전에 관심이 있는 국민을 대상으로 참가자 1000여명도 모집한다.

AI 레드팀은 통제된 환경에서 적대적 방법을 사용해 AI 시스템의 유해하거나 차별적인 결과, 시스템 오용 등 결함 취약성을 찾아내는 테스트 활동을 의미한다. 오픈AI, 구글, 네이버클라우드 등 국내외 AI 기업도 자체 AI 레드팀을 운영하는 등 AI 기업이 AI 안전 신뢰성을 확보할 수 있는 핵심적인 방법으로 손꼽힌다.

과기정통부는 챌린지 참가자가 대규모로 참여해 국내 AI 기업의 대규모언어모델(LLM)을 집중적으로 점검할 수 있는 자리를 마련한다고 설명했다.

행사 1일 차에 열리는 레드팀 챌린지는 네이버클라우드, SK텔레콤, 업스테이지, 포티투마루 등 국내 AI 기업의 모델을 대상으로 1000명의 참가자가 잠재적 위험 취약점을 식별하는 공개 챌린지 방식으로 진행된다.

이어 행사 2일 차에는 에이단 고메즈 코히어 대표, 에마드 모스타크 스테빌리티AI 대표, 하정우 네이버 퓨처AI 센터장, 에릭 데이비스 SK텔레콤 부사장 등 국내외 AI 기업과 기관의 전문가가 참여하는 글로벌 AI 안전 콘퍼런스가 열린다. 생성형 AI 안전 신뢰성 확보방안을 논의할 예정이다.

레드팀 챌린지에 참여한 AI 기업은 사용자 다양성을 반영한 평가 데이터세트를 확보하고, 자사 모델의 잠재적 위험과 취약점을 파악해 안전성과 신뢰성을 높일 수 있는 계기가 될 것으로 과기정통부는 기대했다. 챌린지 결과를 분석해 생성형 AI 분야의 공통적인 위험 요소를 도출하고, 업계에서 활용할 수 있는 생성형 AI 레드팀 수행 가이드라인을 마련하는 등 표준화된 대응체계도 구축한다는 방침이다.

챌린지 참가 희망자는 다음 달 10일까지 행사 홈페이지를 통해 신청할 수 있다. 날짜보다 빨리 1000명이 모집되면 사전 마감한다. 취약점을 가장 많이 발견한 5명의 참가자에게는 과기정통부 장관상과 총 1700만원 규모 상금이 제공된다.

강도현 과기정통부 2차관은 “레드팀 챌린지 행사를 계기로 국내 산업계에 AI 안전성 확보를 위한 자발적 노력이 확산하고, AI를 활용하는 일반 국민도 AI 윤리의 중요성에 대한 인식이 확대되길 기대한다”고 말했다.

이승우 기자 leeswoo@hankyung.com