업스테이지, 과기부 'AI 윤리·신뢰성 확보 릴레이 방문' 첫 일정

인공지능(AI) 스타트업 업스테이지가 과학기술정보통신부와 AI 윤리·신뢰성 강화를 위해 머리를 맞댄다.

업스테이지는 15일 과기부의 ‘AI 윤리·신뢰성 확산 위한 AI 대표기업 릴레이 방문’ 첫 번째 기업으로 선정했고 정부와 AI 윤리·신뢰성 확보 경험을 공유했다고 밝혔다.

이번 과기부의 형장 방문에는 박윤규 과기부 제2차관과 최동원 과기부 인공지능기반정책과장, 이강해 한국정보통신기술협회 이강해 단장, 아활석 업스테이지 최고기술책임자(CTO), 한지윤 업스테이지 데이터팀 리더, 손해인 업스테이지 마케팅팀 리더 등이 참석했다.

이활석 CTO는 업스테이지의 대표 AI 솔루션인 ‘다큐먼트 AI팩’과 120만명이 활용하는 국내 대표 챗AI ‘AskUp’를 활용, 추천/검색 서비스를 접목한 ‘AskUp Seargest’에 대한 소개와 서비스 시연을 진행했다.

참석자들은 서비스 시연 후 AI 윤리·신뢰성 확보 경험을 공유하고 애로 및 건의사항을 논의했다. 이활석 CTO는 다큐먼트 AI팩 적용시 클라우드 컴퓨팅 환경과 AI 모델 고도화를 위한 대량의 데이터 학습 과정에서 발생가능한 개인의 민감 정보 유출 방지 및 AI서비스 윤리 확보를 위해 데이터 관리 차원에서 대책을 마련했던 경험과 노하우를 공유했다.

박윤규 과기정통부 제2차관은 “인공지능이 산업과 우리 일상 속으로 빠르게 확산되고 있는 상황에서 기술개발부터 활용의 全 단계에서 윤리와 신뢰성을 확보하는 것이 산업발전의 전제조건이 되고 있다”며 “국내 기업이 자사 제품 및 서비스에 인공지능 윤리·신뢰성을 선제적으로 확보할 수 있도록 산업현장에 방문하여 애로사항과 지원 필요사항을 경청하고 인공지능 윤리·신뢰성 확산에 앞장서 나가겠다”고 밝혔다.

이 CTO는 “챗GPT 등 생성AI 시대가 열리며 챗GPT의 할루시네이션과 혐오발언등으로 AI 윤리와 신뢰성에 대한 논의가 가속화되고 있다“며 “업스테이지는 선도적인 AI 기술을 바탕으로 이번 행사를 포함 민관 논의 등 다양한 노력을 통해 AI기술 발전에 필수적인 윤리·신뢰성 확보를 위한 노력을 지속할 것”이라고 밝혔다.

김주완 기자 kjwan@hankyung.com