서울대 학내 벤처에서 개발한 ‘동형암호’ 원천기술이 글로벌 정보기술(IT) 업체 IBM의 인공지능(AI) 소프트웨어(SW)에 탑재된다. 빅데이터가 암호화된 상태로도 연산 처리를 가능하게 하는 동형암호는 AI 분야에서 정보 유출을 사전에 차단할 수 있는 유일무이한 기술로 평가된다. 그간 해당 분야는 IBM이 독자적으로 시장을 선도해왔다. 하지만 이번 탑재를 계기로 국내 토종 기술이 글로벌 표준을 주도할 발판을 마련하게 됐다는 평가가 나온다.

천정희 서울대 수리과학부 교수(사진)가 이끄는 동형암호 스타트업 ‘크립토랩’은 자체 개발한 4세대 동형암호 프로그램 ‘혜안’을 IBM의 AI SW ‘HE레이어스’에 탑재하는 라이선스 계약을 맺었다고 13일 밝혔다. 4세대 동형암호 기술이 상용 AI SW에 적용되는 것은 세계 최초 사례다.
동형암호는 2009년 IBM이 최초로 개발에 성공한 기술이다. 통상 컴퓨터는 암호화된 데이터를 연산할 수 없다. 민감 정보도 연산을 수행하려면 암호를 먼저 풀어야 했기 때문에 정보 유출 위험은 항상 존재했다. 기술적 난도도 상당했다. 2009년 1세대 기술이 탄생한 이후 나눗셈을 제외한 사칙연산 구현과 정수 연산까지 포괄할 수 있는 체계가 개발됐다. 하지만 실수 연산과 나눗셈 연산이 사실상 불가능하다는 점은 최근까지도 동형암호 기술의 한계로 지목돼 왔다.

크립토랩은 2016년 실수와 나눗셈 연산이 가능한 세계 최초 4세대 알고리즘을 개발하고 고도화 작업을 지속해왔다. 원천기술을 녹여낸 혜안은 현재 가장 널리 사용되는 동형암호 프로그램인 마이크로소프트(MS)의 ‘SEAL’보다 90배 빠르다. AI SW들과 호환성이 좋아 업계의 기대도 크다. 천 교수는 “모든 연산이 암호화된 상태에서 이뤄지기 때문에 AI가 내 정보로 오작동을 일으키거나 해킹을 당하는 문제에서 모두 자유롭다”고 설명했다.

천 교수는 ‘암호학의 대가’로 불리는 25년 경력의 전문가다. 동형암호에 관심을 가진 것은 1세대 기술이 나온 직후다. “세상을 바꿀 기술이란 확신이 있었습니다. 5년은 투자할 각오로 동형암호 논문에 필요한 기초 수학 공부부터 다시 시작했죠.”

2017년 크립토랩을 세우면서는 상용화도 준비해왔다. 현재까지 특허 출원만 45건에 달한다. 인력은 31명까지 늘었다. 서울대·KAIST·포스텍을 졸업한 컴퓨터공학·수학 박사 전공자가 절반에 달한다. 2019년까지 과학기술정보통신부의 연구 지원도 받았다.

크립토랩은 2024년을 목표로 국제표준화기구(ISO)를 통해 혜안의 글로벌 표준 제정을 추진할 예정이다. ‘세계 최초 프라이버시 보호 AI SW’를 표방하며 상용화 포트폴리오를 쌓아 간다는 계획이다. 천 교수는 “동형암호는 데이터 노출의 위험성 없이 AI를 ‘완벽한 하인’으로 만들 수 있는, 무궁무진한 가능성의 기술”이라며 “한국 토종 기술이 글로벌 중심이 될 수 있도록 연구를 이어가겠다”고 말했다.

■ 동형암호란

컴퓨터가 암호화된 빅데이터도 연산할 수 있도록 지원하는 기술. 최근 인공지능(AI) 발달과 함께 데이터 보안이 강조되면서 쓰임이 늘고 있다. 2009년 IBM이 최초로 개발했다.

이시은 기자 see@hankyung.com