'AI 대장' 필요할까…1세대 데이터과학자의 답변은 [긱스플러스]

스타트업 CAIO 증가…전문가에 '역할론' 물었더니
'할 수 있는 일' 구분하고 사내 AI 기대감 낮추는 직책
"CAIO는 조직 내 번역가…항상 비개발 직군 가까워야"

최고인공지능책임자(CAIO) 직책 신설이 늘고 있습니다. AI 도약이 만든 결과입니다. 산업 구조 변화에 따른 자연스러운 흐름이란 시각과, 시류에 편승해 ‘수요 없는 C레벨’을 만들고 있다는 지적이 대립하고 있습니다. 하용호 인덴트코퍼레이션 초대 CAIO는 이런 분위기 속에서 최근 관련 업무를 시작했습니다. 그는 국내 1세대 데이터사이언티스트, 회사를 매각한 창업가, 기술 스타트업에 투자했던 벤처캐피털(VC)의 대표자 출신입니다. 명함이 여러 가지였던 그도 스타트업 CAIO라는 직책은 연구 대상이었습니다. 한경 긱스(Geeks)가 당사자가 된 하 CAIO를 만나 AI 조직장의 ‘역할론’에 관해 물었습니다. “CAIO가 ‘조율자’가 될 수 없다면, 없는 것만 못하다”는 것이 결론입니다.

2014년 강연 프로그램 '세상을 바꾸는 시간 15분(세바시)'에 출연한 하용호 인덴트코퍼레이션 CAIO. 당시 국내에서 생소한 데이터과학자 직업을 소개해 화제를 모았다. 세바시강연톡 유튜브채널 캡처.

챗 GPT가 바꿔낸 산업 풍경은 여럿이다. 수익성 여부를 떠나, 기업들 대응만큼은 신속했다. 법률 상담, 의료 행정 대체 등 GPT 시리즈 기반 응용 프로그램이 쏟아졌다. 또 한 가지 주목할 변화는 CAIO 직책의 신설이었다. CAIO 확산 예측은 과거에도 존재했다. 2017년 분석 솔루션 업체 테라데이타는 “향후 62% 기업이 CAIO를 고용할 계획”이라는 조사 결과를 내놓기도 했다. 하지만 CAIO를 제대로 부상시킨 것은 지난해 11월 챗 GPT의 등장이란 평가가 나온다. 아직은 신설 초기 단계지만, 대기업인 현대중공업부터 올거나이즈 등 스타트업까지 규모를 가리지 않는 추세다.

하용호 인덴트코퍼레이션 초대 CAIO는 직을 수락하기 전까지 많은 고민을 거쳤다. 거쳐온 경험을 복기하며 스타트업 CAIO의 역할에 대해 따졌다. 그는 2007년 티맥스소프트에서 대용량 데이터 처리기술을 담당하며 개발자 일을 시작했다. 이후 KTH(현 KT알파)와 SK텔레콤 빅데이터 태스크포스(TF)를 거치며 국내 1세대 데이터사이언티스트로 자리 잡았다. 스타트업 넘버웍스를 창업해 카카오에 매각하고, 카카오에서 일하다 투자사인 XYZ벤처파트너스 공동대표를 맡기도 했다. 최근까진 여러 스타트업의 최고기술책임자(CTO)와 고문 역할을 했다. 대중에겐 강연 프로그램 ‘세상을 바꾸는 시간 15분(세바시)’ 출연자로 이름을 알린 바 있다.

CAIO는 대표의 '환상'을 깨주는 인물

게티이미지뱅크

그는 “CAIO는 조직 내 ‘번역가’이자 ‘조율자’로 활동해야 한다”며 “이걸 못하면 직무 유기”라고 단언했다. 스타트업 내 AI 조직은 통상 최고기술책임자(CTO) 산하에 있다가 독립하는 경우가 많다. 관성대로 평범한 개발자처럼 일하며, 주요 협력팀을 기술직군으로 한정하는 순간 실패는 찾아온다는 설명이다. 하 CAIO는 “CTO가 아니라 최고제품책임자(CPO), 최고마케팅책임자(CMO)가 AI를 함께 논할 대상”이라며 “이를 위해선 AI로 풀어나갈 문제와 일반 개발 문제를 제대로 나누는 것부터가 시작”이라고 말했다.

CAIO는 단어 뜻 그대로 기업의 AI 활용을 책임진다. 활용의 의미는 대체로 광범위하다. AI를 자사 서비스에 접목하는 업체도, 원천 기술을 개발해 타사에 파는 곳도 포함될 수 있다. 하지만 적용에 초점을 맞춘다면, 공통된 특성이 생겨난다. 하 CAIO는 “사내 AI 개발은 마치 어려운 수학 문제와 같다”고 했다. “시도해보기 전까진 풀 수는 있을지, 얼마나 시간이 걸릴 수 있을지 모르는 속성이 AI와 동일하다”는 것이다. 따라서 CTO 조직이 가져갈 개발 건수는 ‘시간을 투입한다면 확정적으로 해결할 수 있는 문제점’, AI 조직은 해결 시점이 모호한 장기 과제를 담당해야 한다고 조언했다.

다만 회사 대표 입장에서 이 구분은 쉽지 않다. 하 CAIO는 AI 책임자가 이런 과제별 담당을 명확하게 구분 짓고, 창업가가 지닌 AI에 대한 환상을 깨는 역할을 해야 한다고 말했다. 그는 고객 상담 센터를 대리로 운영하는 한 기업을 예시로 들었다. “회사 대표가 GPT 시리즈가 서비스를 혁신할 수 있다는 얘기를 누군가에게 듣고 온 것입니다. 상반기에 자주 벌어졌던 상황이죠. 이럴 때 사내 CAIO는 소속 기업의 역량을 파악하고, GPT 시리즈가 가진 가능성과 한계 사이 ‘모호한 경계면’을 잘라낼 수 있어야 합니다.”

회사 대표가 상담원을 GPT로 모두 대체할 수 있다는 환상을 품고 왔다면, 파괴적 변화가 불가능하다는 선을 제대로 그어주는 것이 첫 번째 역할이라는 것이다. 이어 ‘Speech-to-Text(S2T)’ 기술과 GPT의 언어 처리 기능을 결합해 과거 상담 요약 기능을 직원에게 제공하는 일이 가능하다는 의견을 내놓는 것이 CAIO의 두 번째 역할이라고 전했다. 그는 “CAIO가 이른바 ‘비파괴적 개선’에 대한 의사결정을 마치고 나면, CTO는 그 이후 투입돼 자사 플랫폼에 개발될 AI 기술을 어떻게 연합시킬지 실질 계획을 짜야 한다”고 말했다. 해당 구조는 그가 인덴트코퍼레이션에서 가장 우선해서 지키고 있는 철칙이기도 하다.

시장 알도록…"개발자, 영업팀 옆으로 보내라"

하용호 인덴트코퍼레이션 CAIO. 인덴트코퍼레이션 제공

앞서 하 CAIO가 일했던 XYZ벤처파트너스는 미국의 스웨트에쿼티벤처스를 표방했다. 2018년 설립된 스웨트에쿼티벤처스는 돈 대신 개발자 등 전문가를 파견하고 지분을 받는다. 자금은 숨통이 트였지만, 인재 채용에 어려움을 겪는 스타트업이 많다는 점에서 착안했다. 그는 도합 40개 스타트업을 지원해왔다. 투자자임과 동시에 다수 회사의 개발자로 일했기에, 조직에 필요한 AI 엔지니어와 개발자 운용 방식은 무엇인지 몸으로 겪어왔다고 했다. 그가 기술 조직과 다른 팀 사이의 ‘스몰토크’를 강조하는 이유다.

하 CAIO는 “하다못해 개발자들 자리라도 서비스나 영업 조직 옆에다가 붙여라”고 조언했다. 이는 CAIO가 유념해야 할 조치지만, CTO 산하 조직도 마찬가지라고 강조했다. 스타트업 기술 조직이 사업팀과 교류가 없다면 개발자는 기술적 근거에 의해서만 서비스를 만든다는 것이다. 자리 배치는 현실적으로 사업팀과 개발 조직을 합칠 수 없다면 최소한 마련하는 장치다. 그는 “리더들끼리 회의를 잡는다거나, 공식적인 회의 자리를 자주 만든다고 교류가 늘거나 시장 친화적 개발이 이루어지진 않는다”며 “어차피 이렇게 잡히는 공식적 회의는 유의미한 정보 교환이 없다”고 말했다. “오히려 화학적 융합의 ‘디테일’은 시시콜콜한 잡담에서 나올 수 있다”며 “주고받는 말 한마디가 개발자들의 ‘감’을 키우게 된다”고 덧붙이기도 했다. 실제로 인덴트코퍼레이션 AI 개발자의 자리는 프로젝트매니저(PM)와 영업팀 사이에 위치한다.

기술 부채와 인력난을 제대로 해소하는 것도 중요하다고 했다. 기술 부채는 개발 조직이 조금씩 쌓아나가는 숙제다. 하 CAIO는 “서비스를 특정 시기에 출시하려다 보면 당연히 원래 붙이려던 기능을 미처 붙이지 못하는 경우가 생긴다”며 “얼기설기 만들어놨던 프로그램 일부가 덧대지다가 나중에 탈이 날 수 있기에, 개발 계획과 개·보수 작업 사이의 적절한 균형을 판단하는 것이 중요하다”고 했다. 채용과 관련해선 “당신의 회사를 모른다는 것을 기본으로 가정하라”고 조언했다. “채용 플랫폼에 매력적인 프로필을 발견하면, 기술 직군 C레벨이 직접 회사 소개와 최근 집중하는 문제 풀이를 해설하는 메일을 보내는 것이 유효했다”는 것이다.

데이터의 진화…금융·커머스 CAIO 분화 늘 것

게티이미지뱅크

그는 지난해 인덴트코퍼레이션에 합류했다. 당시 직책은 최고데이터책임자(CDO)였다. 하 CAIO는 “데이터가 회사에 제대로 된 의사결정을 내리게 한다는 의미에서 CAIO로의 분화는 자연스러운 일”이라고 했다. 실제로 스타트업 현장의 AI 인력 상당수는 데이터 전문가들이 채우고 있다. 현재 C레벨 직무를 감당할 만한 10년 차 이상 경력자들 사이에서, 학계 일부를 제외하고는 AI 정규 교육과정을 누린 인물은 드물다.

당시 일선 컴퓨터공학과에선 AI를 제대로 가르치지 않았다. 고연차 AI 엔지니어 중 독학 출신이 많은 이유다. 상황이 이러다 보니, AI 활용과 밀접한 검색 엔진이나 데이터베이스(DB) 개발을 맡던 인물들이 특히 AI 공부에 관심을 가졌고, 업계에 포진하기 시작했다. 그 역시도 15년 전, 국내 최초로 사용이 시작된 클라우드 프레임워크(개발 도구)를 만지던 개발자였다. AI의 먹거리인 데이터와 가까이 지내다 보니 AI 숙달은 당연한 수순이었다.

그는 앞으로 데이터를 다루던 많은 스타트업에서 CAIO가 필요해질 것으로 내다봤다. 마치 데이터과학자들이 AI를 배우기 시작했던 흐름과 같다. 대표적인 분야론 고객 데이터가 가장 많이 발생하는 커머스를 꼽았다. 하 CAIO는 이를 “순간의 결정이 곧바로 순이익과 직결되는 분야”라고 묘사했다. 2018년 창업된 인덴트코퍼레이션은 AI 기반 리뷰 마케팅 솔루션을 운영한다. 사용자가 남기는 리뷰를 모으고 AI로 분석을 진행해, 고객사가 어떤 마케팅을 펼쳐야 하는지를 조언한다. 커머스 회사 다수가 고객이란 점에서 CAIO 발현은 필연이었다.

그는 “회사의 자연스러운 활동에서 데이터가 쌓이는 구조라는 점이 매력적”이라고 했다. 연내 집중할 과제는 리뷰에 대한 보다 직접적인 AI 적용이다. 특정 제품의 고객 반응이 안 좋아지면, 데이터를 주시하던 AI가 먼저 발견하고 어떤 부분이 문제인지를 짚어 보고하는 프로그램을 만든다는 계획이다. 하 CAIO는 “금융 등 CAIO가 탄생할 분야가 더 남아있다”며 “데이터의 선순환 성장 체계를 만드는 조직장이 경쟁력을 갖게 될 것이며, 스스로도 그 체계를 강화하도록 힘쓸 예정”이라고 전했다.

이시은 기자 see@hankyung.com