조의웅 유아이패스코리아 지사장이 AI 오케스트레이션에 대해 설명하고 있다. 유아이패스코리아 제공
조의웅 유아이패스코리아 지사장이 AI 오케스트레이션에 대해 설명하고 있다. 유아이패스코리아 제공
생성 인공지능(AI)이 기업 생산성에 직결되는 시대가 왔다. 업무 효율화 도구를 공급하던 빅테크들이 잇따라 업무별 AI 비서(에이전트)를 공급하거나 이 에이전트를 만들 수 있는 솔루션을 내놓기 시작했다. 업무 전반에 걸쳐 AI 에이전트를 맞춤 제공하는 ‘AI 오케스트레이션’ 역량이 정보기술(IT) 기업의 성패를 가를 것이란 업계 전망이 나온다.

업무별로 AI 에이전트 만든다

27일 IT 업계에 따르면 업무 자동화 기업인 미국 유아이패스는 맞춤형 AI 에이전트 제작 솔루션인 ‘에이전트 빌더’의 공개 평가를 이달 시작했다. 일부 해외 고객사가 이 솔루션을 쓰면서 효용을 확인하는 단계다. 에이전트 빌더를 쓰면 전자송장, 재고관리, 고객대응 등 업무별로 쓸 수 있는 AI 에이전트를 기업이 알아서 만들 수 있다. 개발 전공자가 아니더라도 이 솔루션을 활용해 업무를 자동화하는 게 가능한 수준이다.

에이전트 빌더는 반복 업무를 자동화하는 소프트웨어 로봇인 로봇 프로세스 자동화(RPA) 기술과 생성 AI 에이전트를 함께 지원한다. 업무별로 필요한 RPA나 챗GPT, 퍼플렉시티, 클로드 등 여러 거대언어모델(LLM)을 이용자 취향에 맞게 골라 쓰는 방식이다. 과거엔 RPA와 AI 에이전트를 따로 써야 했다. 두 과정을 통합하는 절차가 없다 보니 기업 입장에선 생성 AI를 업무에 도입하더라도 이에 따른 생산성 향상 효과를 체감하기가 어려웠다.

유아이패스는 내년이면 국내 대기업 2~3곳에서 에이전트 빌더의 적용 효과를 확인할 수 있을 것으로 예상하고 있다. 조의웅 유아이패스코리아 지사장(사진)은 “클라우드 기반으로 에이전트 빌더를 우선 공급할 것”이라며 “업무별로 쓸 수 있는 에이전트 템플릿도 다양하게 선보여 기업들의 선택지를 넓히겠다”고 말했다.

AWS·MS도 AI 오케스트레이션 경쟁

유아이패스가 에이전트 생성 솔루션을 내놓은 데엔 AI 오케스트레이션 시장의 주도권을 놓치지 않겠다는 의도가 깔려있다. 업무 전반에 쓰이는 AI를 통합 관리해 수익을 내겠다는 전략이다. 유아이패스가 그간 집중했던 사업은 RPA였다. RPA는 반복 업무를 정확히 수행하는 데 특화돼 있다. 변수가 많거나 판단이 필요한 작업에는 적용이 어렵다.
유아이패스의 업무 맞춤형 AI 에이전트 생성 플랫폼인 '에이전트 빌더'. 유아이패스 포럼 웹사이트 캡처
유아이패스의 업무 맞춤형 AI 에이전트 생성 플랫폼인 '에이전트 빌더'. 유아이패스 포럼 웹사이트 캡처
반면 생성 AI는 나름의 판단이 가능하지만 정확도가 떨어진다. 유아이패스는 생성 AI가 사람처럼 RPA를 쓰도록 해 복잡한 업무로 자동화 범위를 넓히면서 정확도도 끌어올렸다. 사람은 AI가 하기 어려운 의사결정을 내리고 결과물을 검토하기만 하면 된다. 조 지사장은 “RPA와의 연계 등으로 AI 에이전트 시장이 커지면서 애플리케이션 프로그래밍 인터페이스(API), 업무 과정 분석 기법인 프로세스 마이닝 등 다른 기술도 함께 고도화할 것”이라며 “내년부터는 기업 업무 전반에 쓰이는 AI를 통합 관리하는 AI 오케스트레이션 역량이 중요해질 것”이라고 내다봤다.

다른 빅테크들도 AI 오케스트레이션 시장을 선점하기 위한 솔루션을 내놓고 있다. 아마존웹서비스(AWS)는 AI 솔루션 플랫폼인 ‘아마존 베드록’에 멀티 에이전트 관리 기능을 도입한다고 지난 5일 발표했다. 이 기능의 핵심은 여러 에이전트를 통합 관리하는 ‘슈퍼바이저 에이전트’다. AWS는 에이전트를 관리하는 상위 에이전트를 마련해 업무마다 따로 쓰이는 에이전트들을 이용자가 오케스트라처럼 한눈에 조율할 수 있도록 했다.
세일즈포스가 지난 17일 공개한 맞춤형 AI 에이전트 생성 플랫폼인 '에이전트포스 2.0'. 세일즈포스 제공
세일즈포스가 지난 17일 공개한 맞춤형 AI 에이전트 생성 플랫폼인 '에이전트포스 2.0'. 세일즈포스 제공
세일즈포스도 업무 맞춤형 에이전트 생성 플랫폼인 ‘에이전트포스 2.0’을 지난 17일 공개했다. 이 플랫폼도 영업, 고객관리, 마케팅 등 업무별로 쓸 수 있는 AI 에이전트를 만드는 기능을 제공한다. 마이크로소프트도 기업용 서비스인 ‘다이내믹365’에서 업무별로 쓸 수 있는 AI 에이전트 10종을 지난 10월 공개했다. 업계 관계자는 “대부분의 업무 맞춤형 AI 에이전트는 클라우드 기반”이라며 “이 에이전트들이 효용을 입증하면 기업들의 클라우드 전환 압박이 더 커질 것”이라고 설명했다.

이주현 기자 deep@hankyung.com