멀티 클라우드 기업 VM웨어, 엔비디아와 손잡고 기업용 생성형 AI 플랫폼 내놓는다

사진=최진석 특파원

글로벌 멀티 클라우드 기업 VM웨어가 엔비디아와 손잡고 기업용 생성형 AI 플랫폼을 개발해 내놓는다. 기업이 생성형 AI를 자사 업무에 보다 안전하고 효율적으로 활용할 수 있는 솔루션이다.

VM웨어는 22일(현지 시각) 미국 라스베이거스 베네시안 컨벤션센터에서 열린 ‘VM웨어 익스플로어 2023’ 행사에서 ‘VM웨어 프라이빗 AI 파운데이션 위드 엔비디아’(프라이빗 AI 파운데이션)를 소개하며 “VM웨어의 클라우드 인프라에서 실행되는 수십만 개의 기업들이 생성형 AI 시대에 대비할 수 있도록 전략적 파트너십을 확대한다”고 발표했다.
기업은 프라이빗 AI 파운데이션 모델을 통해 지능형 챗봇, 어시스턴트, 검색, 요약 등 생성형 AI 애플리케이션을 실행할 수 있다. VM웨어 측은 이 플랫폼에 대해 “생성형 AI 소프트웨어와 엔비디아의 가속 컴퓨팅을 통합한 솔루션”이라며 “VM웨어 클라우드 파운데이션을 기반으로 구축됐으며 AI를 위해 최적화됐다”고 설명했다.

라구 라구람 VM웨어 최고경영자(CEO)는 “고객의 데이터는 데이터 센터, 엣지, 클라우드 등 어디에나 있다”라며 “VMware는 엔비디아와 함께 기업 데이터 개인 정보 보호, 보안, 제어 문제를 해결하면서도 데이터에 인접한 생성형 AI 워크로드를 안전하게 실행할 수 있도록 지원한다”라고 말했다.

엔비디아의 설립자이자 CEO인 젠슨 황도 이번 행사에 직접 참석해 새로운 서비스를 소개했다. 그는 “모든 기업이 자사의 비즈니스에 생성형 AI를 통합하기 위해 경쟁하고 있다”며 “VM웨어와의 확장된 협업은 금융 서비스, 의료, 제조 등에 걸쳐 수십만 명의 고객에게 자체 데이터로 구축된 맞춤형 애플리케이션을 활용해 생성형 AI의 잠재력을 실현하는 데 필요한 풀 스택 소프트웨어와 컴퓨팅을 제공할 것”이라고 말했다.

사진=최진석 특파원

이 플랫폼에 기업이 비용 효율적인 방식으로 자체 데이터에 대해 검증된 훈련 모델을 실행할 수 있도록 지원하는 통합 AI 도구들이 포함될 예정이다. 이를 통해 △개인 정보 보호 △다양한 클라우드 선택권 △성능과 효율 개선 △비용 절감 △스토리지(저장) 성능 및 네트워킹 가속화 등을 구현했다고 회사 측은 설명했다.

플랫폼에는 엔비디아 AI 엔터프라이즈(엔비디아 AI 플랫폼의 운영 체제)에 포함된 엔드 투 엔드 클라우드 네이티브 프레임워크인 엔비디아 니모가 포함돼 있다. 이를 통해 기업이 생성형 AI 모델을 거의 모든 곳에서 구축 및 배포할 수 있다. 니모는 사용자 지정 프레임워크, 가드레일 툴킷, 데이터 큐레이션 도구, 그리고 사전 훈련된 모델을 결합해 기업이 생성형 AI를 쉽고 효율적으로 채택할 수 있도록 도와준다고 회사 측은 설명했다. 니모가 적용된 프라이빗 AI 파운데이션에서 기업이 자체 데이터를 끌어와 VM웨어의 하이브리드 클라우드 인프라에서 생성형 AI 모델을 맞춤형으로 구축하고 실행할 수 있도록 한다.

프라이빗 AI 파운데이션은 델 테크놀로지스, 휴렛패커드엔터프라이즈, 레노버가 지원한다. 이들은 엔비디아 L40S GPU, 엔비디아 블루필드-3 DPU, 엔비디아 커넥트X-7 스마트NIC를 통해 엔터프라이즈 대규모언어모델(LLM) 최적화와 추론 워크로드를 최대로 지원한다. 엔비디아 L40S GPU의 경우 엔비디아 A100 텐서 코어 GPU 대비 최대 1.2배 더 많은 생성형 AI 추론 성능과 최대 1.7배 더 많은 훈련 성능을 제공한다고 회사 측은 설명했다.

프라이빗 AI 파운데이션은 VM웨어와 엔비디아의 10년간 지속된 파트너십을 기반으로 개발됐다. VM웨어는 “두 회사의 기업 고객은 VM웨어 클라우드 파운데이션을 통해 리소스 및 인프라 관리와 유연성의 이점을 누릴 수 있다”고 말했다.

실리콘밸리=최진석 특파원 iskra@hankyung.com