AI 경쟁 2라운드는 '윤리'…앤스로픽 CSO, 오픈AI·MS 저격

"AI 시대 핵심은 안전과 신뢰"
세일즈포스 'DX' 행사서 강조
챗GPT 저작권 침해 등 지적

"이미지 AI, 유해 콘텐츠 생성"
MS 엔지니어, 내부 폭로 제기

“멀티모달 인공지능(AI) 시대의 핵심 경쟁력은 안전과 신뢰입니다.”

재러드 캐플런 앤스로픽 공동창업자 겸 최고과학책임자(CSO·사진)는 6일(현지시간) 미국 캘리포니아주 샌프란시스코 모스콘센터에서 열린 세일즈포스의 ‘트레일블레이저 DX’ 행사에 참석해 이같이 말했다. 그는 “AI 기술이 고도화할수록 안심하고 사용할 수 있는 AI 모델을 찾게 된다”며 “성능이 뛰어난 AI도 데이터 보안이 취약하고, 저작권 침해 등의 우려가 있다면 사용자로부터 외면받을 것”이라고 강조했다.

‘오픈AI의 대항마’로 잘 알려진 앤스로픽은 다리오 아모데이, 다니엘라 아모데이와 캐플런 등 4명이 공동 창업한 AI 스타트업이다. 오픈AI 창립멤버였던 아모데이 남매는 회사를 떠나 앤스로픽을 설립하고 윤리성을 강조한 AI 모델 ‘클로드’ 개발에 나섰다. 캐플런은 스탠퍼드대에서 물리학을 전공한 뒤 하버드대에서 박사학위를 받았다. 다리오 아모데이와 캐플런은 대학원에서 만난 친구 사이다.

캐플런은 이날 AI의 윤리, 신뢰성 문제를 집중적으로 거론했다. 최근 구글 제미나이의 이미지 생성 오류, 챗GPT의 저작권 침해 등 AI 모델의 윤리적 문제가 이슈가 된 상황이라 캐플런의 발언에 관심이 쏠렸다.

블룸버그에 따르면 이날 마이크로소프트(MS)의 이미지 생성 AI가 안전장치 미비로 유해한 콘텐츠를 생성할 수 있다는 내부 폭로가 나왔다. 이 회사의 소프트웨어 엔지니어인 셰인 존스는 미 연방거래위원회(FTC)에 MS의 AI 이미지 생성 도구에 보안 취약점이 있다는 내용의 서한을 보냈다. 그는 “폭력적이고 성적으로 대상화된 이미지가 생성될 수 있다”며 “MS는 소비자에게 이런 위험을 충분히 알리지 않고 있다”고 주장했다.

캐플런은 “기업에선 개인정보 보호, 데이터 보안, 저작권 등에서 문제가 될 것이 없는 깨끗한 데이터와 AI 플랫폼을 원한다”며 “앤스로픽은 설립 초기부터 이 부분에 신경 쓰면서 개발하고 있다”고 강조했다. AI 기술 전망에 대해 캐플런은 “모두의 예상보다 빨리 기술 진보가 이뤄질 것”이라며 “부작용 방지를 위해 기술 개발만큼이나 검증과 테스트도 함께 이뤄져야 인류에 도움이 되는 AI 에이전트로 거듭날 것”이라고 했다.

한편 세일즈포스는 이날 AI 기반 대화형 어시스턴트 ‘아인슈타인 코파일럿’과 맞춤형 AI 모델을 구축할 수 있는 ‘아인슈타인 1 스튜디오’를 공개했다. 세일즈포스 사용자는 아인슈타인 코파일럿이 탑재된 아인슈타인 1 스튜디오를 통해 자연어 프롬프트를 기반으로 분야별 맞춤형 AI 고객관계관리(CRM) 콘텐츠를 만들 수 있다.

샌프란시스코=최진석 특파원 iskra@hankyung.com