"AI 통제 할 수 있다 자신하지만…윤리 지침 없을 땐 통제권 뺏겨"

글로벌인재포럼 2024

구글·오픈AI 등 출혈경쟁 격화
소수 빅테크 기술 독점 막아야

“구글은 누구보다 먼저 생성형 인공지능(AI)을 개발하고도 출시는 하지 않았습니다. 위험성 때문에 기업 명성에 치명타를 입을 수 있다고 생각해 신중하게 갔었죠. 하지만 마이크로소프트가 오픈AI와 손잡고 챗GPT를 발표한 이후 바뀌었습니다.”

제프리 힌턴 캐나다 토론토대 명예교수는 30일 ‘글로벌인재포럼 2024’ 기조연설에서 미국 빅테크들을 거명하며 AI 규제에 대한 생각을 드러내 눈길을 끌었다.

빅테크는 이익을 내고 경쟁에서 살아남기 위해 빠른 속도로 기술을 개발하고 있다. 힌턴 교수는 “구글, 메타 등 빅테크는 AI 개발에서 윤리보다는 수익성을 우선시할 수밖에 없다”고 지적했다. 그는 2013년부터 구글 부사장을 겸직하다가 지난해 업계 전반의 과도한 AI 경쟁을 비판하며 퇴사한 이력이 있다.

힌턴 교수는 “구글은 생성형 AI 제미나이를 개발하는 과정에서 ‘정치적 올바름’ 등 윤리적인 요소를 접목하기 위해 노력했지만 오픈AI의 챗GPT가 등장한 뒤 경쟁력을 위협받기 시작했다”며 “구글도 기술에 집중하면서 빅테크 간 출혈 경쟁이 심화하고 있다”고 지적했다.

그는 “메타에 근무하는 동료는 ‘인간은 계속 AI를 통제할 수 있다, 이거 별문제 아니다’고 말한다”며 “인간을 가슴속에 가장 중요하게 놓고 생각한다면 절대 그렇지 않다”고도 했다.

소수 빅테크가 AI 기술력을 독점하는 상황에 대해서도 “기술 발전의 권한이 일부 빅테크에 쏠리는 현상은 당연히 막아야 한다”고 밝혔다.

AI가 편향된 결론을 도출하지 않도록 올바르게 학습시켜야 하는 책무도 과제로 제시했다. 힌턴 교수는 “인종, 직업, 성별 등과 관련한 편향된 학습 데이터가 투입되면 사회적 차별을 부추길 수 있다”며 “선택적으로 특정 데이터의 학습률을 ‘제로(0)’로 동결하는 등 적절한 규제를 도입해야 한다”고 강조했다. 그는 “AI 기술을 제어하는 방법을 논의해야 할 때”라고 덧붙였다.

이소현 기자 y2eonlee@hankyung.com