[차장 칼럼] AI 시대의 오펜하이머 모멘트

안정락 스타트업부 차장

크리스토퍼 놀런 감독의 영화 ‘오펜하이머’가 화제다. 원작은 2006년 퓰리처상을 받은 ‘아메리칸 프로메테우스-로버트 오펜하이머 평전’이다. 프로메테우스는 인간에게 불을 가져다줬지만 제우스의 분노를 사 쇠사슬에 묶인 채 독수리에게 간을 쪼아 먹히는 형벌을 받는다. 인류에게 핵무기를 가져다줬지만 매카시즘의 희생양이 된 ‘원자폭탄의 아버지’ 로버트 오펜하이머를 빗댔다.

오펜하이머는 제2차 세계대전 당시 나치에 대항해 비밀리에 추진한 핵무기 개발 프로그램 ‘맨해튼 프로젝트’의 연구 책임자였다. 미국 뉴멕시코주 사막에 세운 로스앨러모스 국립연구소장이 된 그는 수천 명에 이르는 과학자·기술자를 끌어모아 3년에 걸친 연구 끝에 원자폭탄 개발에 성공했다. 엔리코 페르미, 리처드 파인먼, 한스 베테 등 당대 최고의 과학자들과 함께 이룬 업적이었다.

핵무기 개발 뒤 회의 느껴

핵분열 연쇄 반응을 활용한 원자폭탄의 가공할 파괴력을 확인한 ‘트리니티 실험’. 이후 오펜하이머는 힌두 경전 ‘바가바드기타’의 한 구절을 떠올리며 이렇게 중얼거린다. “나는 이제 죽음이요, 세상의 파괴자가 됐다.” 인류를 위해 개발한 핵무기에 회의를 느낀 전환점 ‘오펜하이머 모멘트’다.

영화 오펜하이머의 국내 개봉일은 지난 15일이었다. 아이러니하게도 원자폭탄이 일본 히로시마와 나가사키에 투하된 뒤 수십만 명이 사망하고, 일본의 무조건적 항복으로 한국이 광복을 찾은 날이다.

미국에서 영화가 개봉한 지난달 21일도 특별한 일이 있었다. 조 바이든 미국 대통령과 챗GPT를 만든 오픈AI, 구글, 마이크로소프트, 메타, 아마존, 앤트로픽, 인플렉션 등 생성형 인공지능(AI) 기업 경영자들이 만나 AI 관리와 관련한 자율규제안에 합의했다. 엄청난 속도로 발전하는 AI 위험성을 우려한 조치였다. ‘AI 대부’ 제프리 힌턴 토론토대 교수는 AI를 핵무기에 비유하며 인류에 실존적 위협이 될 수 있다고 경고했다.

AI 악용 위험성 인지해야

AI는 주어진 목표를 극도의 효율성으로 달성하려는 기계다. 최근 미군의 가상 시뮬레이션 훈련에서 AI 드론이 인간 조종사를 ‘임무 수행 방해물’로 판단해 살해했다는 이야기도 있었다. AI에 적의 방공 시스템을 파괴하라는 지시를 내리면서 최종 선택권은 인간에게 있다고 했지만, AI가 적을 파괴하는 게 더 중요하다고 인식하면서 이를 방해할 수 있는 인간을 제거한 결정이었다. 가상훈련이 아니라 실제 상황이었다면 정말 끔찍한 얘기다.

미래의 전쟁은 AI의 전쟁이 될 것이라는 전망도 있다. 적절한 안전장치가 없을 때 악의적 행위자에 의해 화학·생물학 무기 개발, 유전자 조작까지 이뤄질 것이란 우려도 나온다. 이미 개방형 AI 도구를 활용해 무기 제조 매뉴얼을 누구나 확인할 수 있는 시대다.

대부분의 AI는 인류에게 많은 혜택을 주고 있다. 더 이상 AI를 활용하지 않는 산업을 찾아보기 힘들 정도다. 그럼에도 많은 AI 전문가와 개발자는 국제적 합의를 통한 적절한 통제의 필요성을 말한다. AI 시대의 오펜하이머 모멘트가 닥쳐선 안 되기 때문이다. “파멸의 연쇄 반응은 이미 시작됐다”는 영화의 마지막 장면이 잊히지 않는다.