"인간의 어리석음이 AI보다 위협적"

바티칸 AI 최고 전문가 지적
"불순한 목적 사용이 최대 문제"

인공지능(AI) 기술의 부작용보다 이를 사용하는 인간의 어리석음, 심각해지는 기후 위기 등이 인류의 위협으로 지목됐다.

파올로 베난티 이탈리아 그레고리안대 교수는 지난 18일 영국 더타임스, AP통신과의 인터뷰에서 ‘인간의 어리석음’을 경계해야 한다고 강조했다. 프란체스코 수도회 수사인 그는 수도회 입문 전 로마의 명문대 라사피엔차에서 공학을 전공했다. 이탈리아·바티칸 최고 AI 전문가로 손꼽히며 프란치스코 교황의 AI 윤리 고문을 맡고 있다. 지난주엔 이탈리아 정부 산하 AI위원회 위원장으로 임명됐다.

베난티 교수는 AI 발전을 무조건 막아서는 안 된다고 주장했다. 그는 “AI는 의료 비용을 낮추고 의사들이 더 많은 사람을 돕는 강력한 도구가 될 수 있다”며 “AI를 규제한다며 개발까지 제한해서는 안 된다”고 말했다. 이어 “AI를 사용하는 것 자체가 문제가 아니라 거버넌스의 문제”라며 “사회적 맥락에서 AI의 올바른 사용 수준을 찾아야 한다”고 덧붙였다.

그는 “인간이 AI를 불순한 목적으로 사용할 수 있다는 게 가장 큰 걱정거리”라고 말했다. AI 기술이 주택 구매자의 모기지 신청, 이민자의 망명 신청, 범죄자의 재범 가능성 평가 등에 부정적인 영향을 미쳐 인권을 과도하게 제한하는 도구로 남용될 수 있다는 지적이다. 베난티 교수는 “포용적이지 않은 데이터를 채택하면 AI도 포용적이지 않은 선택을 하게 될 것이 분명하다”고 했다. 정치인들이 AI로 생성한 가짜 뉴스로 여론을 조작해 사회 양극화가 심각해질 수 있다는 우려도 크다.

기후 변화가 AI보다 인류의 위협이란 지적도 나온다. 21일 세계경제포럼(WEF)이 발표한 ‘국제 위험 보고서 2024’에 따르면 전 세계 전문가 1490명 가운데 66%가 ‘극한의 날씨’를 가장 큰 위협으로 꼽았다. ‘AI가 생성한 가짜 정보’와 ‘사회적·정치적 대립’은 각각 2위와 3위를 기록했다.

김세민 기자 unijade@hankyung.com