AI 연구자도 히포크라테스 선서 ?

뉴스카페

"더 진화하기 전에 통제 필요"
"규제만 늘어날 뿐" 반발도

“인공지능(AI) 과학자들도 ‘히포크라테스 선서’가 필요하다.”

의료윤리강령의 상징인 히포크라테스 선서의 역사는 유구하다. 고대 그리스 의사이던 히포크라테스가 지침을 밝힌 것이 기원전 4세기다. 최근 세계 최고 권위의 미국인공지능학회(AAAI)에서 AI 개발자도 히포크라테스 선서가 필요하다는 주장이 제기됐다. 의사 출신인 니콜라스 시아파카스 그리스 크레타대 교수는 “AI가 인간에 가까운 초인공지능(SAI)으로 진화해 위협이 되기 전에 확실한 통제 방식을 갖춰야 한다”며 자신이 작성한 선서문 초안을 ‘AI 매거진’ 최근호에 발표했다.

이 선서문에는 “내 지식으로 인류에게 유익한 AI를 만든다” “악의적인 유전자 변형 등에 AI를 절대 사용하지 않겠다” “개발자(AI 의사)는 자유 의지를 갖고 능력과 판단에 따라 맹세를 수행한다” 등이 포함됐다.

흥미로운 건 마이크로소프트(MS)가 이미 이 같은 상황을 예견했다는 점이다. MS는 2018년 자체 발간한 도서 ‘The Future Computed’에서 “프로그래머들에게 윤리 연구가 필수 요건이 될 것이며, 개발자를 위한 히포크라테스 선서가 등장할 것”으로 내다봤다. MS 법무와 AI 연구조직 임원진이 작성한 의견문엔 “사람을 보호하는 윤리원칙 확립이 필요하다”는 내용이 강조됐다.

신중론도 만만치 않다. 이 같은 선언이 오히려 규제를 유도할 수 있다는 것이다. 의료 AI 생태계가 제대로 안착하지 못한 점도 변수다. 지난달 IBM이 의료AI사업부 왓슨헬스를 매각하며 AI업계에 충격을 안겼다. 지속적인 적자가 원인으로 지목됐다. 국내 주요 의료AI업체도 여전히 손실을 기록하고 있다. 한 의료AI업체 대표는 “수년 내 사람 같은 AI 의사가 등장할 수 있겠지만 아직은 규제 하나라도 조심해야 하는 상황”이라고 전했다.

김휘영 연세대 교수는 “‘AI 레벨’이 높지 않은 상황임을 감안할 때 준비된 기업부터 자발적으로 신뢰 선언에 나서는 게 순서”라고 지적했다.

이시은 기자 see@hankyung.com