WHO "생성형 AI, 의료분야 사용 땐 주의…그럴듯한 정보 조심"

"의료인·정책당국이 AI 사용 전 우려사항 해결해야"

챗GPT를 비롯한 생성형 인공지능(AI)을 의료 분야에 활용하려면 허위 정보가 제공될 가능성을 경계해야 하며 엄격한 검증이 필요하다고 세계보건기구(WHO)가 지적했다.

WHO는 16일(현지시간) 성명을 통해 거대언어모델(LLM) 사용 시 주의가 필요하다고 밝혔다.

LLM은 챗GPT와 구글의 바드 등 생성형 AI의 기반이 되는 인공지능 기술이다.

거대한 데이터에서 얻은 지식을 기반으로 복잡한 정보를 처리·분석·예측해 인간이 쓰는 자연어로 응답할 수 있도록 한다.

최근 미국 샌디에이고 캘리포니아대(UCSD) 퀄컴연구소 존 W. 에이어스 교수팀의 연구에서 내과 분야 질문에 대한 의사와 챗GPT의 답변을 전문가들이 평가한 결과 챗GPT가 훨씬 우수한 것으로 나타나는 등 의료 분야의 잠재력도 주목받고 있다.

WHO 역시 건강 분야에서 향후 LLM이 발휘할 다양한 순기능에 기대를 드러내고 있지만, 엄격한 검증과 감독을 거쳐 사용돼야 한다는 입장이다.

WHO는 "전문가의 검증 없이 사용되는 LLM은 의료인의 오류를 낳고 환자에게 피해를 주며 결과적으로 AI 전반에 대한 신뢰를 떨어뜨려 이 기술의 잠재적 이점을 훼손할 수 있다"고 우려했다.

또 "의료 분야에서 AI를 훈련하는 데 사용된 데이터는 편향돼 있어 부정확하거나 오해 소지가 있는 정보를 생성할 수 있다"고 지적했다.

WHO는 "LLM은 사용자에게 권위 있어 보이고 그럴듯한 응답을 제공한다"면서 "실제 콘텐츠와 구별하기 어려운 콘텐츠로 허위 정보를 생성·유포하는 데 오용될 수 있는 셈"이라고 밝혔다.

WHO는 의료인과 정책 당국이 일상적인 건강 관리와 의약품 분야에서 LLM을 광범위하게 사용하기 전에 이 같은 우려 사항을 해결해야 한다고 강조했다.

사전 검증과 엄격한 감독이 요구된다는 것이다.

WHO는 보건 분야에 활용될 AI에 의료 윤리 원칙이 지켜지는지도 살펴야 한다고 설명했다.

WHO는 인간의 복지·안전·공익, 투명한 설명 가능성과 명료성, 자율성의 보호, 책임성, 포용성과 형평성, 응답성이 뛰어나고 지속 가능한 AI 등을 의료 분야 인공지능 기술 적용 시 지켜야 할 원칙이라고 제시했다.

/연합뉴스