불법성 모호한 AI 분야…상업광고 부작용 심각

AI 생성이미지 관련법 미흡 탓
가상인물 내세워 버젓이 광고
병원처럼 처방전 발급 사례도

식약처 "소비자 기만 불법 소지"
허위·과장 광고 관련 규제 필요

의료·건강 분야에서 인공지능(AI) 오남용 문제가 현실화하고 있다. 생성형 AI로 만든 ‘가짜 의사’ 이미지가 영양제 광고 페이지에 쓰이고, AI가 작성한 가짜 처방전으로 약을 타간 사례까지 등장할 정도다. 신기술 등장에 따른 새로운 유형의 오남용 사례인데 현재로선 불법성이 모호한 실정이다. AI 기술이 날로 발전하는 가운데 전문성이 중요한 의료·건강 분야에서 기술 남용을 막을 방안을 서둘러 마련해야 한다는 지적이 나온다.

의약계, 생성형 AI에 ‘골머리’

11일 유통업계에 따르면 온라인 상거래 업체 쿠팡의 커큐민 영양제 1, 2위에 노출된 A사의 상품소개 상세페이지에는 흰 의사 가운을 입은 사람 이미지가 여러 장 노출돼 있다. A사는 AI 의사가 영양제를 든 이미지와 연구실 사진을 넣어 ‘오랜 기간 연구했다’고 소개했다.

강황의 주요 성분인 커큐민은 밀크시슬에 이어 1~2년 새 한국에서 주목받는 영양제다. A사는 대형 건강기능식품 제조사를 제치고 커큐민 분야 쿠팡 1위가 됐고, 상품평 수백 개가 달렸다. A사가 쿠팡에 판매 중인 베르베린, 프로폴리스, 아연 등의 건강기능식품 58종 중 16종이 이런 AI 의사를 제품 섬네일과 상세페이지에 내세우고 있다.

AI 의사 이미지가 정교해 페이지를 얼핏 본 소비자는 가짜인지 알아채기 어려울 정도다. 온라인 쇼핑에서 영양제를 구매한 적이 있는 김모씨는 “의사가 연구에 참여했거나 제품을 개발했다는 사진과 문구가 있다면 제품을 더 신뢰할 것 같다”고 말했다.

AI가 처방전을 발급해 의료법을 직접적으로 위반하는 사례도 있다. B사의 온라인 AI 처방 서비스가 대표적이다. B사 AI에 ‘두통이 있고, 콧물이 난다’고 입력했더니 AI는 아세트아미노펜(해열진통제)과 세트리진(항히스타민제) 등 전문의약품 이름을 담은 진짜 처방전과 비슷한 문서를 화면에 출력했다.

B사의 AI 처방전이 병원 처방전인 줄 알고 착각해 환자에게 약을 준 약국도 있었다. 대한의사협회는 지난달 28일 B업체를 포함한 민간 AI 처방 업체들을 경찰에 고발했다. AI업계 관계자는 “조만간 비대면 진료·처방 시대가 올 것으로 보고 AI 업체들이 이런 시범서비스를 앞다퉈 출시하고 있다”고 설명했다.

구별하기 어려워진 AI 생성 정보

전문가들은 AI로 생성된 정보가 점차 실제 정보와 구별하기 어려워질 것이고, 오남용 문제도 더 심각해질 것이라고 우려한다. 캐나다 워털루대 연구진이 지난 3월 260명의 참가자를 대상으로 실사와 생성형 AI로 만든 이미지를 구분하는 실험을 한 결과 101명이 명확히 가려내지 못한 것으로 나타났다.

국내에선 AI 이미지를 상업적으로 이용하는 건 아직 합법이다. 저작권법 적용을 받는 저작물은 ‘인간의 사상 또는 감정을 표현한 창작물’인데, AI 산출물에는 저작권이 부여되지 않아서다. 아직 쇼핑몰 상세페이지에 ‘AI가 생성했다’는 워터마크를 넣어야 할 의무는 없지만, 일부 쇼핑사이트는 자체적으로 제한하는 것으로 전해졌다.

의약계에선 AI 활용이 불법 소지가 높다고 보고 있다. 식품의약품안전처 관계자는 “AI 가짜 의사 이미지는 과장된 정보를 활용한 소비자 기만행위로 식품광고법상 위반의 여지가 있다”고 설명했다.

의료·건강 부문에서라도 AI 규제가 필요하다는 의견이 있다. 최병호 고려대 인공지능연구소 교수는 “소비자를 오인케 해 부당이득을 취한다면 규제하는 게 맞다”면서도 “이 범주와 수위에 대해선 사회적 합의가 필요하다”고 조언했다.

안정훈 기자 ajh6321@hankyung.com