메타 이미지 생성 기능 '이매진 위드 메타 AI'. 사진=이매진 위드 메타 홈페이지 캡처
메타 이미지 생성 기능 '이매진 위드 메타 AI'. 사진=이매진 위드 메타 홈페이지 캡처
미국의 역사적 인물을 유색인종으로 바꿔 그리는 오류로 인해 이미지 생성 기능이 중단된 구글의 인공지능(AI) 모델 제미나이에 이어 메타의 이미지 생성기 '이매진 위드 메타 AI'(이매진)에서도 비슷한 오류가 확인됐다고 미국 매체 악시오스가 보도했다.

보도에 따르면 페이스북, 인스타그램 등에 삽입된 메타의 AI 기반 이미지 생성 기능인 이매진은 여러 명의 교황을 그려달라는 요청에 흑인 교황 이미지를 생성했다. 이매진이 생성한 미국 건국자의 이미지에도 유색인종이 여럿 포함됐으며, '미국 식민지 시대에 살던 사람들을 그려달라'는 요청에는 아시아계 여성들의 이미지를 내놨다.

이매진은 '나치'나 '노예' 등의 단어가 포함된 요청에는 이미지를 생성하지 않았다.

메타 측은 이에 관한 문의에 즉각 답변을 내놓지 않았다고 악시오스는 지난 1일(현지시간) 전했다. 이 같은 오류는 빅테크 업체들이 생성형 AI의 편향성 논란을 피하기 위해 인종·성별 다양성에 대한 장치를 과하게 적용한 결과로 보인다.

앞서 구글의 AI 모델 제미나이도 미국 건국자나 아인슈타인 등 역사적 인물을 유색인종으로 묘사하고, 독일 나치군을 아시아인종으로 생성하는 등의 오류가 발견돼 출시 20여일 만에 이미지 생성 기능이 중단됐다.

안혜원 한경닷컴 기자 anhw@hankyung.com