[특징주] 솔트룩스, 딥페이크 등 AI남용에 국책 과제 수행..세계 최초 시도 눈길 ‘강세’

솔트룩스의 주가가 강세다. AI가 적절한 답변과 저작권 침해 논란에 이어 가짜뉴스와 딥페이크 콘텐츠 등의 악용에 이용되면서 '믿을 수 있는 AI'를 위한 목소리가 그만큼 커진 영향으로 풀이된다. 지난 5월 솔트룩스는 컨소시엄을 통해 2024년 제1차 정보통신·방송 기술개발사업 및 표준개발지원사업 신규지원 대상과제인 ‘사회적, 윤리적 학습을 위한 데이터 특성 및 생성 AI 모델의 윤리성 향상 연구’에 선정됐다. 이는 AI 및 데이터 부문 가운데 차세대 생성 AI 기술 개발 사업에 속하는 국책과제다. 특히 AI의 사회적 판단에 대한 연구는 세계 최초의 시도로 알려졌다.

27일 10시 40분 기준 솔트룩스는 전일 대비 13.52% 상승한 15,950원에 거래 중이다.

경찰이 참여 인원만 22만여명에 달하는 불법합성물 제작 텔레그램 채널과 관련해 내사에 착수했다.

서울경찰청 사이버범죄수사대는 최근 엑스(X, 옛 트위터) 등 사회관계망서비스(SNS)를 통해 확산하고 있는 불법합성물 제작 텔레그램 채널과 관련해 내사 중이라고 이날 밝혔다.

최근 엑스 등 각종 온라인 커뮤니티에는 텔레그램 딥페이크 피해자 학교 명단이 게재됐다. 해당 명단에는 전국적으로 100여개가 넘는 피해 학생의 학교가 게재돼 있는데, 대학 뿐 아니라 중·고등학교 수십군데도 포함돼 있다.

이런 가운데 AI 기업 솔트룩스(대표 이경일)가 컨소시엄을 통해 2024년 제1차 정보통신·방송 기술개발사업 및 표준개발지원사업 신규지원 대상과제인 ‘사회적, 윤리적 학습을 위한 데이터 특성 및 생성 AI 모델의 윤리성 향상 연구’에 선정되어 향후 3년간 사업을 수행하게 됐다.

이는 인공지능 및 데이터 부문 중 차세대 생성 AI 기술 개발 사업에 속하는 국책과제로, 생성형 인공지능의 사회·윤리성 강화를 위한 모델 성능 향상 기술을 개발하는 것을 목표로 한다. 특히 AI의 사회적 판단에 대한 연구는 세계 최초로 시도되는 것으로, 사업비는 약 48.87억 원 규모다.

솔트룩스 컨소시엄에는 건국대(김학수 교수), 서강대(구명완 교수), 서울대(천현득 교수), 성균관대(고영중 교수), 카이스트(김기응 교수), 한국전자기술연구원(김산 선임연구원), KT(장두성 상무), 다이퀘스트(김경선 연구소장) 등 AI 분야 국내 최고 전문가들이 참여하여 세계적인 경쟁력을 갖춘 연구팀을 구성했다. 특히 인공지능 및 딥러닝 분야의 공학 연구진 외에도 철학·인문학·사회과학 등 다양한 연구진이 참여, 생성 AI의 사회·윤리성 강화를 위한 최적의 팀을 꾸렸다는 평가를 받고 있다.

과제의 세부 목표는 ▲다양한 보편적 특성과 도메인의 특징에 부합하는 생성 AI 사회·윤리성 가이드라인 수립 ▲지속 및 확장 가능한 사회·윤리 종합 대응 서비스 플랫폼 핵심 기술 개발 ▲연구 산출물 공개 및 실증을 통한 확산 등이며, 최종적으로는 생성 AI 모델 및 서비스 개발자 누구나 활용할 수 있는 Ethics-GenAIOps 오픈 플랫폼을 개방하고 100만 명 이상 사용자를 확보할 계획이다

김광수 한경닷컴 객원기자 open@hankyung.com