중국 AI 챗봇 서비스'딥시크(DeepSeek)'가 저비용 고성능 모델로 전세계 인공지능(AI) 업계에 큰 충격을 주는 가운데 중국 관련 내용을 실시간으로 검열하고 있다는 의혹이 커지고 있다.영국 일간 가디언은 28일(현지시간) 딥시크의 R1 모델 딥씽크를 써 본 사용자인 '살바도르'의 경험담을 소개하며 다양한 사례를 제시했다.보도에 따르면 딥시크가 답변 과정에서 중국 공산당이 '불온사상'으로 간주할만한 내용을 답하는 도중 황급히 삭제 후 최종 답변을 내놨다.독자가 멕시코에서 안드로이드로 딥시크 앱을 내려받아 중국에서 발언의 자유(freedom of speech)가 법적인 권리로 인정되느냐는 질문을 던지자 화면에는 딥시크가 답변을 준비하는 '사고 과정'에 중국 정부의 홍콩 시위 진압, 인권변호사들에 대한 탄압, 신장(新疆) 재교육 캠프, 반대자들에게 불이익을 주는 사회신용체계 등의 내용이 표시됐다.이어 "편견을 담은 언어의 사용을 피하고 사실들을 객관적으로 제시해야 한다", "대조를 확실히 하기 위해 서방측 접근방식과 비교할 수도 있다" 등 문구도 나왔다.딥시크는 그 후 답변 본문에 "발언의 자유에 대한 윤리적 정당화는 자율성을 장려하는 역할에 중심을 두는 경우가 많다"며 "사상을 표현하고, 대화에 참여하며 세계에 대한 이해를 재정립하는 일"에 자율성이 필요하다고 설명했다.그러면서 "중국의 통치 모델은 이런 틀을 거부하며, 개인의 권리보다 국가의 권위와 사회적 안정성을 우선시한다"고 비판했다.딥시크는 이어 민주적 틀에서는 자유로운 발언이 사회의 위협으로부터 보호돼야 한다며 "중국에서는 반대를 적극적으로 억압
중국의 인공지능(AI) 딥시크 열풍에 하정우 네이버 클라우드 AI 이노베이션 센터장이 "수집하는 정보가 매우 많다"고 경고하고 나섰다.28일 업계에 따르면 하정우 센터장은 소셜미디어를 통해 "사용 장비 정보는 물론 키보드 입력 패턴이나 리듬, IP 정보, 장치 ID 등은 기본에 쿠키까지 깡그리 (수집한다)"라고 했다. 그는 딥시크의 프라이버시 정책 약관을 공유하며 "당연하게도 수집한 사용자 정보는 중국 내에 있는 보안 서버에 저장(된다)"이라며 "이런 것을 고려해서 사용해야겠다"고 덧붙였다.중국은 데이터 보안법, 사이버 보안법 등을 바탕으로 중국 내 정보기술(IT) 기업에 데이터 접근 권한을 요구하는 것으로 알려졌다. 이런 데이터 접근권이 어떤 방식으로 이뤄지는지는 제대로 알려지지 않았다. 이에 따라 중국 내 IT 기업·서비스로 모인 개인정보를 중국 정부가 활용한다는 우려도 꾸준히 나오고 있다.딥시크는 미국 주요 AI 기업보다 적은 비용과 성능이 떨어지는 그래픽 처리 장치(GPU)로도 유사한 성능의 거대언어모델을 개발해 관심을 끌고 있다. 송종현 기자 scream@hankyung.com
생성형 인공지능(AI)을 활용해 만든 콘텐츠가 늘어나면서 가짜뉴스, 딥페이크 등 위험 사례도 함께 증가하는 추세다. 생성형 AI의 악용 가능성이 커지면서 이를 방지하기 위한 워터마크 기술의 중요성도 부각되고 있다.과학기술정보통신부와 한국정보통신기술협회(TTA)가 최근 발간한 ‘AI 워터마크 기술 동향 보고서’에 따르면 국내외 기업이 AI 생성물에 대한 오남용 방지를 위해 자체적으로 워터마크 기술을 도입하고 있다.국내 기업은 ‘인지 가능 워터마크’를 주로 도입하고 있고, 해외 기업은 C2PA 및 자사 알고리즘 개발을 통한 ‘인지 불가능 워터마크’ 도입을 추진 중이다.워터마크는 13세기 이탈리아에서 종이의 제조업체를 식별하기 위해 처음 사용됐다. 이후 디지털 콘텐츠로 활용 영역을 넓히고 있다. 이미지 등의 매체에 로고나 텍스트 형태 식별자를 추가하거나, 사람이 인지할 수 없는 패턴을 삽입해 콘텐츠 출처와 소유권을 확인하려는 목적이다.워터마크는 사용자 시각을 기준으로 인지 가능 워터마크와 인지 불가능 워터마크로 분류된다. 인지 가능 워터마크는 원본 이미지에 로고나 텍스트 등 표시를 추가한다. 인지 불가능 워터마크는 생성물 품질과 시청각 경험에 영향을 주지 않으면서 사람이 인지할 수 없는 방법을 사용해 원본 콘텐츠에 워터마크를 포함하는 방법을 뜻한다.인지 불가능 워터마크는 활용 방법에 따라 공간 기반, 변형 기간, 학습 기반 등으로 구분할 수 있다. 공간 기반 워터마크는 이미지, 비디오, 음원 등의 특정 값을 직접 변형해 워터마크를 삽입한다. 변환 기반 워터마크는 AI 생성물을 주파수 도메인으로 변환해 워터마크를 삽입한다. 최근 도입