美 하원, 의회 보좌진에…MS AI 챗봇 '코파일럿 사용 금지령'

"데이터 유출 위험"

사진 : MS

미국 하원이 의회 직원들에게 마이크로소프트(MS)의 AI 챗봇 ‘코파일럿’ 사용 금지령을 내렸다. 하원에서 승인하지 않은 데이터가 유출될 위험이 있기 때문이다.

31일(현지시간) 관련 업계에 따르면 미국 악시오스는 미 하원 최고 행정 책임자 캐서린 스핀더의 말을 인용해 이같이 보도했다. 스핀더는 “코파일럿은 하원에서 사용할 수 없는 앱”이라며 “코파일럿 앱이 하원 데이터를 유출할 수 있다고 사이버 보안국에서 판단했다”고 밝혔다. 그는 이어 “코파일럿은 모든 하원 MS 윈도 디바이스에서 제거된 뒤 차단될 것”이라고 덧붙였다.

사진 : MS

코파일럿은 MS의 생성AI 챗봇이다. 사용자와 대화형태로 검색, 문서 작성 등의 작업을 할 수 있는 AI 비서 역할을 한다. MS는 최근 코파일럿 바로가기 버튼이 추가된 키보드를 새로 내놨다. 이 버튼을 누르면 화면에 챗봇이 등장한다. 코파일럿을 검색해서 들어가는 번거로움 없애 접근성을 높였다. 챗GPT를 개발한 오픈AI의 대규모언어모델(LLM)인 GPT를 기반으로 운영된다.

MS 측은 미 하원의 이 같은 조치에 대해 “정부 기관은 데이터에 대해 더 높은 보안 요구 사항을 갖고 있다”며 “올해 하반기에 연방 정부의 보안 및 규정 준수 요구 사항을 충족하는 코파일럿과 같은 AI 도구 로드맵을 발표할 것”이라고 밝혔다.

최근 미국은 기업, 정부 기관 등에서 사용하는 AI에 대한 안전장치 마련에 힘쓰고 있다. 바이든 미 대통령은 작년 10월 AI의 안전성 평가를 의무화하는 것을 골자로 한 ‘안전하고 신뢰할 수 있는 AI에 대한 행정명령’에 서명했다. 대형 기업들은 AI 시스템을 공식 발표하기 전에 안전성 평가 결과를 미국 정부와 공유해야 한다. 또 AI 개발 기업들은 미국 상무부 산하 국립표준기술연구소(NIST)의 안전성 평가를 의무적으로 받아야 한다. NIST는 사이버 공격 방어 능력, 차별·편견 조장할 위험성 등을 평가한다. 최근에는 선거를 앞두고 AI의 딥페이크 영상 제작과 가짜뉴스 유포 등의 행위를 막기 위해 AI 생성 콘텐츠에 대한 워터마크를 할 것을 요구하고 있다.

실리콘밸리=최진석 특파원 iskra@hankyung.com