거래소, '초단타 창구' 메릴린치 제재 확정

"美 시타델의 6000건 이상 허수성 주문 수탁
시장 감시규정 위반"

회원 제재금 1억7500만원 물려
메릴린치 행정소송 제기할 듯
금융당국, 시타델 조사 본격화

한국거래소가 미국 초대형 헤지펀드 그룹인 시타델의 위탁 증권사인 메릴린치에 대한 제재안을 확정했다. 메릴린치가 시타델증권의 알고리즘 고빈도거래를 통한 6000건 이상의 허수성 주문을 수탁했다는 게 거래소의 설명이다. 알고리즘 매매는 일정 가격이 되면 자동 주문을 내도록 컴퓨터 프로그램을 짜 매매하는 거래 방식이다.

▶본지 6월 11일자 A1면 참조

시타델증권은 코스닥시장을 중심으로 80조원 규모의 거래를 일으키면서 투자자를 유인해 2000억원 넘는 차익을 실현했다고 거래소는 밝혔다. 거래소 감리 절차가 마무리되면서 금융당국의 시타델 불공정거래 혐의 조사도 속도를 낼 것으로 예상된다.

거래소 시장감시본부는 16일 메릴린치 제재안을 심의하는 네 번째 시장감시위원회를 열고 회원제재금 1억7500만원을 부과하기로 의결했다. 메릴린치가 시타델증권의 허수성 주문 수탁을 금지하는 시장감시규정(제4조 제3항)을 위반했다는 게 거래소 설명이다. 지난해 말 감리 조사를 마치고 제재에 나선 지 8개월 만에 내린 결론이다.

거래소는 지난해 말 시타델증권의 2017년 10월~2018년 5월의 거래를 집중적으로 들여다봤다. 이 기간 메릴린치는 시타델증권으로부터 약 80조원의 거래를 수탁했는데 이 가운데 430개 종목에서 6220회(900만 주, 847억원)의 허수성 주문이 있었다고 설명했다. 거래소 관계자는 “허수성 주문은 일반 매수세를 유인해 높은 가격에 자신의 보유 물량을 처분한 뒤 해당 매수주문은 취소하는 전형적인 공정거래질서 저해행위”라고 말했다.

구체적으로 시타델증권은 특정 종목의 최우선매도호가 잔량을 소진해 호가 공백을 조성, 일반 매수세를 유인해 시세차익을 얻은 뒤 기존 매수 주문을 취소하는 방식을 반복했다고 소개했다. 한 종목의 주가 1만원에 1만 주 매수 주문을 넣은 뒤 추격 매수세가 유입돼 가격이 1만200원 수준까지 오르면 보유 물량을 처분하고 빠르게 기존 매수 주문을 취소했다. 거래소는 1만원에 매수를 걸어놨다가 취소한 1만 주 주문을 허수성 주문으로 판단했다.

시타델은 인공지능(AI) 기술을 활용한 매매로 유명한 세계적인 퀀트 헤지펀드다. 그 계열인 시타델증권도 메릴린치 직접주문전용선(DMA: direct market access)을 통해 밀리세컨드(1000분의 1초) 이상의 속도로 주문할 수 있는 최첨단 슈퍼컴퓨터와 네트워크를 활용해 알고리즘 고빈도매매로 수익을 냈다. 거래소는 시타델이 감리 기간 8개월 동안 80조원을 매매해 2200억원의 차익(거래세 제외 기준)을 거둔 것으로 추정했다.

메릴린치는 이번 사안이 한국 주식시장에서 처음 있는 알고리즘 불공정거래 제재 사례인 데다 거래소의 허수성 주문 판단 기준이 모호하다고 반박했다. 회원제재금은 원안보다 줄었지만 제재안을 피하진 못했다. 이번 사안은 글로벌 투자은행(IB)으로서 평판 리스크 추락으로 이어질 가능성이 있어 행정소송에 나설 것으로 전해졌다.

금융당국의 시타델증권 조사도 속도를 낼 예정이다. 거래소는 제재가 이례적으로 지연되자 지난달 이번 사안을 금융당국에 미리 통보했다. 금융위원회 자본시장조사단은 이번 조사를 금감원에 내려보냈다. 알고리즘 매매에 고의성을 적용하기 쉽지 않아 자본시장법상 시장교란 혐의를 적용할 것으로 예상된다. 시타델증권도 메릴린치와 마찬가지로 소송대리인으로 김앤장을 선임해 적극적으로 대응하고 있다.

조진형/오형주 기자 u2@hankyung.com