트렌드

로봇에 맡겼던 주식시장, 영화와 그늘

2015.01.25

뉴욕증권거래소(NYSE)는 조용하다. 1분 1초가 멀다하고 거래를 주문하는 전화벨 소리 따위는 없다. 수화기를 귀에 대고 수신호를 보내며 거래를 재촉하는 풍경도 사라진 지 오래다. 실시간으로 깜빡깜빡대는 시황 스크린만이 이곳이 거래소 현장이란 사실을 알려줄 뿐이다. TV 방송사가 자료화면으로 내보내는 분주한 거래소 현장은 현실에선 찾아보기가 어렵다.

2014년 5월 뉴욕증권거래소의 객장 풍경. 플로어 트레이더보단 시황을 전하는 스크린이 공간 대부분을 차지하고 있다. (출처 : 플리커 Scott Beale, CC by-nc-nd/2.0)

2014년 5월 뉴욕증권거래소의 객장 풍경. 플로어 트레이더보단 시황을 전하는 스크린이 공간 대부분을 차지하고 있다. (출처 : 플리커 Scott Beale, CC by-nc-nd/2.0)

객장 내에서 사람(플로어 트레이더나 스페셜리스트)이 사라진 것은 대략 2007년부터다. 당시 미국의 5위 증권사이던 베어스턴스가 플로어 트레이더를 자동 주식 거래 시스템으로 대체했다. 플로어 트레이더의 수익성이 악화된데다 전자상거래가 활성화하면서 인간 트레이더의 필요가 줄어들어서다.

베어스턴스에 이어 많은 증권사들이 플로어 트레이더를 철수시키면서 뉴욕증권거래소도 객장을 축소했다. 200여년 동안 자리를 지켜왔던 플로어 트레이더가 자취를 감추던 순간이다. 이젠 객장의 적막이 더 익숙한 세상이 됐다.

로봇 트레이딩. 증권업계 현장 종사자들에겐 익숙한 용어다. 어떤 이는 알고리즘 트레이딩이라고도 하고, 어떤 이는 시스템 트레이딩이라고 부른다. 인간이 아닌 소프트웨어가 정해준 규칙에 따라 호가를 만들고 주식을 거래하는 행위를 일컫는 용어다. 정해진 규칙이 곧 알고리즘이다.

이미 증권시장은 로봇의 전쟁터다. <와이어드>는 지난 2010년 ‘알고리즘이 월가를 지배한다’고 선언하기도 했다. 자료에 따르면 뉴욕증권거래소의 75% 이상이 로봇에 의해 거래된다. 국내 증권시장도 로봇 트레이딩이 보편화하고 있다. 수학과 물리학, 프로그래밍으로 무장한 인재들이 여의도 증권가에 점차 늘어나고 있다. 다만 최근에는 시들해지는 징후도 감지된다.

2000년 초반, 금융정보교환 프로토콜 본격화

알고리즘 거래가 차지하는 비중.(출처 : 아시아 증권시장의 알고리즘매매 현황과 대응전략)

알고리즘 거래가 차지하는 비중.(출처 : 아시아 증권시장의 알고리즘매매 현황과 대응전략)

로봇 트레이더의 등장은 FIX라 불리는 금융정보교환 프로토콜의 발전과 궤를 같이 한다. FIX는 주식거래의 전자화, 자동화를 지원하는 일종의 표준 통신 규약이다. 이 규약에 따라 기관투자자들의 소프트웨어가 거래소에 직접 주식 매수나 매도 주문을 낼 수 있게 됐다.

FIX 프로토콜이 처음 소개된 것은 1992년으로 거슬러 올라간다. 하지만 트레이딩 로봇이 활성화된 것은 2000년대 초·중반께로 추정된다. 2004년 알고리즘 트레이딩 워킹그룹이 꾸려진 뒤 2006년 FIX 프로토콜 5.0버전에 알고리즘 트레이딩 태그를 지원하기 시작하면서부터다. 각 증권거래소가 이 표준을 받아들이고 시스템을 완비하면서부터 로봇 트레이딩은 점차 확산돼 갔다.

당시엔 로봇 트레이더를 ‘자율 트레이딩 행위자’(Autonomous Trading Agent)라고 불렀다. 2001년엔 IBM 연구원이었던 제프리 케파트가 인간 트레이더와 자율 트레이딩 행위자의 수익률을 분석한 보고서를 내놓으며 로봇이 한수 위에 있음을 증명하기도 했다.

월가는 흥분했다. 인간 트레이더와 달리 점심을 먹지도 않고, 보너스나 휴가도 요구하지 않는 로봇이 인간보다 더 높은 수익률을 가져다줬기 때문이다. 2000년대 초반 로봇 트레이더는 이렇게 서서히 주식거래 시장을 잠식해갔고 금융공학은 인기를 구가하기 시작했다. 이전까지만 하더라도 주식거래에서 로봇의 어떤 상품에 투자할지 어떻게 포트폴리오를 구성할지, 어느 시점에 매수하고 매도할지 모두 결정한다.

로봇 트레이딩이 보편화하면서 흥미로운 서비스도 등장했다. 로봇 트레이더에 뉴스를 판매하는 서비스다. 다우존스는 2010년 ‘렉시콘‘이라는 서비스를 시작했다. 지금은 중단됐지만 주식거래를 하는 트레이딩 로봇에 기계가 판독가능한 형태를 뉴스를 제공했다.

여기에 감성분석, 중요 단어 및 문장 추출 같은 텍스트 마이닝 기술도 적용됐다. 비정형 뉴스 데이터를 정형화된 데이터로 변환해 알고리즘이 판단 가능하도록 한 것이다. 로봇 트레이더는 뉴스를 투자의 중요한 참고 지표 데이터로 활용한다.

머신러닝과 트레이딩 알고리즘

machine-learning-algorithmic-trading

머신러닝을 활용한 주가 관련 패턴인식 결과. (출처 : 센트덱스 홈페이지)

트레이딩 로봇은 데이터를 먹고 산다. 주식시장은 데이터가 넘쳐나는 분야다. 데이터가 많으면 많을수록 정확한 의사결정이 가능하다. 당연히 수익률에도 영향을 미친다. 트레이딩 알고리즘에 기계학습이 중요한 기술로 자리를 잡아가는 계기가 됐다.

기계학습은 패턴인식과 예측을 목적으로 한다. 과거 주가 데이터를 입력하면 그 패턴을 분석해 미래의 주가를 예측해낼 수 있다. 포트폴리오 구성도 알고리즘이 결정한다. 대량의 데이터를 빠르게 분석해 실행에 옮기는 능력에 있어서는 로봇이 인간보다 앞서 있다.

추세 추종형 전략에 따라 주식을 거래하는 알고리즘을 개발한다고 가정해보자. 주식시장의 추세를 이해할 수 있는 수많은 변수들을 알고리즘에 입력한 뒤 과거 추이를 기반으로 기계학습을 진행해 패턴을 찾아낼 수 있다. 물론 수익률이 높은 거래 규칙을 학습해 그에 따라 투자를 선택하는 의사결정 알고리즘 개발도 가능하다. 국내에서도 손꼽히는 로봇 트레이딩 전문 자문사인 옵투스투자자문은 기업 재무정보를 비롯해 100여개의 변수를 알고리즘에 포함시키고 있다.

어떤 전략, 어떤 분야에 활용할 것인지에 따라 수백, 수천 개의 알고리즘 설계가 가능하다. 최근에는 인공지능 관련 알고리즘인 인공신경망, 유전자 알고리즘을 활용한 전략 설계도 자주 등장하고 있다.

그러나 한계도 존재한다. ‘블랙스완’이라 불리는 귀납의 오류다. 기계학습은 귀납의 오류를 전제로 한다. 현재까지 관찰한 모든 백조가 흰색이었더라도 단 한 마리의 흑색 백조가 발견되면 기존 명제는 무너지게 된다. 즉 기계학습은 과거 데이터에 기반하기 때문에 규칙성을 벗어난 블랙스완이 갑자기 등장하면 잘못된 판단을 일으키기 십상이다.

로봇 트레이딩의 우울한 단면, 초단타매매

아노바 테크놀로지는 초단타매매를 지원하기 위해 뉴욕증권거래소 데이터 센터와 나스닥 거래소 데이터 센터를 연결하는 레이저 장비를 설치했다 (출처 : 아노바 테크놀로지)

아노바 테크놀로지는 초단타매매를 지원하기 위해 뉴욕증권거래소 데이터센터와 나스닥 거래소 데이터센터를 연결하는 레이저 장비를 설치했다 (출처 : 아노바 테크놀로지)

로봇 트레이더의 강점은 속도다. 인간 트레이더가 매매 주문을 내기 위해 버튼을 누르는 시간이면 로봇은 수십, 수백 건의 거래를 진행할 수 있다. 뉴욕증권거래소의 경우 9시30분 장이 열리는 벨이 울리자마자 수만건의 주문이 쏟아지고 성사된다. 이로 인해 10억분의 1초 경쟁이 벌어진다. 특히 차익거래 시장에선 최대한 빨리 거래를 성사시킬수록 더 많은 수익을 얻을 수 있게 된다. ‘초단타매매'(HFT)라는 용어가 등장하게 된 베경이다. 로봇 거래가 주류로 자리를 잡으면서 벌어진 풍경이다.

초단타매매는 인터넷 회선의 속도와 컴퓨터의 성능이 수익률을 좌우한다. 얼마나 다른 로봇보다 더 빨리 주문을 내고 체결하느냐가 관건이다. 이를 위해 월가는 네트워크 회선에 수십억을 투자한다. 거래서 서버와 가능한 가까운 곳에 자사 서버를 위치시키기 위한 경쟁이 치열하게 전개되고 있다. 최근에는 레이저와 드론을 네트워크를 연결하는 시도도 이어지고 있다.

때론 속도 경쟁이 재앙을 초래하기도 한다. 주식시장이 로봇의 격전장이 되면서 기대와 달리 주식시장의 혼란이 증폭되는 경우가 발생하고 있다. 이로 인해 몇몇 투자기업이 수십분 만에 파산 위기에 내몰리는 사례도 등장했다. 일부 알고리즘의 거래 오류, 이어진 추종 전략 알고리즘의 연쇄적인 판단 실패 등이 원인으로 지목되고 있다.

나이트캐피탈은 로봇 트레이딩으로 파산 직전까지 몰렸던 증권 거래업체다. 2012년 8월1일 나이트캐피탈은 불과 45분 만에 무려 4억4천만달러(4500억원 이상)의 손실을 입었다. 분당 100억원 이상의 돈이 증발해버린 것이다. 월가에선 “나이트캐피탈이 파산할 것”이라는 소문이 급속히 퍼져나갔다. 하지만 이후 4억달러를 추가 조달하면서 위기를 넘어설 수 있었다.

단 45분이었지만 뉴욕증권거래소에 미친 영향은 상당했다. 뉴욕증권거래소에 상장된 150개 종목의 가격이 급변동했고 불과 3분 만에 거래된 물량은 전주 평균 대비 2배를 넘어서기도 했다. 문제는 나이트캐피탈의 이상 거래를 제어할 수 있는 장치가 없었다는 사실이다. 이를 통해 로봇 트레이더의 위험성이 적나라하게 드러났다.

국내에도 유사한 사건이 발생했다. 한맥투자증권의 파산이다. 한맥투자증권은 2013년 12월 단 한 번의 알고리즘 매매 오류로 460억원의 손실이 발생하면서 결국 문을 닫았다. 한맥투자증권이 콜풋옵션 42개 종목에서 460억원을 잃는 데까지 걸린 시간은 불과 2분. 알고리즘 오류로 발생한 2분 간의 실수로 국내 중소 증권사가 사라지는 결과가 빚어졌다.

로봇 트레이더의 미래와 버그

2010년 플래시 크래시가 발생했을 당시 월스트리트저널의 보도(출처 : 월스트리트저널)

2010년 플래시 크래시가 발생했을 당시 월스트리트저널의 보도(출처 : 월스트리트저널)

로봇 트레이더의 등장은 속도 경쟁을 불러왔다. 속도 경쟁은 초단타매매라는 기술 우위의 거래 관행을 만들어냈다. 단 몇 밀리초의 차이로 거대한 거래차익을 챙기는 로봇 트레이더. 물론 그 뒤에는 월가의 탐욕이 결합돼 있다. <플래시 보이스>의 저자 마이클 루이스는 이를 일컬어 “괴물”이라 불렀다.

괴물이 빚어낸 최악의 사고는 ‘플래시 크래시’다. 주가에 영향을 미칠 만한 특별한 요인이 없었음에도 “아주 짧은 시간 동안의 기계적인 취소 주문”으로 주가가 대폭락하는 현상이다. 미국은 2010년 5월 경험했다. 국내에서도 ‘플래시 크래시’로 추정되는 주가 대폭락 사건이 종종 관찰되고 있다.

<돈은 어떻게 자라는가 : 투자하기 전에 알아야 할 8가지 돈 문제>의 저자 권오상 전 차의과대 글로벌경영학과 교수는 “주식 거래가 점점 로봇에 의해 수행되고 있는 현 시점에서 플래시 크래시 같은 상황은 예외라기보다는 하나의 규칙이 될 수 있다”고 지적했다.

플래시 크래시는 ‘괴물’의 약점에서 비롯된다. 바로 버그다. 그것은 알고리즘 코드의 버그일 수도 있고, 네트워크 장비와 관련된 하드웨어적 오류일 수도 있다. ‘괴물의 버그’는 대신 재앙을 부른다. 10만원, 100만원이 허공에 사라지는 수준이 아니다. 수천억, 수조원이 허공으로 날아갈 수 있다. 다른 나라 주식시장에 연쇄적으로 영향을 미칠 수도 있는 것은 물론이다.

괴물의 약점은 다시 인간을 불러내고 있다. 2012년 은 이렇게 주장했다. “시장에 여전히 인간이 필요하다”고. 밥도 먹고 보너스도 요구하는 인간이 트레이딩 시장에 남아야 한다고 말한다. 로봇 트레이더의 버그로 전세계가 혼란에 빠지는 상황을 막기 위한 대안인 것이다. 로봇에 의한 자동화의 귀착점은 어쩌면 인간과 로봇의 공존 모델일 수도 있다.

참고 자료

  • ‘플래시 보이스’. 마이클 루이스.(2014).
  • <이코노미스트>.(2005.9.15). The march of the robo-dtraders.
  • <Mother Jones>.(2013.2.4). Too fast to fail : Is High-speed trading the next wall street disaster?
  • Tianxin Dai.(2012). Automated Stock Trading using machine learning algorithms.

dangun76@gmail.com

메디아티 미디어테크랩장입니다. 이메일은 dangun76@mediati.kr 트위터는 @dangun76 을 쓰고 있습니다. '뉴스미디어의 수익모델 비교 연구'로 석사 학위를 취득했습니다. 현재 관련 분야 박사과정에 재학 중입니다. 저서로 '트위터 140자의 매직', '혁신 저널리즘'이 있습니다. 독자 여러분들의 다양한 피드백을 간절히 원하고 있습니다. (https://www.facebook.com/mediagotosa/)에서 더 많은 얘기 나눠요.