박성현 리벨리온 대표 "AI 반도체는 사치품 아냐"...규모의 경제 '필수품'

"인공지능(AI) 반도체는 사치품이 아니라 필수품입니다. 만약 서비스 효용이 플러스(+) 50인데, 비용이 100이라면 그 서비스는 절대 상용화될 수 없는데요. AI를 부르짖던 대기업들도 막상 서비스해보면 적자임을 깨닫고 서비스 비용을 줄이려 하고 있습니다. 그런데 널리 쓰이는 GPU(그래픽처리장치)로는 비용을 결코 낮추지 못해요. 가장 좋은 방법은 AI 반도체를 쓰는 겁니다."

박 대표는 현시점의 리벨리온을 'AI 인프라를 만드는 회사'로 정의했다. 원래 AI 반도체는 금융이나 자율주행 등 특수 분야에서 GPU보다 빠른 서비스 속도 구현을 위한 대안으로 주목받았지만, 최근에는 이를 대규모 서비스 인프라에도 적용해야 할 이유가 대두되고 있기 때문이다.

좋은 예로 올해 국내외 여러 빅테크 기업이 상용화 경쟁을 펼친 초거대 AI 분야가 있다. 초거대 AI는 이름 그대로 방대한 컴퓨팅 자원과 학습 데이터, 이를 활용할 수 있는 고도의 AI 알고리즘이 만난 고성능 AI의 결정체다. 앞서 AI 융합을 통해 한차례 생산성 혁신을 이룬 기존 디지털 서비스들이 미래엔 초거대 AI와 만나 한층 '인간다운 수준'으로 진화할 것이 기대되고 있다.

문제는 고성능 AI 구현에 필연적으로 따르는 운영 비용이다. 초거대 AI는 복잡한 데이터 추론을 빠른 속도로 수행하기 위해 막대한 컴퓨팅 자원을 필요로 한다. 사람의 뇌도 충분한 산소와 양분이 공급되었을 때 제 기능을 할 수 있는 것처럼 말이다. 그동안 AI의 '산소와 양분'은 구조적으로 궁합이 좋은 GPU의 몫이었다.

GPU는 원래 게이밍과 그래픽 작업에 특화된 반도체다. 뛰어난 범용성으로 현세대 AI 산업의 '핵'이 됐지만, 대규모 서비스에 GPU를 투입할수록 막대한 전력이 소모된다. 기존 AI와 규모의 궤를 달리하는 초거대 AI나 대규모 데이터센터쯤 되면 이 비용이 기하급수적으로 증가한다. 앞서 박 대표가 "서비스 효용이 50인데 비용이 100이라면 상용화가 어렵다"고 말한 이유다.

이때 태생부터 범용성보다 AI 알고리즘 연산에 특화된 AI 반도체는 확실한 대안이 된다. 박 대표는 "글로벌 클라우드 기업 아마존의 경우 AI 반도체를 도입해 자사 서비스의 TCO(총소유비용)를 3분의 1까지 낮췄다"며 "AI 서비스 사용자가 많아져 AI 연산량도 늘면 비용이 기하급수적으로 커지기 때문에 이를 받아줄 효율 좋은 인프라가 반드시 필요하다"고 말했다.

박 대표는 AI 기반 규모의 경제 구현을 위해 AI 반도체가 필요한 이유를 '물류'에 빗대기도 했다. 그는 "만약 상품이 1~2개라면 스포츠카로도 배송할 수 있다. 그런데 대규모 물류라면 값비싼 스포츠카로 할 수는 없는 노릇"이라고 설명했다.

그 중 리벨리온의 AI 반도체는 처리 지연시간(Latency) 최소화, 빠른 속도에 강점이 있다. 애초에 GPU보다 적은 전력으로 보다 빠른 연산을 가능케 하는 것이 AI 반도체의 특징이므로 이 두 가지는 필수다. 그러나 리벨리온이 고평가를 받은 건 2021년 창업 1년여만에 내놓은 금융거래 전용 AI 반도체 '아이온(ION)'부터다.

아이온은 당시 동종 분야 세계 1위였던 인텔 제품 대비 30% 이상 빠른 속도와 2배 이상 높은 전력효율을 구현해 세계를 놀라게 했다. 특히 찰나의 거래가 대규모 이익 실현 여부와 이어지는 금융거래 부문에서 이는 더 매력적인 요소다. 모건스탠리에서 퀀트(계량 분석) 트레이더로 일한 박 대표와 IBM 왓슨연구소에서 AI 반도체 수석설계자로 근무한 오진욱 CTO(최고기술운영자)의 합작품이었다.

또 아이온은 글로벌 최대 파운드리 업체인 TSMC가 7나노 공정에서 생산을 맡기로 하면서 한차례 더 유명세를 탔다. 신생 기업이 TSMC의 정밀공정을 따내는 사례 자체가 흔치 않기 때문이다. 게다가 서버용으로 만들어진 두 번째 AI 반도체 '아톰'은 삼성전자의 선제안으로 5나노 공정 생산이 예정돼 있다. 리벨리온의 잠재력을 알아본 두 파운드리 거물의 투자다.

더불어 리벨리온과 생태계 측면에서 유의미한 파트너십을 맺은 기업은 KT다. 통신기업 KT는 2020년 이래 AI를 중심으로 회사의 사업을 대대적으로 개편하고 있다. AI에 대한 공격적인 투자와 연합 생태계 조성에도 적극적이다. 리벨리온이 유치한 1000억원 규모의 투자 중 300억원은 KT 지분이다.

KT는 자체 AI 서비스 역량에 리벨리온의 AI 하드웨어 역량, 또 다른 투자기업 모레의 소프트웨어 최적화 역량을 결합한 'AI 풀스택' 기반으로 국내외 초거대 AI 시장 선점을 준비하고 있다.

KT를 선택한 건 리벨리온이다. 박 대표는 "앞서 이름만 대면 알만한 대기업들을 모두 만나봤지만 AI에 '진심'인 기업, 자체 데이터센터 등 충분한 기반을 갖춘 회사는 KT뿐이었다"고 말했다. 스타트업에 고압적이거나, 그들의 문화를 이해하지 못하는 보통의 대기업과 달리 스타트업의 특징을 유연하게 받아들이고 각자의 장점을 살리는데 적극적인 KT의 문화도 높게 평가했다.  

AI 풀스택 생태계의 가능성에도 주목했다. 박 대표는 "풀스택 AI가 강력한 이유는 하드웨어부터 소프트웨어, 서비스로 이어지는 최적화에 강점이 있기 때문"이라며 "애플이 현재 스마트폰 시장에서 크게 성공한 이유도 하드웨어(칩, 아이폰)부터 소프트웨어(운영체제)까지 전적으로 설계 가능한 능력과 그에 따른 최적화 덕분"이라고 강조했다. 특히 향후 자율주행차나 데이터센터 영역에서만큼은 AI 풀스택이 갖춰진 생태계와 아닌 곳의 차이가 극명할 것으로 전망했다.

그는 "지금까지 CPU(중앙처리장치)나 GPU는 전량 미국에서 사다 썼다. 중국도 마찬가지인데 미국의 규제로 GPU 수입에 문제를 겪었고 이는 국가 안보와 직결됐다. 그처럼 앞으로 AI 역량을 확보하지 못한다는 건 냉전에 핵무기가 없는 것과 같다. 반도체는 대한민국이 잘한다. 20~30년 전 디램(D-RAM)에서 삼상전자가 일본을 추월했을 때 국가적 역량이 집중됐던 것처럼 AI 분야에서도 이 같은 역사의 반복이 필요하다"고 말했다.

다만 이 같은 노력은 '먼 미래'를 내다본 장기전이 되어야 한다. 박 대표는 2023년에도 AI 반도체가 GPU를 압도하는 드라마틱한 변화는 없을 것으로 내다봤다. 그러나 '가랑비에 옷 젖듯' 시대는 AI 반도체 중심으로 분명 변화할 거란 확신을 보였다. 적지만 매년 엔비디아의 GPU가 AI 반도체에 시장 점유율을 뺏기고 있는 것, 전기차가 느리지만 점점 자동차 시장의 주류가 되고 있는 것처럼 말이다.

박 대표는 "단기적 변화는 천천히 와도 장기적 변화는 급속도로 올 것"이라고 내다봤다.