요약정리

SK텔레콤은 AI 가속기를 어떻게 만들었을까

2018.08.16

SK텔레콤은 지난 6월 ‘인공지능(AI) 연산 가속기’를 발표했다. 서비스 고도화에 따라 폭증하는 방대한 데이터를 실시간으로 빠르게 처리하고 전력 효율성을 높이기 위해서다. 구글이나 페이스북 등 글로벌 IT 기업들이 자체 AI 칩을 개발하는 배경과 같은 맥락이다. SK텔레콤의 AI 가속기에는 자일링스의 FPGA(field programmable gate array)가 사용됐다.

SK텔레콤과 자일링스는 8월16일 기자간담회를 열고 자일링스 FPGA 기반 AI 가속기를 SK텔레콤 데이터센터에 적용했다고 발표했다. 국내에서 데이터센터 기반 AI 서비스에 FPGA 기반 AI 가속기를 적용한 건 이번이 처음이다. 현재 AI 가속기는 SK텔레콤의 AI 서비스 ‘누구’에 적용됐다. 누구 클라우드에 적용해 자동음성인식(ASR) 애플리케이션의 성능을 GPU 대비 5배 이상 끌어올렸다. 이강원 SK텔레콤 SW기술원 원장은 “AI 가속기를 사용할 경우 서버 다섯대를 카드 하나로 대체하는 효과가 있다”라며 “발열과 전기소모, 공간을 절약할 수 있어 효율적이다”라고 말했다.

| 자일링스 FPGA 기반 AI 가속기가 SK텔레콤 데이터센터에 적용됐다.

 

AI를 위한 FPGA와 ASIC

기존에 AI 분야에 주로 사용됐던 컴퓨팅 자원은 GPU다. 특히 딥러닝 분야는 GPU를 기반으로 폭발적으로 성장했다. CPU는 데이터를 순차적으로 연산하는 반면, GPU는 병렬방식으로 연산 처리가 이뤄지기 때문이다. 하지만 AI 기반 서비스가 고도화되면서 더 효율적인 컴퓨팅 자원의 필요성이 대두되기 시작했다. 기존 반도체 업체 외에 구글이나 페이스북 등의 플랫폼 서비스 업체들도 자사 서비스에 최적화된 AI 칩 개발에 적극적으로 뛰어들고 있다. SK텔레콤이 사용한 방식은 FPGA다. FPGA는 회로 변경이 가능한 비메모리 반도체다. 사용자가 자신들의 필요에 따라 프로그래밍해 쓸 수 있다. 자일링스는 전세계 FPGA 시장에서 60% 이상의 점유율을 차지한 1위 업체다. SK텔레콤은 2년 전부터 자일링스와 공동으로 AI 가속 솔루션을 개발했다.

| 안흥식 자일링스코리아 지사장, 라민 론 자일링스 AI 솔루션 부문 마케팅 담당 부사장, 이강원 SK텔레콤 SW기술원 원장, 정무경 SK텔레콤 SW기술원 랩장(왼쪽부터)

일반적으로 FPGA는 특정 용도를 위해 설계된 칩인 ASIC(주문형 반도체)의 전 단계로 여겨지곤 한다. 회로 변경이 가능하다는 장점이 있는 FPGA를 이용해 얻은 성과를 바탕으로 ASIC을 대량 생산하는 식이다. 머신러닝 엔진인 텐서플로우에 특화된 AI 칩인 구글의 TPU가 ASIC 방식의 대표적인 예다. 이에 대해 안흥식 자일링스코리아 지사장은 “AI 머신러닝 기술이 너무 빨리 발전하다 보니 CPU, GPU, ASIC 방식으로는 하드웨어가 변하는 알고리즘을 따라갈 수 없는 상황이며 앞으로 FPGA의 위치가 점점 좋아질 것”이라고 말했다.

이강원 SK텔레콤 원장은 “기술 발전이 빠르게 일어나는 AI 분야 특성상 FPGA가 가진 장점이 있다”라며 “규모 대비 이득이 있어야 커스텀 칩 개발이 가능하기 때문에 FPGA에서 ASIC의 전환은 기술적인 것뿐만 아니라 사업적인 고려도 필요하다”라고 밝혔다.

 

AI 서비스 다각화를 위한 발판

SK텔레콤의 ‘AI 가속 솔루션(AIX, AI Inference Accelerator)’에 사용된 건 자일링스의 ‘킨텍스 울트라스케일 FPGA’다. 양사는 누구 자동음성인식(ASR) 애플리케이션에서 GPU보다 최대 5배 이상의 성능을 달성했으며, 16배 향상된 와트당 성능을 달성했다고 밝혔다. 또 기존 CPU 전용 서버의 빈 슬롯에 FPGA 카드를 추가하는 방식으로 데이터 처리 용량을 늘릴 수 있기 때문에 비용 절감 효과가 크다고 전했다. 이강원 SK텔레콤 원장은 “미래에 계속 인공지능 서비스를 다각화할 텐데 (AI 가속기를 통해) 이에 대한 투자를 줄이면서 다양한 실험을 할 수 있는 환경이 만들어졌다”라고 말했다.

양사는 다양한 AI 분야로 협력을 늘려갈 계획이다. 현재 누구 음성인식 이외에도 이미지 및 비디오 처리 분야에 AI 가속기가 적용될 수 있다. 또 추후에는 자율주행 분야에서도 협력이 이뤄질 가능성이 있다. 라민 론 자일링스 AI 솔루션 부문 마케팅 담당 부사장은 “AI 분야, 빅데이터, 이미지 프로세싱을 비롯해 클라우드에서 엣지까지 다양한 분야에서 협력할 가능성 크다”라고 밝혔다.

| 자일링스와 SK텔레콤은 다양한 AI 분야로 협력을 늘릴 계획이다.

SK텔레콤의 자일링스 FPGA 기반 AI 가속 솔루션은 오는 10월 미국 실리콘밸리와 중국 베이징에서 개최되는 ‘자일링스 개발자 포럼'(XDF)에서 시연될 예정이다.

spirittiger@bloter.net

사랑과 정의의 이름으로 기술을 바라봅니다. 디바이스와 게임, 인공지능, 가상현실 등을 다룹니다.