빅테크, 맞춤형 AI 칩으로 엔비디아에 도전장 [친절한 IT]

엔비디아가 인공지능(AI) 칩 시장을 주도하고 있는 가운데 많은 기술 기업들이 맞춤형 칩 개발에 나서며 존재감을 키우고 있다. 

23일(현지시간) 경제전문 매체 CNBC에 따르면 구글의 텐서처리장치(TPU)부터 아마존의 트레이니엄을 비롯한 주요 클라우드 기업들이 맞춤형 특수목적 집적회로(ASIC)를 직접 설계하고 있다. 챗GPT 개발사 오픈AI는 브로드컴과 함께 칩을 제작 중이다. 

맞춤형 ASIC은 엔비디아 그래픽처리장치(GPU)에 비해 접근성이 높고 저렴하다. 이에 기술 기업들이 자체 AI 칩을 개발해 엔비디아에 대한 의존도를 낮출 것으로 예상된다. 퓨처럼그룹의 다니엘 뉴먼 최고경영자(CEO)는 “맞춤형 ASIC이 향후 몇 년 동안 GPU 시장보다 더 빠르게 성장할 것”으로 전망했다.

GPU는 한때 주로 게임용으로 사용됐지만 최근 몇 년간 주로 AI 작업에 쓰이고 있다. GPU는 중앙처리장치(CPU)와 함께 서버랙 시스템 형태로 판매되며 데이터센터에 탑재돼 클라우드에서 AI 작업을 수행한다. 72개의 블랙웰 GPU가 하나로 작동하는 서버랙 가격은 한 대당 약 300만달러이며 엔비디아는 이를 매주 약 1000대씩 출하하고 있는 것으로 알려졌다. 엔비디아는 GPU를 아마존, 마이크로소프트(MS), 구글, 오라클, 코어위브 같은 클라우드 기업에 판매한다. 

최근에는 AI 추론 수요가 급증하면서 ASIC이 부각되고 있다. GPU가 여러 종류의 병렬 연산을 수행한다면 ASIC은 특정 연산만 수행하도록 회로가 고정돼서 단일 목적 도구에 가깝다. 엔비디아 GPU는 기능 면에서 유연성이 높지만 가격이 높고 공급도 빠듯하다. 전문가들은 충분한 자금을 갖춘 초대형 클라우드 기업에게는 장기적으로 맞춤형 ASIC이 더 효율적인 것으로 평가한다.

구글은 빅테크 기업 중 최초로 2015년에 AI를 위한 맞춤형 ASIC을 개발했다. 구글이 TPU에 대한 구상을 시작한 것은 2006년이었으나 실제 개발에 나선 것은 2013년이다. 당시 회사는 AI가 데이터센터 수를 두 배로 늘릴 것으로 판단했다. 구글은 조만간 7세대 TPU인 아이언우드를 정식 출시할 예정이다.

일부 전문가들은 기술적으로 TPU가 엔비디아 GPU와 동등하거나 뛰어난 것으로 평가한다. ‘칩 워’ 저자인 크리스 밀러 터프츠대학교 교수는 “전통적으로 구글은 TPU를 내부 용도로만 사용해 왔다“며 “장기적으로는 외부에 더 넓게 개방할 것이라는 관측이 많다“고 설명했다. 

아마존웹서비스(AWS)는 2015년 이스라엘 칩 스타트업 아나푸르나랩스를 인수한 이후 자체 AI 칩을 설계하기 시작했다. AWS는 2018년과 2022년에 각각 인퍼렌시아와 트레이니엄을 선보였다. 3세대 트레이니엄은 이르면 12월 공개될 예정이다.

트레이니엄 총괄 설계자인 론 디아만트는 AWS의 ASIC이 회사가 개발한 다른 하드웨어 대비 가격과 성능이 30~40% 우수하다고 밝혔다. 그는 “시간이 지나며 트레이니엄 칩이 추론과 훈련에 있어 모두 뛰어난 성능을 발휘한다는 것을 확인했다“고 말했다.

ASIC은 개발이 까다로워서 기술 기업들은 네트워킹 기술과 노하우를 갖춘 브로드컴, 마벨 같은 칩 설계사와 협력한다. 밀러는 “특히 브로드컴은 AI 붐의 가장 큰 수혜자 중 하나“라고 전했다. 브로드컴은 오픈AI와의 계약 체결 전 구글의 TPU와 2023년 출시된 메타의 훈련·추론 가속기(TIA)도 개발했다. 

MS는 자체 ASIC인 Maia 100 칩을 미국 동부 데이터센터에 배치했다. 그 외에도 ASIC에는 퀄컴 A1200, 인텔의 가우디 AI 가속기, 테슬라의 AI5 칩이 있다.

중국에서는 화웨이, 바이트댄스, 알리바바가 맞춤형 ASIC을 개발하고 있지만 첨단 장비와 AI 칩에 대한 수출 통제 조치가 제약으로 작용하고 있다.

AI 가속기에는 GPU와 ASIC 외에도 현장 프로그래머블 게이트 어레이(FPGA)가 있다. FPGA는 제조 후에도 소프트웨어로 재구성할 수 있어 AI, 신호 처리, 네트워킹 등 다양한 용도로 쓰인다. 또 애플과 퀄컴 등은 클라우드가 아닌 기기 내에서 AI를 실행하는 온디바이스를 개발했다. 

다만 당분간은 엔비디아가 AI 가속기 시장에서 1위 자리를 지킬 것으로 예상된다. 뉴먼은 “엔비디아는 실력으로 이 위치에 올랐고 이를 위해 수년 동안 생태계를 구축해 왔다“며 “개발자 생태계를 정복했다“고 진단했다.