카이스트, 21배 빠른 PIM 인공지능 가속 시스템 개발

가 +
가 -

삼성미래기술육성재단의 지원을 받은 카이스트 연구진이 세계 최초로 ‘프로세싱 인 메모리(Precessing in Memory, PIM)’ 기반의 지능형 반도체 시스템 개발에 성공했다.

카이스트 유민수 교수 연구팀이 고안한 새 기술은 인공지능(AI) 추천 시스템의 학습 알고리즘을 처리 속도를 가속한다. 현재 AI 기반 추천 알고리즘은 구글, 페이스북, 아마존 등의 빅테크 기업들이 콘텐츠 추천 및 개인화 광고를 제공하는 데 사용되고 있으며 온라인 광고 수입 규모가 증가하며 기술의 중요성도 점차 높아지는 추세다.

(왼쪽부터) 유민수 교수, 권영은 박사과정(제1저자), 이윤재 석사과정(제2저자)

페이스북이 공개한 최근 자료에 따르면 페이스북 데이터센터에서 처리되는 AI 연산의 70%가 추천 알고리즘 처리에 사용되며, AI 알고리즘 학습을 위한 컴퓨팅 자원의 50%는 추천 알고리즘 학습에 사용되고 있다. 추천 알고리즘은 기존 음성, 이미지용 AI와 달리 추천 객체 및 사용자 수가 증가할수록 처리 정보가 증가하는 특성을 갖고 있어 기존 AI와는 크기와 연산 특성이 매우 다르다.

유민수 교수 연구팀이 만든 지능형 반도체는 메모리 반도체에 AI 연산 기능을 추가한 것으로, 기존 엔비디아의 그래픽카드(GPU)를 이용한 AI 추천 시스템 알고리즘 학습 속도 대비 최대 21배까지 빠르다고 연구팀 관계자는 설명했다. 해당 연구 결과는 `Tensor Casting: Co-Designing Algorithm-Architecture for Personalized Recommendation Training’라는 제목으로 내년 2월 IEEE 국제 학술대회(HPCA)에서 발표될 예정이다.

기존 딥러닝 학습 가속기 시스템에 PIM을 적용한 가속기 시스템의 모식도 / 자료=카이스트

한편, 지능형 메모리 반도체 기술은 AI 반도체 세계 시장 공략을 위한 핵심 기술 중 하나로 주목받고 있다. 정부에서도 ‘AI 종합 반도체 강국 실현’을 비전으로 내세워 막대한 투자를 진행 중이다. 유 교수는 이 분야에서 그동안의 탁월한 연구 성과를 인정받아 올해 아시아에서 유일하게 페이스북 패컬티 리서치 어워드(Facebook Faculty Research Award)를 수상했다.