삼성전자가 인공지능(AI)을 메모리 반도체 제품군에 활용하고 있다. 차세대 메모리 생태계를 확장하겠다는 계획이다. 삼성전자 측은 AI 엔진을 활용하면 기존 제품보다 2배 이상의 성능을 기대할 수 있다고 설명했다.
삼성전자는 24일 차세대 반도체 기술을 공개하는 핫칩스(Hot chips) 학회에서 PIM 기술을 적용한 다양한 제품과 응용사례를 소개했다고 밝혔다. PIM은 메모리 내부에 연산 작업에 필요한 AI 프로세서 기능을 더한 지능형 반도체다.
구체적으로 D램 모듈에 AI 엔진을 탑재한 ‘AXDIMM(Acceleration DIMM)', 모바일 D램과 PIM을 결합한 'LPDDR5-PIM' 기술을 소개했다.
AXDIMM은 PIM 기술을 칩단위에서 모듈단위로 확장한 제품으로 AI 엔진을 통해 D램 모듈 내부에서도 연산이 가능한 게 특징이다. 자연스레 CPU와 D램 모듈 간 데이터 이동이 줄어들어 에너지 효율을 높일 수 있다.
삼성전자에 따르면 AXDIMM은 글로벌 고객사들의 서버 환경에서 성능 평가가 진행되고 있다. 성능은 약 2배 향상, 시스템 에너지는 40% 이상 감소가 확인됐다.
LPDDR5-PIM은 모바일 분야까지 PIM을 확대 적용한 사례다. PIM 기술이 모바일 D램과 결합된 것이다. 스마트폰은 데이터센터 연결 없이 독자적으로 AI 기능을 수행할 수 있다.
지난 2월 공개한 HBM-PIM을 실제 시스템에 탑재한 검증 결과도 발표했다. 삼성전자는 자일링스가 상용화 중인 제품(AI 가속기)에 HBM-PIM을 장착했다. 기존보다 성능은 약 2.5배 높아지고 시스템 에너지는 60% 이상 감소됐다.
김남승 삼성전자 메모리사업부 DRAM 개발실 전무는 “HBM-PIM은 업계 최초의 인공지능 분야 맞춤형 메모리 솔루션으로 고객사 AI 가속기에 탑재돼 평가받고 있어 상업적 성공 가능성이 보인다”며 “향후 표준화 과정을 거쳐 차세대 슈퍼컴퓨터 및 On-Device AI용 모바일 메모리 및 데이터센터용 D램 모듈로 확장할 예정”이라고 밝혔다.
삼성전자는 내년 상반기 내 다양한 고객사들의 AI 가속기를 위한 PIM 기술 플랫폼의 표준화 및 시스템 구축을 마무리할 예정이다. AI 가속기 시장이 커지고 있는 만큼 인공지능 메모리 시장도 확대해 나갈 예정이다. AI 가속기는 인공지능 구현 및 실행을 위한 전용 하드웨어다.