삼성전자가 AI(인공지능) 엔진을 탑재한 메모리 반도체 제품군을 확대키로 해 주목된다. 메모리와 시스템반도체의 융복합화를 주도하면서 다양한 글로벌 기업들과 협력을 통해 차세대 메모리 반도체 생태계를 빠르게 확대키로 해 관심을 모으고 있다.
삼성전자는 24일 온라인으로 개최된 Hot Chips 학회에서 지난 2월 업계 최초로 개발한 HBM-PIM 뿐만 아니라 PIM 기술을 적용한 다양한 제품군과 응용 사례를 소개, D램 모듈에 AI 엔진을 탑재한 'AXDIMM(Acceleration DIMM)'과 모바일 D램·PIM((Processing-in-Memory)을 결합한 'LPDDR5-PIM' 기술 그리고 'HBM-PIM'의 실제 시스템 적용 사례를 각각 설명했다.
'AXDIMM'은 PIM 기술을 칩단위에서 모듈단위로 확장한 것으로 D램 모듈에 인공지능 엔진을 장착한 제품이다.
D램 모듈의 동작 단위인 각 Rank(DRAM 모듈에서 메모리 칩의 일부 또는 전체를 사용하여 생성되는 데이터의 한 블록)에 AI 엔진을 탑재하고 병렬 처리를 극대화해 성능을 높이고, AI 엔진을 통해 D램 모듈 내부에서 연산이 가능해져 AI 가속기 시스템의 에너지 효율을 높일 수 있다.
현재 글로벌 고객사들의 서버 환경에서 성능 평가가 진행되고 있으며 약 2배 성능 향상, 시스템 에너지 40% 이상 감소가 확인됐다.
삼성전자는 모바일 분야까지 PIM을 확대 적용한 'LPDDR5-PIM' 기술을 공개했다. 데이터센터와 연결 없이 휴대폰 독자적으로 AI 기능을 수행할 수 있는 On-Device AI(멀리 떨어진 클라우드 서버를 거치지 않고 스마트기기 자체적으로 정보를 수집·연산)의 성능과 에너지 문제를 효과적으로 해결할 수 있을 것으로 예상, 시뮬레이션 결과 음성인식·번역·챗봇 등에서 2배 이상의 성능 향상과 60% 이상의 에너지 감소가 확인됐다.
또한 삼성전자는 지난 2월 공개한 'HBM-PIM'을 실제 시스템에 탑재한 검증 결과도 발표했다.
FPGA 개발 업체인 미국 자일링스(Xilinx)에서 이미 상용화 중인 AI 가속기 시스템에 HBM-PIM을 탑재했을 경우 기존 HBM2를 이용한 시스템 대비 성능은 약 2.5배 높아지고 시스템 에너지는 60% 이상 감소됨을 공개, 참석자들로부터 큰 관심을 받았다.
평택/김종호기자 kikjh@kyeongin.com