삼성전자가 최근 인공지능(AI) 분야에서 화두가 되고 있는 '초거대 AI'를 지원하기 위한 메모리 기술을 선보이며, 차세대 메모리 표준을 선점하기 위한 경쟁을 예고했다.

20일 삼성전자에 따르면 이달 5일(현지 시간) 미국 실리콘밸리에서 열린 '삼성 테크 데이 2022(Samsung Tech Day 2022)'을 통해 CXL 기반의 PNM(Processing-near-Memory) 솔루션을 공개했다고 밝혔다. 

CXL(컴퓨트 익스프레스 링크)는 고성능 컴퓨팅 시스템에서 중앙처리장치(CPU), 그래픽처리장치(GPU), 가속기, 메모리 등을 효율적으로 사용하기 위해 만든 새 표준화 인터페이스다. 데이터 처리량이 폭발적으로 증가하고 있어 기존의 컴퓨팅 시스템으로는 감당하기 어려운 상황에서 CXL는 CPU 증설 없이 메모리의 용량을 쉽게 확장할 수 있도록 한 것이 가장 큰 특징이다.

특히 삼성전자에서 개발한 PNM 기술은 메모리를 데이터 연산 기능에 활용해 작업 처리 속도를 높인 것이 특징이다. 연산 기능을 메모리 옆에 위치 시켜 CPU-메모리 간 발생하는 병목 현상을 줄이고 시스템 성능을 개선할 수 있다고 회사 측은 설명했다.

삼성전자는 높은 메모리 대역폭을 요구하는 추천 시스템이나 인-메모리 데이터베이스 등의 응용에서 약 2배 이상 성능이 향상되는 것을 확인했다고 밝혔다.

삼성전자는 이 기술이 고용량 AI 모델 등에 적용돼 시스템 성능 향상에 기여할 것으로 기대한다.

특히 CXL-PNM 솔루션에 PIM(Processing-in-Memory) 기술을 접목해 AI, 메타버스 등 미래 산업의 고성능 수요에 대응하고 친환경 경영에도 기여할 것으로 기대했다.

PIM은 프로세서가 수행하는 데이터 연산 기능을 메모리 내부에 구현한 기술이다. PIM을 활용하면, 메모리 내부에서 연산 처리가 가능해 CPU와 메모리 간 데이터 이동이 줄어들기 때문에 AI 가속기 시스템의 성능과 에너지 효율을 높일 수 있다. 삼성전자는 PIM 기술을 적용한 차세대 메모리 'HBM-PIM'을 상용화한 결과, 기존 GPU 가속기 대비 성능은 평균 2배 증가하고 에너지 소모는 50% 감소하는 결과를 얻었다고 설명했다.

삼성전자 메모리사업부 신사업기획팀장 박철민 상무는 "HBM-PIM 클러스터 기술은 업계 최초의 거대 규모 인공지능 분야 맞춤형 메모리 솔루션"이라며 "통합 소프트웨어 표준화 과정을 거쳐 CXL-PNM 솔루션과 도 접목해 에너지 절감 및 탄소 배출 저감 효과를 극대화함으로써 친환경 경영에 기여할 것"이라고 말했다.