Memory Reimagined: From High-Bandwidth to In-Memory Processing
오후 2:50 - 오후 3:15
거대언어모델(LLM)과 생성형 AI를 포함한 인공지능 모델의 규모와 복잡성이 기하급수적으로 증가함에 따라, 업계는 '메모리 장벽(Memory Wall)'이라는 중대한 도전에 직면해 있습니다. 대역폭의 한계와 데이터 이동에 따른 전력 소모 문제는 이제 단순한장애물이 아니라 AI 진화를 가로막는 장벽이 되고 있습니다.
본 발표에서는 이러한 과제를 극복하기 위해 삼성전자가 메모리의 역할을 어떻게 재정의하고 있는지 살펴봅니다. 극한의 성능을 위한 HBM, 확장 가능한 용량을 위한 CXL, 그리고 온디바이스 AI를 위한 LPDDR 등, AI 시대를 위해 최적화된 삼성의 첨단 메모리 계층 구조(Memory Hierarchy)를 포괄적으로 소개합니다.
더 나아가, 본 강연에서는 메모리 장치에 연산 기능을 직접 통합하는 혁신적인 접근 방식인 PIM(Processing-in-Memory) 기술을 심도 있게 다룹니다. DRAM-PIM이 어떻게 데이터 이동을 최소화하여 컴퓨터 아키텍처를 근본적으로 재정의하고, 이를 통해성능과 에너지 효율을 획기적으로 개선하는지 논의합니다. 메모리와 연산의 융합이 AI 인프라의 미래를 어떻게 만들어가고 있는지 확인해 보시기 바랍니다.
