AI GPU는 계산 능력만 높다고 성능이 나오는 것이 아닙니다.필요한 데이터를 메모리가 제때 공급하지 못하면 GPU 코어가 기다리게 됩니다.HBM은 여러 DRAM을 수직으로 쌓아 GPU 가까이 배치하고 매우 넓은 통로로 연결한 고대역폭 메모리입니다.먼저 볼 포인트GPU가 계산 작업자라면 HBM은 바로 옆의 초고속 작업대입니다.용량은 한 번에 얼마나 많이 담는지, 대역폭은 1초에 얼마나 많이 옮기는지를 뜻합니다.AI에서는 둘 다 중요합니다.투자 관점에서는 HBM 세대 이름보다 고객 인증, 수율, 실제 출하, 가격·마진, 고급 패키징 용량과 증설 이후 FCF가 더 중요합니다. 1. GPU가 빨라질수록 왜 HBM이 더 중요해질까대형 언어모델은 학습과 추론 과정에서 모델 가중치, 활성값, 어텐션 데이터와 KV ..
