엔비디아 '베라' CPU 메모리 절반으로 줄인다…메모리값 폭등에 결국 사양 조정

AI 서버에 들어가는 메모리 가격이 유례없이 치솟으면서 엔비디아가 차세대 중앙처리장치(CPU) '베라(Vera)'의 메모리 용량을 대폭 줄이는 방향으로 설계를 바꿀 것으로 전망됐다.

GF증권의 제프 푸 애널리스트는 지난 2일 투자자들에게 보낸 보고서에서 엔비디아가 메모리 비용 부담을 관리하기 위해 여러 조치에 나설 것으로 내다봤다. 

그는 엔비디아가 각 베라 CPU에 붙는 메모리 모듈을 96기가바이트(GB)짜리로 바꿔 CPU당 총 768GB의 LPDDR5X를 탑재하도록 조정할 것으로 예상했다. 이는 당초 사양표에 명시된 1.5테라바이트(TB)의 절반 수준이다.

LPDDR5X는 원래 스마트폰 같은 모바일 기기에 쓰이던 저전력 고속 메모리다. 전력을 적게 쓰면서도 빠른 속도를 내기 때문에 엔비디아는 이를 서버용 CPU에 끌어들였다. 여기서 메모리를 꽂는 방식이 'SOCAMM'인데 기존처럼 기판에 납땜해 고정하는 대신 슬롯에 끼웠다 뺐다 할 수 있는 교체형 모듈이다. 

각 베라 CPU에는 이 SOCAMM 슬롯이 8개씩 달려 있어 어떤 용량의 모듈을 꽂느냐에 따라 전체 메모리 크기가 달라진다.

이번 조정 움직임은 예견된 사항이다. 앞서 반도체 전문 분석기관 세미애널리시스는 지난달 4일 엔비디아의 AI 서버 랙 'VR200'에 들어가는 SOCAMM 용량이 축소된다고 처음 보도했다. 당시 보도에 따르면 CPU 36개를 묶은 시스템 한 대의 메모리 용량이 55TB에서 28TB로 사실상 절반 가까이 줄어드는 것으로 나타났다. 

이 소식이 전해지자 메모리 제조사 마이크론 주가가 10% 넘게 급락하는 등 시장이 크게 출렁였다. 다만 세미애널리시스 측은 이런 감축이 메모리가 필요 없어서가 아니라 오히려 물량이 부족하기 때문이라고 설명했다. 

대규모 AI 모델을 학습시킬 때는 메모리가 많이 필요하지만 실제 서비스 단계의 상당수 작업은 그래픽처리장치(GPU)와 CPU 사이에 데이터를 유연하게 나눠 처리할 수 있어 CPU당 768GB만으로도 충분한 경우가 많다는 것이다.

푸 애널리스트는 이번 사양 조정에서 LPDDR5X 용량을 줄이는 일이 핵심이라고 봤다. 그는 이 메모리가 엔비디아의 차세대 AI 서버 랙 '베라 루빈 200'의 메모리·저장장치 비용 가운데 약 61%를 차지하는 것으로 분석했다. 비중이 가장 큰 항목을 손봐야 전체 비용을 잡을 수 있다는 판단이다. 

그는 이런 조정을 통해 엔비디아가 2027년까지도 메모리 비용을 AI 랙 전체 부품값의 약 20% 수준으로 묶어둘 수 있을 것으로 전망했다.

엔비디아뿐 아니라 일반 서버 전반에서도 사양을 낮추는 흐름이 나타나고 있다. 푸 애널리스트는 일반 서버들이 기존 서버용 메모리 모듈인 RDIMM과 MRDIMM 탑재량을 약 절반가량 줄일 것으로 예상했다. 

그는 이런 조정을 거쳐 일반 서버 출하량이 올해 2~3분기에는 소폭 늘어나는 데 그치다가 4분기에 분기 대비 20~30% 급증할 것으로 내다봤다. 다만 베라 CPU 랙의 출하 시점 자체는 다소 늦어질 것으로 봤다.

이 모든 조정의 배경에는 지난해 하반기부터 이어진 전례 없는 메모리 가격 폭등이 있다. 시장조사업체 트렌드포스는 올해 1분기 D램 계약 가격이 지난해 4분기보다 50% 이상 뛸 것으로 예상했다가 이후 전망치를 90~95%까지 올려 잡았다. 트렌드포스의 톰 슈 애널리스트는 이 정도 상승폭은 메모리 산업 역사상 유례가 없다고 표현했다.

가격 급등의 원인은 당연히 AI다. 엔비디아 같은 기업의 AI 칩에는 GPU 주변에 'HBM'이라 불리는 초고속 특수 메모리가 대량으로 붙는다. 그런데 HBM은 만드는 데 일반 D램보다 훨씬 많은 생산 설비가 필요하다. 

삼성전자, SK하이닉스, 마이크론 등 3대 메모리 제조사가 수익성이 높은 HBM과 고급 서버용 D램 생산에 설비를 집중하면서 스마트폰이나 PC에 쓰이는 일반 메모리 공급이 쪼그라들었고 값이 함께 뛴 것이다.

마이크론은 이미 2026년 물량이 전량 소진됐다고 밝혔다. 업계에서는 새 공장이 본격 가동되는 2027~2028년 전까지는 이런 공급 부족과 고가 상황이 이어질 것으로 보고 있다. 이런 상황에서 부품값을 통제해야 하는 엔비디아로서는 서버에 들어가는 메모리 용량을 현실적인 수준으로 조정하는 선택을 할 수밖에 없는 셈이다.