메타·오라클, 엔비디아 ‘스펙트럼-X’로 AI 공장 세운다

메타와 오라클이 엔비디아의 새 네트워크 기술 ‘스펙트럼-X(Spectrum-X)’를 자사 인공지능 데이터센터에 도입하기로 했다. AI가 폭발적으로 커지면서 서버 간 연결 속도와 효율이 병목이 되는 상황에서 엔비디아의 스펙트럼-X는 이런 한계를 뚫기 위한 핵심 기술로 주목받고 있다.

엔비디아 창업자 젠슨 황은 “이제 데이터센터는 수조 개의 매개변수를 가진 AI 모델을 훈련시키는 ‘초대형 AI 공장’으로 변하고 있다”며 스펙트럼-X는 그 공장의 신경망 역할을 하는 기술이라고 언급했다. 쉽게 말하면 수백만 개의 그래픽카드(GPU)가 서로 빠르고 정확하게 대화할 수 있도록 돕는 ‘통신 신경망’이다.

오라클은 자사의 ‘베라 루빈(Vera Rubin)’ 아키텍처에 스펙트럼-X를 적용해 대형 AI 공장을 세울 계획이다. 오라클 클라우드 인프라 부문 수석 부사장 마헤시 티아가라잔은 “이 기술을 통해 수백만 개 GPU를 효율적으로 연결할 수 있게 되며 AI 모델 학습 속도와 배포 속도가 모두 크게 빨라질 것”이라고 설명했다.

메타 역시 스펙트럼-X를 도입해 페이스북의 내부 네트워크 관리 시스템인 ‘FBOSS’에 통합한다. 메타 네트워크 엔지니어링 부문 부사장 가야 나가라잔은 AI 모델이 커질수록 네트워크가 더 유연하고 효율적으로 작동해야 한다며 “스펙트럼-X는 이를 위한 최적의 솔루션”이라고 밝혔다.

엔비디아는 네트워크 속도를 높이는 것은 물론 데이터센터 전체 구조를 유연하게 만들고 있다고 강조했다. 

회사의 데이터센터 담당 임원 조 델라에르는 “AI 시스템은 계속 커지기 때문에 CPU·GPU·저장장치·네트워크를 자유롭게 조합할 수 있는 ‘모듈형 설계(MGX 시스템)’가 중요하다”며 “이 방식은 세대가 바뀌어도 호환성을 유지하고 업그레이드가 쉽다”고 설명했다.

AI가 커질수록 문제는 전력이다. 수백만 개의 GPU가 동시에 작동하면 전기 소모와 열 발생이 폭발적으로 늘어난다. 엔비디아는 이런 문제를 해결하기 위해 칩에서 전력망까지 전 구간의 효율을 높이는 연구를 하고 있다. 

그 중 핵심은 800볼트 DC 전력 공급 방식이다. 이 방식은 열 손실을 줄이고 전력 효율을 높여 기존보다 최대 30% 더 많은 컴퓨팅을 같은 공간에서 가능하게 한다.

스펙트럼-X는 AI용으로 특화된 네트워크 플랫폼이다. 기존 이더넷이 데이터를 주고받을 때 병목 현상으로 실제 효율이 60% 수준에 그쳤다면 스펙트럼-X는 이를 95%까지 끌어올렸다. 네트워크 혼잡을 자동으로 감지하고 우회로를 찾아주는 ‘적응형 라우팅’ 기능 덕분이다.

이 시스템은 규모 확장에도 유리하다. 엔비디아 네트워킹 총괄 부사장 길라드 샤이너는 “MGX 랙에는 계산 장비와 스위치가 함께 들어 있으며 NVLink로 같은 랙 안의 장비를 연결하고 스펙트럼-X로 여러 랙을 묶는다”고 말했다. 

그는 이어 “이 구조를 이용하면 서로 다른 지역의 데이터센터를 광섬유로 연결해 하나의 거대한 AI 슈퍼컴퓨터처럼 운용할 수 있다”고 덧붙였다.

스펙트럼-X는 또 다른 기술인 ‘XGS’와 짝을 이뤄 작동한다. XGS는 데이터센터끼리 먼 거리에서 연결할 때 쓰이며 내부 통신용 스펙트럼-X와 달리 장거리 연결에 특화된 알고리즘을 사용한다. 두 시스템이 합쳐지면 여러 지역의 AI 센터가 하나의 거대한 연산망으로 통합된다.

전력 문제 해결을 위해 엔비디아는 반도체 회사 온세미와 인피니온, 전원 장비업체 델타·플렉스·라이트온, 그리고 인프라 설계 기업 슈나이더 일렉트릭·지멘스 등과 협력하고 있다. 이들은 데이터센터를 처음부터 전력 효율 중심으로 설계하는 통합 전력 생태계를 구축 중이다.

엔비디아는 내년 말 공개될 ‘베라 루빈 아키텍처’와 함께 이 시스템을 본격 상용화할 계획이다. 스펙트럼-X는 이미 메타와 오라클 외에도 시스코, xAI, 엔비디아 클라우드 파트너 등 다양한 기업으로 확산되고 있다.

AI 업계에서는 이번 행보를 두고 AI 경쟁의 무게중심이 연산 능력에서 네트워크 효율로 옮겨가고 있다는 평가가 나온다. 이제 누가 더 많은 GPU를 갖고 있느냐보다 그 GPU들이 얼마나 빠르고 효율적으로 연결되느냐가 승부를 가르는 시대가 된 것이다.