구글 “AI 인프라 1000배 확대” 선언… 5년 안에 서버 두 배씩 키운다

구글이 앞으로 4~5년 동안 자사의 AI 인프라 용량을 지금의 1000배 수준으로 확대하겠다는 계획을 내부 회의에서 공식적으로 밝힌 것으로 확인됐다. 막대한 연산 장비를 확보해야 AI 경쟁에서 뒤처지지 않는다는 판단이 깔린 것으로, 기술업계에서는 “향후 몇 년간 글로벌 데이터센터 시장에 큰 변곡점이 될 수 있는 신호”라는 평가가 나온다.

이번 발언은 11월 6일 열린 전사 회의에서 구글의 AI 인프라 총책임자인 아민 바흐다트(Amin Vahdat) 부사장이 직원 질문에 답하는 과정에서 공개됐다. 바흐다트 부사장은 “AI 수요가 폭증하고 있어 회사의 서버 처리 능력을 6개월마다 두 배로 늘려야 한다”며 “이 속도라면 4~5년 안에 현재의 1000배 규모에 도달한다”고 말했다. 

서버 처리 능력은 AI 모델을 학습시키고 기업 고객이 요청한 작업을 실시간으로 실행하는 데 사용되는 핵심 자원으로, 이를 늘리는 것은 데이터센터 확장·전력 공급·냉각 장치 증설 등 물리적 기반을 모두 포함한다.

구글이 공격적인 인프라 투자에 나서는 배경에는 최근 실적 개선도 자리하고 있다. 지주사 알파벳은 10월 공개한 3분기 실적에서 시장 기대를 웃도는 매출을 기록했고 올해 연간 설비투자(CAPEX) 전망도 기존 910억 달러에서 930억 달러로 상향했다. 

설비투자는 데이터센터 신설·증설, 자체 칩 생산, 서버 장비 구매 등에 쓰이는 비용으로 AI 인프라 확대의 바로미터로 여겨진다.

바흐다트 부사장은 “AI 거품을 우려하는 시각도 있지만, 투자하지 않으면 오히려 더 큰 위험이 발생한다”고 말했다. 이어 “클라우드 부문의 성장세를 보면 인프라 투자가 얼마나 중요한지 알 수 있다”며 “지금보다 연산 자원이 더 많았다면 클라우드 사업 실적도 훨씬 좋았을 것”이라고 설명했다. 

구글 클라우드 부문은 현재 연 33% 안팎의 성장을 이어가고 있어 투자에 대한 부담을 일부 상쇄하고 있다.

구글은 최근 7세대 텐서 프로세싱 유닛(TPU v7) 등 자체 개발한 AI 전용 칩을 도입해 효율을 높이고 있다. TPU는 딥러닝 계산만 처리하도록 설계된 장치로, 기존 범용 칩(GPU)보다 특정 작업에서 더 빠르고 전력 소모가 적다는 장점이 있다. 

구글은 이 칩 기반의 인프라와 대형 언어모델(LLM) 최적화를 결합해 기업 고객의 AI 도입 비용을 낮추겠다는 전략이다.

AI 인프라 투자가 필요한 이유는 기업들이 겪는 현실적인 한계를 해결해야 하기 때문이다. 업계에서는 “AI 도입이 늦어지거나 프로젝트가 실패하는 이유의 대부분이 기술 자체의 문제보다 기업 내부 시스템이 이를 감당하지 못해서”라는 분석이 나온다. 

오래된 서버 장비, 서로 연결되지 않은 데이터 저장 구조, 실시간 처리를 지원하지 못하는 업무 시스템 등이 대표적이다. 데이터가 한곳에 모이지 않으면 AI 모델은 정확한 분석을 할 수 없고, 처리 지연이 발생하면 결과물이 제때 나오지 못한다.

실제로 글로벌 네트워크 솔루션 기업 익스트림 네트웍스는 “전 세계 AI 프로젝트의 80%가 기대만큼 성과를 내지 못하고 있다”며 “대부분은 인프라가 이를 뒷받침하지 못하기 때문”이라고 지적했다. 그는 “기업 내부 데이터가 여러곳에 제각각 저장돼 있거나 실시간 처리 장치가 없는 곳에서는 AI가 제대로 동작하기 어렵다”고 말했다.

이런 상황에서 구글뿐 아니라 마이크로소프트·아마존·메타 등 이른바 ‘하이퍼스케일러(초대형 클라우드 기업)’는 올해 총 3800억 달러가 넘는 설비투자를 진행할 전망이다. 

대부분이 AI 및 클라우드 인프라 확충을 위한 비용이다. 업계에서는 “AI 시장이 성장하는 속도에 맞춰 인프라를 확장하지 못하면 기업 고객이 다른 플랫폼으로 이동할 수 있다”며 경쟁 심화가 예고된다고 보고 있다.

하이퍼스케일러들은 “인프라가 준비되면 AI 수요는 자연스럽게 따라온다”고 보고 있다. 이는 데이터센터 확대와 서버 증설이 기반 투자에 그치지 않고 곧바로 수익으로 이어질 수 있다는 전망을 반영한 것이다. 

최근 많은 기업들이 사내 문서 검색, 콜센터 자동화, 코드 생성, 데이터 분석 등 업무 전반에 AI를 붙이려 하고 있어 관련 수요는 빠르게 늘고 있다.

다만 시장 일각에서는 투자 규모가 급격히 커지는 속도에 대한 우려도 존재한다. 전문가들은 “전력 공급 제한, 부지 확보 문제, 냉각 설비 유지 비용 등 현실적인 제약이 존재한다”며 과거 인터넷 기업들이 통신망을 과도하게 확충했다가 일부가 재정난에 빠졌던 사례를 언급했다. 

실제로 최신 AI 데이터센터 한 곳을 짓는 데만 수십억 달러가 필요하며, 완공까지 2~3년 이상이 걸린다.

그럼에도 불구하고 정보기술 업계는 구글이 이 같은 대규모 투자를 지속할 수 있을 것으로 보고 있다. 클라우드·검색광고·유튜브 등 다양한 수익원이 안정적으로 마련돼 있고, AI 기술에서 경쟁력을 유지해야 한다는 내부 의지가 강하기 때문이다. 

전문가들은 “향후 6개월 동안 AI 시장에서 일부 조정이 있을 것”이라면서도 “구글 같은 기업들은 오히려 시장을 재편하며 기술 우위를 강화할 가능성이 높다”고 내다봤다.

구글의 이번 결정은 AI 경쟁이 더 격렬해지고 있음을 상징적으로 보여주는 사건이다. 앞으로 글로벌 정보기술 산업은 데이터센터 건설 속도, 전력 확보, 칩 수급 등 물리적 인프라 경쟁이 AI 기술 자체만큼이나 중요한 승부처가 될 전망이다.