그래픽카드 다 놔두고 왜 '맥미니'일까…로컬 AI 의외의 표준

고건 기자
입력 2026.05.20 13:55
댓글 0

집이나 사무실에서 직접 AI 모델을 돌리려는 개발자 사이에서 애플의 소형 데스크톱 맥미니가 사실상 표준 장비로 안착한 상태다. 클로드 코드(Claude Code)나 오픈클로(OpenClaw) 같은 AI 에이전트를 24시간 가동하는 용도에서 맥미니가 고가의 게이밍 그래픽카드를 압도하는 사례가 늘고 있다.

게이밍 성능으로는 엔비디아 RTX 5090이 왕좌를 지키고 있지만 AI 모델 구동이라는 좁은 용도에서는 사정이 다르다.

가장 큰 이유는 메모리 구조의 차이다. 일반 PC는 시스템 메모리(RAM)와 그래픽카드 메모리(VRAM)가 물리적으로 분리돼 있다. AI 모델을 돌리려면 모델 데이터를 PCIe라는 통로를 거쳐 그래픽카드 메모리로 옮겨야 한다.

그런데 모델 크기가 그래픽카드 메모리 용량을 넘으면 일부 데이터를 시스템 메모리로 떠넘기는 '오프로딩'이 일어나는데 이 순간 추론 속도가 급락한다.

애플 실리콘 칩은 중앙처리장치(CPU)와 그래픽처리장치(GPU)가 하나의 메모리 풀을 공유하는 '통합 메모리' 구조를 쓴다. 모델 데이터가 한 곳에 올라가 있으면 양쪽이 그대로 읽는다. 데이터 복사 과정 자체가 없다.

이 차이는 실측에서 바로 드러난다. 메모리 용량이 128GB인 맥북프로 M3 맥스는 라마(Llama) 3.1 70B라는 대형 모델을 돌릴 때 RTX 4090보다 약 2배 빠른 속도를 보였다. 4090의 메모리 용량이 24GB에 불과해 모델 일부를 시스템 메모리로 떠넘겨야 했기 때문이다.

메모리 대역폭이 40배 차이 나는 영역에서는 엔비디아의 CUDA 최적화 기술로도 만회가 불가능하다.

가격을 보면 격차가 더 분명해진다. RTX 4090은 1600∼2000달러 수준인데 메모리는 24GB가 끝이다. 후속작인 RTX 5090은 32GB를 갖췄지만 1200W 이상의 고용량 전원공급장치가 필수다. 반면 64GB 통합 메모리를 탑재한 맥미니 M4 프로는 약 2000달러에 살 수 있다.

같은 예산으로 그래픽카드 한 장을 사느냐 완성된 서버 한 대를 통째로 사느냐의 문제가 된다.

전력 소비 측면에서도 큰 차이가 있다. 그래픽카드 기반 시스템은 AI 작업 시 RTX 4090만 해도 최대 450W까지 끌어 쓴다. 듀얼 그래픽카드 구성은 600W를 우습게 넘기지만 맥미니는 유휴 상태에서 15W, 풀가동 시에도 30W 수준이다. 24시간 가동해도 한 달 전기료가 몇 달러 선이다. 에이전트를 항상 켜둔 채 운영하는 사용자에겐 결정적인 차이다.

또한 맥미니 M4는 AI 추론 부하에서 사실상 무소음에 가깝다. 비슷한 가격대의 AMD 미니PC는 풀가동 시 헤어드라이어급 소음을 낸다. 소프트웨어 환경도 안정적이다. 애플이 메탈(Metal) 그래픽 API와 통합 메모리 드라이버를 수년간 다듬어 왔고 자체 AI 프레임워크인 MLX도 30B 미만 모델에서는 와트당 가장 빠른 추론 환경으로 평가받는다.

그래픽카드가 항상 밀리는 것은 아니다. 7B(70억 매개변수)나 13B 같은 작은 모델이 그래픽카드 메모리에 완전히 들어가는 경우엔 엔비디아가 압도적이다. RTX 5090은 코딩용 소형 모델에서 초당 5841개의 토큰을 처리해 데이터센터급 카드인 A100을 2.6배 차이로 따돌린다.

문제는 클로드 코드나 오픈클로 같은 에이전트가 작은 모델로는 부족하다는 점이다. 오픈클로는 시스템 명령만 1만7000토큰에 달하고 최소 6만5000토큰의 작업 공간을 요구한다. 실용적으로 쓰려면 30B 이상 모델이 필요한데 이 영역부터는 그래픽카드 메모리 한계에 부딪힌다.

맥미니의 약진은 애플이 의도한 결과도 아니다. 2020년 통합 메모리 구조를 처음 도입할 때만 해도 노트북 배터리 효율과 영상 편집 성능이 목표였다.

그러다 대형 언어모델 시대가 열리면서 '메모리에 모델이 들어가느냐'가 가장 중요한 변수로 떠올랐고 우연히도 애플의 구조가 이 조건에 정확히 들어맞았던 것이다. 차기 모델인 M5와 M5 프로를 탑재한 맥미니는 2026년 중후반 출시가 예상된다. 메모리 상한이 96GB나 128GB까지 늘어날지가 업계의 관심사다.