GSI Technology, 전력 98% 줄인 AI용 반도체 공개

미국 반도체 기업 GSI Technology가 인공지능(AI) 연산 방식을 완전히 새로 설계한 ‘APU(Associative Processing Unit)’ 기술을 내세우며 시장의 이목을 집중시켰다. 

2025년 10월 20일 코넬대학교 연구팀이 발표한 검증 결과에 따르면 GSI의 APU는 엔비디아 RTX A6000 그래픽카드와 비슷한 연산 속도를 보이면서도 전력은 98%나 덜 사용하는 것으로 나타났다. 해당 연구는 국제 학술대회 MICRO’25에서 공식 발표되었다.

코넬대 연구진은 이번 실험에서 GSI의 APU를 이용해 ‘리트리벌 증강 생성(RAG, Retrieval-Augmented Generation)’이라는 AI 작업을 수행했다. 이 방식은 챗GPT처럼 대규모 데이터를 검색해 문장을 생성하는 기술이다. 

연구진은 10GB에서 200GB 규모의 데이터셋을 대상으로 실험을 진행했으며 그 결과 APU는 엔비디아의 A6000 GPU와 비슷한 수준의 처리 속도를 유지하면서도 전력 소비는 극적으로 줄였다. GSI 측은 “이번 검증은 메모리 안에서 직접 계산을 수행하는 구조가 실제로 GPU급 성능을 낼 수 있다는 것을 증명했다”고 설명했다.

기존 GPU는 데이터를 메모리에서 꺼내와 연산하고 다시 저장하는 과정을 반복하기 때문에 ‘데이터 이동’ 과정에서 시간과 전기가 낭비된다. 이를 ‘폰 노이만 병목현상(Von-Neumann Bottleneck)’이라고 부른다. GSI의 APU는 이 구조를 통째로 뒤집었다. 

데이터를 이리저리 옮기지 않고 메모리 안에서 바로 계산을 수행하는 구조, 즉 ‘Compute-in-Memory(메모리 내 연산)’ 방식을 택한 것이다. 기존 GPU가 재료를 부엌에서 식탁까지 옮겨가며 요리했다면 APU는 부엌 안에서 바로 요리해 내놓는 셰프와 같다. 이동이 줄어드니 속도도 빨라지고 전력 낭비도 거의 없다.

이번 연구는 GSI의 첫 세대 제품인 ‘Gemini-I APU’를 대상으로 진행되었다. GSI는 다음 세대 제품인 ‘Gemini-II’에서는 처리 속도를 10배 이상 높이고 반응 속도를 줄이며 전력 효율을 더 개선할 것이라고 밝혔다. 

GSI의 CEO 리린 슈(Lee-Lean Shu)는 “이번 연구가 우리가 믿어온 방향을 공식적으로 입증했다”며 “메모리 중심 구조는 앞으로 AI 반도체 시장의 핵심 패러다임이 될 것”이라고 말했다.

시장은 곧바로 반응했다. 연구 결과 발표 직후 GSIT 주가는 하루 만에 200% 이상 폭등했다. 투자자들은 이 기술이 엔비디아가 장악한 AI 반도체 시장에 새로운 변수로 등장할 가능성에 주목하고 있다. APU가 만약 상용화에 성공한다면 GPU가 독점하고 있는 AI 연산 시장에 전력 효율 중심의 새로운 경쟁이 시작될 수도 있기 때문이다.

하지만 전문가들은 아직 신중한 평가를 내놓고 있다. 이번 연구는 특정 실험 환경, 즉 RAG처럼 메모리 접근이 잦은 작업에서만 검증된 것이며 대형 언어모델(LLM) 학습처럼 수십 테라바이트 단위의 데이터가 필요한 대규모 AI 훈련에서는 아직 성능이 검증되지 않았다. 

또 실제 서버 환경에서는 냉각, 안정성, 공정 수율, 소프트웨어 호환성 등 해결해야 할 과제가 많다. GPU는 이미 수십 년간 축적된 생태계 위에서 작동하지만 APU는 아직 소프트웨어 도구와 개발 표준이 부족하다.

GSI Technology는 1995년 설립된 미국 캘리포니아 서니베일 소재 기업으로 원래는 통신용 메모리 반도체를 생산하던 회사다. 최근 몇 년간 인공지능 연산의 전력 소모 문제를 해결하기 위해 ‘메모리 안에서 연산하는 칩’ 연구에 집중해왔다. 

회사 측은 향후 이 기술을 데이터센터, 자율주행, 국방, 우주 등 전력 제약이 심한 분야에 적용할 계획이라고 밝혔다.

이번 연구의 의미는 엔비디아의 H100과 H200 같은 대형 GPU들이 HBM3E나 NVLink 같은 고속 연결 기술로 데이터 이동 병목을 완화하려고 하는 동안 GSI는 아예 데이터 이동 자체를 없애는 길을 택했다는 데 있다.

이는 기존 반도체 구조를 전면적으로 바꾸겠다는 도전으로 기술적 난이도는 높지만 성공할 경우 AI 연산 효율을 극적으로 높일 수 있다.

연구 논문 제목은 ‘Characterizing and Optimizing Realistic Workloads on a Commercial Compute-in-SRAM Device’로, 메모리 내부에서 직접 연산하는 방식이 실제로 상용 칩에서 검증된 드문 사례다. 논문은 APU가 기존 CPU보다 검색 처리 속도를 80% 이상 단축했다는 결과도 함께 제시했다.

GPU가 성능 경쟁의 끝단에 와 있는 상황에서 이제 반도체의 다음 승부처는 전력과 효율이 될 전망이다. GSI의 실험 결과가 완벽하다고 단정할 순 없지만 메모리 중심 연산이라는 새로운 접근이 AI 반도체의 방향을 바꿀 가능성을 보여준 건 분명해 보인다.