오픈AI가 만든 첫 AI칩 '할라피뇨', 엔비디아 최신 GPU 눌렀다

챗GPT를 만든 오픈AI가 자체 설계한 첫 AI 반도체 '할라피뇨(Jalapeño)'의 성능을 처음으로 공개했다. 미국 스탠퍼드대에서 8월 23일부터 25일까지 열린 반도체 학술행사 '핫칩스(Hot Chips) 2026'에서다. 핫칩스는 세계 주요 반도체 기업들이 최신 칩 설계를 공개하는 자리다.

할라피뇨는 AI가 학습을 마친 뒤 실제로 답을 만들어내는 과정, 즉 '추론(inference)'에 특화된 칩이다. 오픈AI는 브로드컴과 함께 이 칩을 개발했으며 개념 설계부터 시제품 완성까지 약 9개월이 걸렸다. 2024년 말 설계에 착수해 2025년 말 시제품을 만들었고 올해 초부터 실제 칩 위에서 챗GPT를 구동하는 단계에 이르렀다.

성능 검증에는 반도체 분석업체 세미애널리시스의 '인퍼런스X'라는 공개 시험 방식이 쓰였다. 오픈AI 하드웨어 총괄 리처드 호는 이 시험에서 할라피뇨가 사용자 한 명에게 더 빠르게 답을 내놓으면서도 같은 전력으로 더 많은 작업을 처리했다고 밝혔다. 

오픈AI는 작업 종류에 따라 전력 대비 성능이 기존 최고 수준 AI칩보다 1.5배에서 4배 높다고 설명했다. 700와트를 쓰는 할라피뇨가 1400와트를 소비하는 엔비디아 최상급 GPU와 비교해 킬로와트당 처리량은 최대 1.9배, 응답 지연은 3.6배 낮췄다는 수치도 나왔다.

비교 대상이 된 엔비디아 GPU는 현재 시장을 사실상 독점한 '블랙웰' 계열이다. 다만 호 총괄은 할라피뇨가 본격 양산되는 시점에는 경쟁 구도가 달라질 수 있다고 선을 그었다. 

할라피뇨는 올해 하반기부터 소량 공급되고 2027년 대량 생산에 들어간다. 오픈AI는 이 칩이 주요 투자자이기도 한 엔비디아 등 기존 협력사를 대체하지는 않을 것이라고 밝혔다.

이번 행사에서는 AI가 스스로 여러 단계를 판단해 작업을 수행하는 '에이전트(agentic) AI'가 공통 화두였다. 프랑스 은행 BNP파리바는 이를 두고 AI 인프라 전반이 유망한 투자 대상임을 보여준다고 평가했다.

엔비디아는 데이터센터 안에서 칩과 칩, 서버와 서버를 잇는 네트워크 기술을 대거 공개했다. 핵심은 '블루필드-4'라는 칩이다. 이 칩은 데이터 처리와 보안, 저장을 전담하며 CPU와 GPU, 네트워크를 하나로 묶는 역할을 한다. 

엔비디아는 AI 데이터센터를 다섯 종류의 전용 네트워크로 나누는 개념을 제시했는데 이 가운데 서버와 데이터센터 사이 통신을 담당하는 '스케일 인(Scale In)'을 새로 내세웠다. 자사 CPU '베라'도 처음 공개했다. 88개의 연산 코어를 갖춘 이 칩은 AI 에이전트가 여러 도구를 불러 쓰는 작업에서 이전 세대보다 성능이 약 1.8배 높다고 설명했다.

AMD는 차세대 AI 가속기 'MI400' 계열과 이를 담은 랙 규모 시스템 '헬리오스'를 소개했다. 헬리오스 한 대에는 GPU 72개가 들어가며 고성능 메모리 31테라바이트를 싣는다. AMD는 칩 사이 연결을 지금은 전기 신호로 처리하지만 다음 세대부터 빛을 이용한 광(光) 연결로 전환한다고 밝혔다.

구글은 8세대 AI칩 'TPU v8'을 공개했다. 학습용 '8t'와 추론용 '8i'로 나눈 것이 특징이다. 학습과 추론을 별도 칩으로 분리한 것은 구글이 처음이다. 학습용 8t는 9600개 칩을 묶어 이전 세대의 약 두 배 전력효율을 낸다.

메모리 분야에서는 삼성전자와 SK하이닉스가 각기 다른 길을 보여줬다. 여러 층을 쌓아 데이터를 빠르게 주고받는 고대역폭메모리(HBM)를 두고 삼성은 기반이 되는 칩(베이스 다이)에 연산 기능을 더하는 방식을 제시했다. 

SK하이닉스는 여러 칩을 하나로 붙이는 '패키징' 기술에 집중하며 인텔의 EMIB 방식을 검토 대상에 올렸다. 메타는 브로드컴의 스위치 칩 '토마호크 울트라'를 자사 칩 연결에 채택했다.

한편 CPU 경쟁도 달아올랐다. 인텔은 최대 256개 코어를 갖춘 차세대 서버 CPU '다이아몬드 래피즈'를 공개하며 엔비디아 베라와 AMD 베니스에 맞서고 있다.

(썸네일 사진 출처: 오픈AI 공식 홈페이지)