오픈AI, 첫 자체 AI 칩 '할라피뇨' 공개…엔비디아 의존 줄이기 본격화

챗GPT 개발사 오픈AI가 자체 설계한 첫 AI 칩을 공개했다. 미국 반도체 기업 브로드컴과 함께 만든 이 칩의 이름은 '할라피뇨(Jalapeño)'다. 두 회사는 지난 24일 칩의 실물을 공개하며 공동 개발 사실을 알렸다.

할라피뇨는 '추론(inference)'에 특화된 칩이다. 추론이란 이미 학습을 마친 AI 모델이 사용자의 질문이나 명령에 답을 내놓는 과정을 말한다. 챗GPT가 답변을 작성하거나 코딩 도구가 결과물을 만들어 내는 모든 순간이 추론에 해당한다. 

그동안 AI 업계는 모델을 학습시키는 '훈련' 단계에 주목해 왔지만 실제 서비스에서 비용이 끊임없이 발생하는 구간은 추론이다. 오픈AI는 이 칩으로 답변 한 건당 들어가는 전력과 비용을 낮추는 데 초점을 맞췄다고 설명했다.

오픈AI는 칩을 처음부터 직접 설계했고 브로드컴은 설계도를 실제 반도체로 구현하는 작업과 데이터센터에 들어가는 네트워크 장비를 맡았다. 캐나다 전자제품 제조사 셀레스티카는 칩을 꽂는 기판과 서버 랙 같은 시스템 조립을 담당했다. 칩 자체는 브로드컴이 위탁 생산한다.

이 칩은 특정 작업만 빠르게 처리하도록 맞춤 설계한 '주문형 반도체(ASIC)' 방식이다. 엔비디아의 그래픽처리장치(GPU)는 여러 종류의 작업을 두루 처리할 수 있는 대신 값이 비싸다.

반면 ASIC은 용도가 좁은 대신 가격이 낮고, 정해진 작업에서는 효율이 높다. 오픈AI는 GPU를 추론용으로 빌려 쓰는 대신, 추론만을 위한 칩을 새로 설계해 단가를 끌어내리려는 것이다.

가장 주목받은 부분은 개발 속도다. 오픈AI는 설계 시작부터 양산 직전 단계인 '테이프아웃(tape-out, 설계도를 공장에 넘기는 시점)'까지 9개월밖에 걸리지 않았다고 밝혔다. 통상 ASIC을 처음부터 설계하는 데에는 1년 6개월에서 2년이 걸린다. 

두 회사는 이 과정을 단축한 비결로 오픈AI 자체 AI 모델을 칩 설계와 최적화 작업에 활용한 점을 들었다. 사용자에게 서비스되는 바로 그 모델이 다음 세대 모델을 돌릴 반도체를 만드는 데 쓰인 셈이다.

성능에 대해서는 아직 측정이 끝나지 않았다. 다만 오픈AI는 초기 시험 결과 '와트당 성능', 즉 전력 1와트로 처리하는 작업량이 현재 최고 수준의 하드웨어보다 크게 앞선다고 밝혔다. 

그레그 브록만 오픈AI 사장은 와트당 성능과 달러당 성능 모두에서 실질적인 개선이 있었다고 말했다. 구체적인 수치와 벤치마크는 공개되지 않았고, 상세한 기술 보고서는 몇 달 안에 내놓겠다고 예고했다.

현재 시제품 칩은 연구소에서 양산 목표 수준의 작동 속도와 전력으로 실제 AI 작업을 돌리고 있다. 여기에는 오픈AI의 코딩 모델인 'GPT-5.3-코덱스-스파크'도 포함된다. 칩 구조는 데이터가 칩 안에서 불필요하게 이동하는 것을 줄이고, 연산·메모리·네트워크 자원의 균형을 맞춰 이론상 최대 성능에 가깝게 끌어올리도록 설계됐다. 

톰스하드웨어 등 외신 분석에 따르면 패키지 안에는 큰 연산 칩 하나를 여섯 개의 고대역폭메모리(HBM)가 둘러싼 형태로 반응 속도가 중요한 추론에 맞춘 구성이다.

할라피뇨는 오픈AI와 브로드컴이 함께 만드는 여러 세대에 걸친 칩 가운데 첫 제품이다. 두 회사는 2025년 10월 맞춤형 칩 개발 협력을 공식 발표했고, 이번에 첫 결과물을 내놨다. 양산 칩은 2026년 말부터 데이터센터에 투입돼 2029년까지 단계적으로 확대된다. 

다만 호크 탄 브로드컴 최고경영자(CEO)는 2026년 말에는 소규모 시제품 수준이며 본격적인 물량은 2027년부터 늘어나 2028년 상반기에 정점에 이를 것이라고 말해 초기 공급량은 제한적일 수 있음을 내비쳤다.

증권가 반응은 신중하다. 미국 투자은행 웨드부시의 매트 브라이슨 애널리스트는 성공적인 ASIC 개발은 여러 세대에 걸친 다년간의 작업이라며 첫 출하 물량은 크지 않을 수 있고 폭넓게 채택되려면 2~3세대 이상의 개선이 필요할 수 있다고 평가했다.

오픈AI는 그동안 챗GPT와 코딩 도구 코덱스 등 제품을 만들고 그 모델을 직접 설계해 왔다. 여기에 칩까지 더하면서 모델부터 반도체, 데이터센터에 이르는 전 과정을 직접 통제하는 '풀스택(full-stack)' 전략을 본격화하게 됐다. 

애플, 구글, 아마존이 자체 칩을 만든 것과 같은 흐름이다. 브로드컴은 이미 구글의 AI 칩 설계를 도왔고 메타, 바이트댄스 등과도 맞춤형 반도체를 개발하고 있어 엔비디아가 주도하는 AI 칩 시장의 대항마로 입지를 넓히고 있다.

(썸네일 사진 출처: 오픈AI)