오픈AI, 가장 똑똑한 AI를 14배 빠르게…'울트라패스트' 공개

오픈AI가 자사의 최상위 AI 모델을 기존보다 최대 14배 빠르게 작동시키는 새 서비스를 내놨다. 답변의 질은 그대로 유지하면서 속도만 대폭 끌어올린 것이 특징이다.

오픈AI는 13일(현지시간) 자사 최상위 모델인 'GPT-5.6 솔(Sol)'을 최대 14배 빠른 속도로 구동하는 '울트라패스트(Ultrafast)' 모드를 공개했다. 이 모드는 개발자들이 AI 기능을 자사 서비스에 연결할 때 쓰는 통로인 API를 통해 먼저 제공된다.

울트라패스트의 핵심은 초당 처리량이다. 이 모드는 초당 최대 750개의 토큰을 생성한다. 토큰은 AI가 문장을 만들 때 다루는 최소 단위로 단어나 단어 조각에 해당한다. 초당 750토큰은 사람이 눈으로 따라 읽기 어려울 만큼 빠른 속도로, 기존 표준 처리 방식이 초당 약 53토큰을 내던 것과 비교된다.

그동안 AI 업계에서는 속도와 지능이 서로 맞바꿔야 하는 관계로 여겨졌다. 즉각적인 응답이 필요하면 성능이 낮은 작은 모델을 써야 했고 높은 지능이 필요하면 느린 속도를 감수해야 했다. 

오픈AI는 울트라패스트가 이 둘 중 하나를 포기하지 않고도 실시간에 가까운 속도를 낸다는 점을 강조했다. 회사 측은 그동안 실시간 속도를 얻으려면 더 작거나 특화된 모델을 택해야 했지만 울트라패스트는 초당 더 많은 작업을 처리하는 방향으로 나아간 것이라고 설명했다.

이 속도는 반도체 기업 세레브라스(Cerebras)와의 협력에서 나왔다. 세레브라스는 '웨이퍼 스케일 엔진'이라 불리는 대형 AI 전용 칩을 만드는 회사다. 

일반적인 AI 연산에서는 칩과 별도 메모리 사이를 데이터가 오가는 과정에서 속도가 느려지는데, 세레브라스 칩은 44GB에 이르는 메모리를 칩 안에 직접 넣어 이 병목을 줄였다. 세레브라스 창업자이자 최고경영자(CEO)인 앤드루 펠드먼은 GPT-5.6 솔의 울트라패스트 모드가 속도와 지능이 더는 양자택일 관계가 아님을 보여준다고 밝혔다.

두 회사는 성능을 입증하기 위해 '인류 최후의 시험(Humanity's Last Exam·HLE)'이라는 시험으로 비교 실험을 진행했다. HLE는 화학, 경제학, 문학 등 여러 분야에서 박사급 전문가만 풀 수 있는 수준의 2500개 문항으로 구성된 난도 높은 평가 도구다. 

실험에서 GPT-5.6 솔 울트라패스트는 2500문항 전체를 11시간 11분 만에 풀었다. 반면 경쟁사 앤트로픽의 모델 '클로드 페이블 5(Fable 5)'는 같은 문제를 푸는 데 78시간 27분, 사흘이 넘는 시간이 걸렸다. 정확도는 비슷한 수준이었으나 속도에서 약 7배 차이가 났다.

경제적 가치가 있는 실무 작업을 평가하는 'GDP-Val'이라는 시험에서도 결과가 나왔다. 법률 문서 작성, 재무 모델 구축, 엔지니어링 보고서 작성 같은 지식 노동 과제를 다룬 이 평가에서 울트라패스트는 처음부터 끝까지 걸리는 시간을 5.6배 단축했고 품질 저하도 없었다. 

시장 분석 업체 아티피셜 애널리시스가 집계한 출력 속도를 근거로, 세레브라스는 GPT-5.6 솔 울트라패스트가 클로드 페이블 5보다 11배, 클로드 오퍼스 4.8의 '패스트 모드'보다 5배 빠르다고 밝혔다.

오픈AI는 울트라패스트가 시간이 촉박한 여러 기업 업무에 쓰일 수 있다고 봤다. 회사 측이 꼽은 활용 분야는 시스템 장애가 발생했을 때 대응하는 사고 대응, 고객 상담과 지원, 금융 시장 분석, 전자상거래 등이다. 

음성 응대나 개발자용 코딩 보조처럼 응답이 즉시 이뤄져야 하는 작업도 대상에 포함된다. 오픈AI 내부 개발팀은 이미 GPT-5.6 솔 울트라패스트를 사고 대응 등 실제 업무에 적용해 시험하고 있다.

GPT-5.6 솔은 오픈AI가 지난 6월 균형형 모델 '테라(Terra)', 속도 중심 모델 '루나(Luna)'와 함께 선보인 신규 모델군의 최상위 제품이다. 이 모델군은 7월부터 챗GPT와 코딩 도구 코덱스, API 등을 통해 폭넓게 제공되기 시작했다.

울트라패스트는 현재 프리뷰 형태로 일부 고객에게만 우선 제공된다. 오픈AI는 처리 용량이 늘어나는 대로 이용 대상을 확대하겠다고 밝혔다. 다만 가격은 아직 공개되지 않았다. 최상위 모델을 전용 하드웨어에서 14배 속도로 돌리는 만큼, 울트라패스트는 당분간 속도가 특히 중요한 일부 용도에 쓰이는 고가 선택지에 머무를 것으로 보인다.