AI 모델은 얼마나 작아질 수 있을까?...유럽 스타트업의 초소형 모델 실험

유럽 AI 스타트업 멀티버스 컴퓨팅이 초소형이면서도 성능을 유지하는 AI 모델 두 종을 공개했다. 회사는 이 모델들에 각각 닭의 뇌와 파리의 뇌라는 이름을 붙였다. 

크기는 극단적으로 줄였지만 채팅과 음성 처리, 일부 모델의 경우 추론까지 가능하다고 설명했다. 해당 모델들은 사물인터넷 기기와 스마트폰, 태블릿, PC 등에서 인터넷 연결 없이 로컬로 실행되는 것을 전제로 설계됐다. 

멀티버스 컴퓨팅의 공동창업자 로만 오루스는 모델을 크게 압축해 기기 안에 직접 넣을 수 있다고 설명하며 아이폰이나 애플 워치 같은 소형 기기에서도 구동 가능하다고 밝혔다. 멀티버스 컴퓨팅은 스페인 도노스티아에 본사를 둔 유럽의 대표적인 AI 스타트업으로 전 세계에 약 100명의 직원을 두고 있다. 

양자컴퓨팅과 물리학 분야의 교수 출신인 오루스와 양자컴퓨팅 전문가 사무엘 무겔, 금융권 출신 엔리케 리사소 올모스가 공동 설립했다. 이 회사는 2019년 설립 이후 누적 약 2억5천만 달러를 조달했으며 2025년 6월에는 약 1억8천9백만 유로의 대규모 투자를 유치했다. 

투자 배경에는 ‘컴팩티파이AI’로 불리는 모델 압축 기술이 있다. 이 기술은 기존 AI 모델의 파라미터 구조를 재배열하고 불필요한 중복 표현을 제거해 크기를 줄이는 방식이다. 파라미터는 AI가 학습한 정보를 저장하는 숫자 단위로 일반적으로 개수가 많을수록 모델이 크고 무겁다. 

멀티버스 컴퓨팅은 양자물리학에서 영감을 받은 수학적 방법을 활용해 성능 저하 없이 파라미터 수를 줄였다고 설명했다. 

회사는 이미 오픈소스 모델을 중심으로 다수의 압축 버전을 공개해왔다. 메타의 라마 계열과 미스트랄의 소형 모델, 최근 공개된 오픈AI의 오픈 모델까지 포함된다. 대형 모델도 예외는 아니어서 딥시크 R1의 슬림 버전도 제공하고 있다. 

이번에 공개된 두 모델은 특히 극소형 환경을 겨냥했다. 회사는 이 라인업을 ‘모델 주’라고 부르며 동물의 뇌 크기에 빗대 이름을 붙였다. ‘슈퍼플라이’는 허깅페이스에 공개된 스몰LM2-135를 기반으로 한 모델로 원래 1억3천5백만 개의 파라미터를 9천4백만 개로 줄였다. 

오루스는 이를 파리의 뇌 크기에 비유하며 간단한 명령 이해와 음성 인터페이스에 적합하다고 설명했다. 슈퍼플라이는 매우 제한된 데이터로도 학습이 가능하도록 설계됐다. 세탁기나 냉장고 같은 가전 내부에 탑재돼 사용자가 “빠른 세탁 시작” 같은 음성 명령을 내리거나 고장 원인을 묻는 용도로 상정됐다. 

아두이노급의 간단한 연산 장치만 있어도 음성 인터페이스를 구현할 수 있다는 시연도 진행됐다. 다른 모델인 ‘칙브레인’은 파라미터 수 32억 개 규모로 더 크지만 기능은 훨씬 많다. 메타의 라마 3.1 8B 모델을 압축한 버전으로 추론 기능을 포함한다. 

이 모델은 인터넷 연결 없이 맥북 같은 개인용 컴퓨터에서 실행 가능하다고 회사는 설명했다. 내부 테스트 결과에 따르면 언어 이해 능력을 평가하는 MMLU-Pro, 수학 문제 해결을 보는 Math 500과 GSM8K, 일반 지식 평가 지표인 GPQA 다이아몬드 등 여러 벤치마크에서 원본 모델보다 소폭 높은 점수를 기록했다. 

회사는 이 모델들이 최상위 대형 모델을 능가한다고 주장하지는 않았다. 핵심은 모델 크기를 줄여도 성능 손실이 발생하지 않는다는 점이다. 멀티버스 컴퓨팅은 현재 애플과 삼성전자, 소니, HP 등 주요 기기 제조사와 협의를 진행 중이라고 밝혔다. 

HP는 최근 투자 라운드에 참여한 투자자이기도 하다. 이번 투자 라운드는 불혼 캐피털이 주도했으며 HP 테크 벤처스와 도시바 등도 참여했다. 

회사는 텍스트 모델 외에도 이미지 인식 등 다른 머신러닝 영역에 압축 기술을 적용하고 있으며 지난 6년간 바스프와 무디스, 보쉬 등 산업 고객을 확보했으며 이들 기업에 모델을 직접 판매하는 방식과 함께 AWS 기반 API 형태로도 압축 모델을 제공한다. 개발자는 이를 통해 상대적으로 낮은 토큰 비용으로 모델을 사용할 수 있다.