“클로드 1600만번 긁어서 성능 향상”…중국 AI 3사의 꼼수 논란

미국 AI 기업 앤트로픽이 중국 주요 AI 기업들이 자사 생성형 AI 모델 ‘클로드(Claude)’를 대규모로 활용해 성능을 끌어올렸다고 주장했다. 미 행정부가 대중(對中) 고성능 AI 칩 수출 규제 완화를 둘러싸고 논쟁을 이어가는 시점에 ‘모델 무단 추출’ 문제가 공개적으로 제기된 것이다.

앤트로픽은 2월 23일(현지시간) 공개한 자료에서 딥시크(DeepSeek), 문샷AI(Moonshot AI), 미니맥스(MiniMax) 등 중국 AI 기업 3곳이 2만4000개 이상의 가짜 계정을 만들어 클로드에 접속했고 이를 통해 1600만 회가 넘는 대화를 생성했다고 밝혔다. 이 대화 기록은 이들 기업이 자사 AI 모델을 개선하는 데 활용됐다는 설명이다.

문제의 핵심은 ‘증류(distillation)’라는 기법이다. 증류는 대형 AI 모델이 생성한 답변을 학습 데이터로 삼아 더 작고 저렴한 모델을 훈련하는 방식이다. 원래는 같은 회사 내부에서 모델 경량화를 위해 쓰이는 기술이지만 경쟁사의 모델 출력 결과를 대량으로 확보해 학습에 활용하면 사실상 상대의 연구 성과를 우회적으로 흡수하는 효과가 생긴다.

앤트로픽은 이번 행위가 조직적이고 산업 규모로 진행된 캠페인이라고 주장했다. 특히 세 기업이 클로드의 차별화된 능력을 집중적으로 겨냥했다고 설명했다. 에이전트형 추론 능력, 외부 도구를 활용하는 기능, 복잡한 코딩 작업 수행 역량이 주요 타깃이었다는 것이다.

기업별로 보면 양상도 달랐다. 딥시크는 15만 회 이상에 이르는 대화를 통해 기초 논리 구조와 안전 정렬(alignment) 체계를 개선하려는 흔적이 관찰됐다고 앤트로픽은 밝혔다. 

정책적으로 민감한 질문에 대해 검열을 피해 답변을 구성하는 방식까지 분석 대상으로 삼았다는 주장이다. 문샷AI는 340만 회가 넘는 대화를 통해 에이전트 추론, 데이터 분석, 컴퓨터 조작형 에이전트 개발 등 폭넓은 영역을 시험했다. 

미니맥스는 약 1300만 회의 상호작용을 진행했고 클로드의 최신 버전이 출시되자 트래픽의 상당 부분을 새 모델로 전환해 능력을 빠르게 추출한 정황이 포착됐다고 전했다.

이와 유사한 문제 제기는 앞서 오픈AI에서도 나왔다. 오픈AI는 이달 초 미 하원 의원들에게 전달한 메모에서 딥시크가 자사 모델을 모방하기 위해 증류 기법을 활용하고 있다고 지적한 바 있다. 중국 AI 기업의 급속한 성능 향상이 이런 방식 때문일 수 있다는 의혹이 미국 내에서 확산되는 흐름이다.

이번 사안은 반도체 수출 통제 논쟁과 직결된다. 미국은 첨단 AI 칩의 대중 수출을 통해 중국의 AI 개발 속도를 제한하려는 정책을 유지해 왔다. 

그러나 지난달 트럼프 행정부는 엔비디아의 H200과 같은 고성능 AI 칩의 중국 수출을 조건부로 허용하는 방향으로 규정을 조정했다. 이에 대해 일각에서는 중국의 연산 능력을 오히려 강화해 글로벌 AI 패권 경쟁에서 불리한 결과를 초래할 수 있다는 우려를 제기했다.

앤트로픽은 이번 사례를 두고 대규모 모델 추출에는 고성능 칩 접근이 필요하다고 주장했다. 고급 연산 자원이 있어야 대량의 질의와 응답을 처리하고 이를 학습에 활용할 수 있다는 논리다. 이는 곧 첨단 칩 접근을 제한해야 불법적 증류 규모도 줄일 수 있다는 주장으로 이어진다.

미국 안보 전문가들도 비슷한 시각을 내놓았다. 일부 정책 분석가는 중국 AI 모델의 빠른 발전 배경에 미국 프런티어 모델의 결과물을 활용한 증류가 자리하고 있다고 지적하며 이런 정황이 확인된다면 AI 칩 수출을 전면적으로 재검토해야 한다는 입장을 보였다.

앤트로픽은 이번 사안을 국가 안보 문제로 규정했다. 미국 AI 기업들은 생화학 무기 개발이나 악성 사이버 공격 등에 악용되지 않도록 안전 장치를 설계해 모델을 운영한다. 

그러나 불법적으로 추출된 모델은 이러한 안전 장치가 충분히 반영되지 않을 가능성이 높다고 설명했다. 안전 장치가 제거된 고성능 AI가 확산될 경우 사이버 공격이나 대규모 감시 체계 구축 등 권위주의적 활용 위험이 커질 수 있다는 우려다.

현재 딥시크, 문샷AI, 미니맥스 측의 공식 입장은 나오지 않았다. 다만 딥시크는 지난해 오픈소스 추론 모델 R1을 공개하며 미국 주요 AI 기업과 유사한 성능을 훨씬 낮은 비용으로 구현했다고 주장해 주목을 받은 바 있다. 곧 공개될 예정인 차세대 모델 V4 역시 코딩 능력에서 미국 경쟁 모델을 능가할 수 있다고 예상된다.