"미소스가 위험해서"…사실은 돈 때문? 앤트로픽의 이중 계산

함께보기: 너무 뛰어나 어둠 속에서 나오지 못하는 앤트로픽 보안 모델, 미소스 

앤트로픽이 최신 AI 모델 '클로드 미소스 프리뷰'의 공개를 사실상 거부했다. 이 모델이 해킹에 너무 뛰어나 공개할 경우 전 세계 인터넷 인프라가 위험해진다는 게 표면적인 이유다. 그러나 업계에서는 이 결정이 의외로 기업 이익의 문제일 수도 있다는 시각이 나온다.

앤트로픽은 미소스가 수주 만에 주요 운영체제와 웹 브라우저 전반에서 수천 건의 기존에 알려지지 않은 보안 결함을 발견했다고 밝혔다. 여기에는 인증 없이 외부에서 시스템을 완전히 장악할 수 있는 수준의 결함도 있다. 앤트로픽은 이 결함들이 방어자보다 공격자에게 먼저 활용될 경우를 우려해 제한 공개를 택했다고 설명했다.

파장은 컸다. 재무장관 스콧 베선트와 연방준비제도 의장 제롬 파월은 미소스 공개 직후 씨티그룹, 모건스탠리, 뱅크오브아메리카, 웰스파고, 골드만삭스 등 월가 주요 은행 최고경영자들을 긴급 소집했다. 

그 전주에는 JD 밴스 부통령과 베선트 장관이 앤트로픽의 다리오 아모데이, 일론 머스크, 구글의 순다르 피차이, 샘 올트먼, 마이크로소프트의 사티아 나델라 등 빅테크 최고경영자들과 사이버 리스크를 논의하는 자리를 가졌다. 

앤트로픽은 미소스 공개 이전에 미국 정부 고위 당국자들에게 모델의 공격·방어 양면 능력을 사전 브리핑했다고 확인했다.

그런데 앤트로픽이 프로젝트 글라스윙 발표에서 예시로 든 취약점들을 직접 재현해본 AI 보안 스타트업 에이슬(AISLE)의 실험에 따르면 해당 취약 코드를 분리한 뒤 소형 오픈소스 모델들에 돌렸더니 비슷한 분석 결과가 나왔다. 

프리BSD의 원격 코드 실행 취약점은 테스트한 모델 여덟 개 전부에서 탐지됐다. 그중에는 미소스보다 훨씬 작고 저렴한 모델도 포함됐다. 에이슬은 이를 근거로 AI 모델의 사이버보안 능력이 모델 크기나 가격에 비례하지 않는다고 결론 내렸다.

모델 크기나 세대, 가격에 따라 능력이 일관되게 증가하지 않는다는 뜻이다. 다만 에이슬도 이번 테스트가 이미 좁혀진 코드 경로에서 시작한 것으로 전체 코드베이스를 처음부터 탐색하는 실전 환경과는 다르다고 덧붙였다.

여기서 미소스의 배포 방식 자체가 철저한 전략적 선택의 결과라는 주장이 등장한다. exe.dev의 최고경영자 데이비드 크로쇼는 "미소스에 대한 앤트로픽의 설명은 최상위 모델을 이제 기업 계약으로 잠근다는 사실을 가리는 마케팅용 포장"이라고 지적했다. 

일반 이용자가 미소스에 접근할 때쯤이면 그 위에 또 다른 기업 전용 모델이 나와 있을 것이고 이 구조가 기업 매출을 지키는 동력이 된다는 논리다.

더 깊은 배경으로는 '디스틸레이션' 문제가 있다. 디스틸레이션이란 완성된 대형 AI 모델에 수많은 질문을 쏟아붓고 그 응답으로 더 작고 저렴한 모델을 훈련시키는 기술이다. 막대한 개발 비용을 들이지 않고도 최신 AI 모델과 비슷한 성능을 낼 수 있어 수조 원을 투자한 대형 AI 기업들의 기술 우위가 무의미해질 수 있다. 

앤트로픽은 올해 2월 중국 AI 기업 딥시크, 문샷AI, 미니맥스가 2만4000개의 가짜 계정을 만들어 클로드로부터 1600만 건의 응답을 추출했다고 공개적으로 고발했다. 4월 6일에는 앤트로픽, 구글, 오픈AI가 2023년 마이크로소프트와 함께 세운 비영리 단체 '프런티어 모델 포럼'을 통해 디스틸레이션 공격 탐지 정보를 공유하기 시작했다고 밝혔다.

이런 맥락에서 미소스의 제한 배포는 사이버보안 논거와 디스틸레이션 방어가 동시에 작동하는 구조다. 선별된 대기업에만 제공하면 중소 경쟁사나 중국 기업이 모델 응답을 긁어 복제하기 어려워진다. 

이번 논란은 앤트로픽이 최근 잇따라 겪은 내부 보안 사고를 떠올리게 한다. 지난 3월 28일 앤트로픽은 내부 블로그 포스트 수천 건이 잘못 설정된 콘텐츠 관리 시스템을 통해 외부에 노출되는 사고를 냈다. 이 유출 파일 중에는 미소스의 존재와 사이버보안 위험성을 상세히 기술한 초안도 포함돼 있었다. 

그로부터 사흘 뒤인 3월 31일에는 AI 코딩 도구인 클로드 코드 업데이트 파일 안에 내부 개발용 디버깅 파일이 실수로 함께 묶여 배포됐다. 이 파일을 따라가면 앤트로픽 서버에 저장된 전체 소스코드에 접근할 수 있었고, 보안 연구자 차오판 쇼우가 이를 발견해 외부에 알렸다.

결과적으로 약 50만 줄 분량의 내부 코드와 1906개 파일이 외부에 노출됐다. 공개된 코드는 수 시간 만에 개발자 커뮤니티 깃허브에서 4만1500건 이상 복사·저장됐다. 앤트로픽은 고객 데이터나 인증 정보는 포함되지 않았으며 배포 패키징 과정의 인적 실수라고 해명했다.

한편 오픈AI도 '스퍼드'라는 이름의 유사 모델을 준비 중이며 기존 '사이버 신뢰 접근 프로그램'을 통해 소수 기업에만 제공할 계획인 것으로 알려졌다.