미국 정부, 앤트로픽 최강 AI '페이블 5' 전격 차단…안전 경고가 부른 역설

미국 정부가 12일(현지시간) AI 기업 앤트로픽에 자사의 가장 강력한 AI 모델 두 종에 대한 접근을 즉시 차단하라고 명령했다. 대상은 '클로드 페이블 5'와 '클로드 미토스 5'로 국가안보를 이유로 든 조치였다. 앤트로픽은 명령에 따라 두 모델을 전면 중단했으나 정부 판단이 잘못됐다는 입장을 분명히 했다.

앤트로픽이 이날 오후 5시 21분 받았다고 밝힌 이 명령은 수출통제 형식을 가지고 있다. 수출통제는 안보에 민감한 기술이 외국으로 넘어가는 것을 막는 제도로 이번 명령은 외국 국적자의 사용을 금지하는 내용이다. 

다만 미국 내에 거주하는 외국 국적자와 앤트로픽의 외국인 직원까지 포함하는 광범위한 조치여서 회사는 선별 차단이 사실상 불가능하다고 보고 전 세계 모든 이용자를 대상으로 두 모델을 껐다. 앤트로픽의 다른 모델은 영향을 받지 않는다.

이번 사태의 배경에는 '미토스'라는 모델이 있다. 미토스는 앤트로픽이 지난 4월 처음 공개한 가장 강력한 AI로 소프트웨어의 보안 취약점을 찾아내는 능력이 뛰어나다. 취약점이란 해커가 침입에 악용할 수 있는 프로그램의 허점을 말한다. 미토스는 시험한 모든 주요 운영체제와 웹 브라우저에서 결함을 찾아냈다. 

앤트로픽은 이 능력이 공격에 악용될 위험이 크다고 보고 일반에 공개하지 않았다. 대신 '글래스윙 프로젝트'라는 통제된 프로그램을 만들어 아마존, 애플, 구글, 마이크로소프트, 크라우드스트라이크 등 검증된 약 50개 조직에만 제공했다. 

보안을 강화하는 방어 목적의 작업에 쓰도록 한 것이다. 이들은 두 달여 만에 1만 건이 넘는 고위험 취약점을 찾아냈다.

한편 페이블 5는 사흘 전인 9일 공개됐다. 미토스와 같은 모델이지만 사이버보안이나 생물학처럼 위험이 큰 분야의 답변을 차단하는 안전장치를 달아 일반에 공개할 수 있도록 한 버전이다. 위험한 질문이 감지되면 답변을 한 단계 낮은 모델인 '클로드 오푸스 4.8'로 넘기는 방식이다. 

AI 성능을 추적하는 발스AI의 평가에서 페이블 5는 공개 즉시 일반인이 쓸 수 있는 가장 강력한 모델로 꼽혔다. 이용 가격은 입력 100만 토큰당 10달러, 출력 100만 토큰당 50달러다.

정부 명령은 수출통제 형식이지만 앤트로픽은 실제 우려가 페이블 5의 '탈옥'에 있다고 본다. 탈옥은 AI에 걸린 안전장치를 우회해 원래 막혀 있던 답변을 끌어내는 기법이다. 앤트로픽에 따르면 정부는 구두로만 근거를 제시했으며 그 내용은 모델에 특정 코드를 읽혀 결함을 찾아내게 하는 수준이었다. 

회사는 이를 두고 일부 사례에만 해당하는 좁은 기법이라고 설명했다. 같은 작업은 오픈AI의 GPT-5.5 등 이미 공개된 다른 모델로도 가능하며 보안 전문가들이 방어 목적으로 일상적으로 쓰는 수준이라는 것이다.

앤트로픽은 가장 강력한 안전장치가 모델과 분리된 별도의 분류 시스템으로 작동한다는 점도 강조했다. 누군가 페이블이 거부를 넘어 답변을 계속하도록 유도하더라도 가장 위험한 출력을 막는 보호 장치는 그대로 유지된다는 설명이다.

앤트로픽은 좁은 탈옥 가능성을 근거로 수억 명이 쓰는 상용 모델을 회수하는 것에 동의할 수 없다고 밝혔다. 이런 기준을 업계 전체에 적용하면 모든 첨단 AI 기업의 신규 모델 출시가 사실상 멈춰설 것이라고 주장했다.

앤트로픽은 올해 기업공개(IPO)를 추진할 것으로 알려져 있으며 경쟁사와 달리 안전을 중시하는 기업이라는 정체성을 내세워왔다. 미토스를 공개하지 않을 만큼 위험하다고 강조한 그 신중함이 정작 사업에 가장 큰 타격을 줄 수 있는 정부의 감시를 불러왔다는 평가가 나온다.

오픈AI의 샘 올트먼 최고경영자(CEO)는 지난 4월 한 팟캐스트에서 앤트로픽의 미토스 처리 방식을 '공포 마케팅'이라고 비판한 바 있다. 

폭탄을 만들어 머리 위에 떨어뜨리려다 1억 달러짜리 방공호를 파는 격이라는 표현이다. 올트먼은 정부의 차단까지 예견하지는 않았으나 자사 AI가 유독 위험하다고 수개월간 강조하면 정부를 포함한 세상이 그 말을 그대로 받아들이게 된다는 점을 짚었다.