앤트로픽, 클로드가 쓴 글에 '보이지 않는 워터마크' 새긴다

AI 챗봇 클로드(Claude)를 만드는 앤트로픽이 클로드가 생성한 모든 텍스트에 사람 눈에는 보이지 않는 워터마크를 넣기로 했다. 워터마크란 문서나 이미지에 몰래 심어 두는 표식으로 원본 여부나 출처를 확인하는 데 쓰인다. 회사는 지원 페이지를 통해 이 사실을 확인했다.

이번 조치는 유럽연합(EU)의 AI 규제법인 'AI법(AI Act)'을 따르기 위한 것이다. 지난 8월 2일부터 이 법의 투명성 관련 조항인 제50조가 발효됐는데 여기서는 AI가 만들거나 편집한 콘텐츠를 다른 시스템이 식별할 수 있도록 표시하라고 규정한다. 앤트로픽은 이 규정을 이행하기 위한 실무 지침인 '투명성 실천강령(Code of Practice)'에 서명했다.

방식은 크게 두 가지다. 텍스트에는 글자 자체에 사람이 읽을 때는 알아챌 수 없는 신호를 심는다. 앤트로픽은 이 워터마크가 글의 의미나 품질, 가독성을 바꾸지 않는다고 설명했다. 표식은 글 속에 들어가 있기 때문에 텍스트를 복사해 다른 곳에 붙여 넣어도 함께 따라간다. 일부 편집을 거쳐도 남아 있을 수 있다.

이미지 같은 파일에는 다른 방식이 쓰인다. SVG, PNG, JPG 같은 형식의 파일에는 'C2PA'라는 개방형 표준을 따르는 서명된 출처 정보를 붙인다. 

C2PA는 디지털 콘텐츠가 어떻게 만들어지고 편집됐는지를 기록하기 위해 업계가 공동으로 만든 규격이다. 이 정보가 붙어 있으면 해당 파일이 클로드를 거쳐 만들어졌다는 사실과 이후 누군가 정보를 조작했는지 여부를 확인할 수 있다.

워터마크는 특정 제품이 아니라 AI 모델 자체에 적용된다. 클로드 웹사이트, 개발자용 API, 코딩 도구인 클로드 코드, 업무용 도구 클로드 코워크, 슬랙 기반 도구 클로드 태그 등 어떤 경로로 글을 받든 표식이 들어간다. 

아마존웹서비스(AWS), 구글 클라우드, 마이크로소프트 파운드리 같은 외부 클라우드를 통해 클로드를 쓸 때도 텍스트 워터마크는 적용된다. 다만 파일에 붙는 서명된 출처 정보는 플랫폼에 따라 지원되지 않을 수 있다.

적용 시점은 모델이 언제 나왔는지에 따라 갈린다. 8월 2일 이후 출시된 클로드 모델은 처음부터 표식을 지원한다. 그 이전에 나온 모델은 아직 적용되지 않았고 앤트로픽은 EU법이 정한 유예 기간 동안 표식 기능을 추가하는 작업을 진행 중이라고 밝혔다.

앤트로픽은 이 표식을 AI 판별의 확정적 증거로 봐서는 안 된다고 선을 그었다. 사람이 쓴 글을 클로드로 번역하거나 요약, 편집하면 그 결과물에도 표식이 남을 수 있어 표식이 있다고 해서 AI가 처음부터 썼다고 단정할 수 없다. 반대로 표식이 없다고 해서 사람이 썼다는 뜻도 아니다. 

글을 많이 고치면 워터마크가 약해질 수 있고 문장이 너무 짧으면 판별에 필요한 정보가 부족하다. 파일에 붙는 출처 정보는 형식 변환이나 재저장, 화면 캡처 같은 일상적인 처리만으로도 지워질 수 있다. 텍스트 워터마크가 복사·붙여넣기에도 살아남는 것과 달리 이미지에는 눈에 띄지 않게 바꿀 수 있는 여유 공간이 텍스트만큼 없기 때문이다.

현재 이용자나 제3자가 실제로 이 워터마크를 검출할 수 있는 도구는 아직 공개되지 않았다. 앤트로픽은 검출 도구와 기술 문서를 곧 제공하겠다고 밝혔다.

AI법 제50조를 어기면 최대 1500만 유로 또는 전 세계 연매출의 3% 중 더 큰 금액을 과징금으로 물 수 있다. EU 집행위원회에 따르면 7월 말까지 약 190개 기관이 투명성 실천강령에 서명했다. 앤트로픽 외에도 구글, 메타, 마이크로소프트, 오픈AI, 블랙포레스트랩스, 미스트랄, 코히어, 신세시아 등 주요 AI 기업이 이름을 올렸다.

콘텐츠에 표식을 다는 흐름은 업계 전반으로 번지고 있다. AI 음악 플랫폼 수노(Suno)는 잇단 법적 분쟁 끝에 자사에서 만든 음악에 표식을 넣겠다고 밝혔고 뉴스레터 서비스 서브스택(Substack)은 AI로 쓴 글을 가려내는 도구를 도입했다.