[법과제도]쫓고 쫓기는 AI 학습 데이터와 저작권자, 그 싸움의 결말은?

AI를 둘러싼 저작권 논쟁은 AI가 바꿔놓은 법이나 제도의 문제들 중에서도 가장 지루한 논쟁일 것이다. AI가 인터넷에 공개된 저작권 콘텐츠를 무단으로 수집하고 학습하는 행위를 기술적으로 막을 수 있는가? 원론적으로는 불가능하다.

이를 깨달은 로펌과 변호사들은 이후 그 학습을 거쳐 만들어진 결과물이 실제로 무단 학습의 산물인지 판별할 수 있는지 여부에 집중하기 시작했다. 이 두 질문은 현재 법과 제도가 동시에 풀지 못한 핵심 지점으로 남아 있다.

먼저 무단 학습을 막을 수 있는지에 대한 문제를 살펴보자. 인터넷에 공개된 콘텐츠는 이론적으로는 모두 크롤링이 가능하다. 크롤링은 자동화된 프로그램이 웹페이지를 순회하며 텍스트나 이미지를 수집하는 방식이다. 

웹사이트 운영자는 robots.txt라는 표준 파일을 통해 검색 엔진이나 크롤러의 접근을 제한할 수 있지만 이는 기술적 경고일 뿐이지, 법적 강제력은 없다. 이를 따르지 않는 크롤러를 물리적으로 차단할 수 있는 수단은 존재하지 않는다. 

서버를 해외에 두거나 비공식 경로를 이용하는 학습 주체까지 고려하면 인터넷에 노출된 콘텐츠의 학습 활용을 원천 차단하는 것은 현실적으로 불가능하다.

이 한계는 AI의 학습 구조에서도 반복된다. 생성형 AI는 학습 과정에서 개별 저작물을 파일 단위로 저장하거나 다시 불러오는 방식이 아니다. 텍스트와 이미지는 통계적 패턴으로 변환돼 수많은 수치 값으로 흩어진다. 이 때문에 학습 단계에서 특정 저작물을 배제하더라도 이미 학습된 모델에서 해당 저작물의 흔적을 제거하는 것은 사실상 어렵다. 

두 번째 쟁점은 이렇게 학습된 AI가 결과물을 만들었을 때 그것이 무단 학습에서 나온 결과물인지 판별할 수 있는지다. 현재 기술로는 결과물만 보고 “이 문장이나 이미지는 어느 웹사이트의 어느 저작물을 학습해 나왔다”고 입증하는 것은 거의 불가능하다. 

생성형 AI는 원문을 기억해 출력하는 시스템이 아니고 확률적으로 다음 단어와 이미지를 생성하는 구조이기 때문이다. 이로 인해 결과물의 출처를 추적하는 기술적 방법은 제한적일 수밖에 없다.

이 한계를 전제로 법원과 각종 제도에서는 판별 기준을 결과물의 ‘출처’가 아니라 ‘유사성’으로 옮겨왔다. 결과물이 특정 저작물과 문장 구성, 표현 방식, 이미지 구도에서 실질적으로 유사한 경우 침해 여부를 판단하는 방식이다. 

이는 AI 이전부터 사용돼온 저작권 분쟁의 기준을 그대로 적용한 것이다. 즉 “어디서 배웠는지”가 아니라 “결과가 닮았는지”가 쟁점이 된다. 아주 간단하고 직관적인 방식이기도 하다.

여기에 더해 법적 분쟁에서는 반복성과 재현성이 간접 증거로 활용된다. 특정 프롬프트를 입력했을 때 동일하거나 매우 유사한 표현이 반복적으로 출력되는 경우 해당 모델이 특정 저작물을 강하게 반영했을 가능성이 제기된다. 이는 무단 학습을 직접 입증하는 증거는 아니지만 법정에서는 정황 증거로 다뤄지고 있다.

이러한 판별 한계는 제도 설계에도 영향을 미쳤다. 각국의 규제 논의는 결과물 판별의 어려움을 전제로 학습 과정 자체를 관리하는 방향으로 이동하고 있다. 학습 데이터의 범주 공개, 라이선스 확보 여부 기록, 권리자의 학습 거부 의사 반영 여부를 문서로 남기도록 요구하는 방식이다. 

결과물을 사후에 감정하는 것보다는 학습 과정이 합법이었는지를 더 중요한 관리 대상으로 삼겠다는 접근이다.

출력 단계에서의 표시 의무도 같은 맥락이다. 결과물이 AI에 의해 생성됐다는 사실을 명시하도록 요구하는 제도는 이용자에게 한계를 고지하고 책임 구조를 명확히 하기 위한 수단이다. 결과물 자체에서 학습 출처를 판별할 수 없다는 전제가 깔려 있기 때문이다.

이러한 이유로 최근 저작권 분쟁의 해결 방식은 기술적 차단이나 결과물 판별이 아니라 계약과 책임 배분으로 이동하는 모습이다.

언론사, 출판사, 이미지 플랫폼이 학습용 데이터 라이선스를 제공하고 AI 기업이 대가를 지급하는 구조가 형성되고 있다고 볼 수 있다.현재까지의 다양한 논의와 발전 방식을 살펴보면 모든 것은 하나의 결론으로 귀결된다. 

AI의 무단 학습은 기술적으로 완전한 차단이 어렵고 그 학습에서 나온 결과물을 개별적으로 판별하는 것도 제한적으로만 가능하다는 것이다. 이 전제 위에서 기업들은 학습 과정의 투명성, 결과물의 유사성 판단, 계약 기반의 이용 질서라는 세 갈래 축을 중심으로 AI의 재료를 이용하는 규율을 자체적으로 정립해 가고 있다.