AI가 만든 콘텐츠를 AI가 잡아내는 창과 방패의 싸움

AI가 만든 콘텐츠를 AI가 스스로 가려내는 기술이 텍스트·이미지·동영상 세 분야에서 각각 다른 방식으로 발전하고 있다. 탐지 기술이 고도화될수록 생성 기술도 함께 진화해 완전한 해결책은 아직 없다는 것이 전문가들의 공통된 평가다.

AI 글쓰기 탐지의 출발점은 두 가지 통계 지표다. 하나는 퍼플렉시티(perplexity)로 글이 얼마나 예측 가능한지를 수치로 나타낸다. AI가 쓴 글은 지나치게 매끄럽고 균일해서 낮은 값이 나온다. 

다른 하나는 버스티니스(burstiness)로 문장 길이와 구조의 변동성을 측정한다. 사람은 짧은 문장과 긴 문장을 자연스럽게 섞어 쓰지만 AI는 일정한 리듬을 유지하는 경향이 있기 때문에 가능한 방법이다.

2026년 현재 상용 탐지 시스템은 더욱 발전된 방법을 사용한다. 구문 트리 깊이, 담화 일관성 패턴, 어휘 다양성 변화 곡선, 문단 단위 구조적 특성 등 수십 가지 요소를 동시에 분석하는 앙상블 딥러닝 모델이 수억 건의 텍스트를 학습하고 있다.

주요 도구로는 GPTZero, Turnitin, Copyleaks가 있다. GPTZero는 문장별로 어느 부분이 AI 글처럼 보이는지를 시각적으로 표시하고 GPT-5, Claude Sonnet 4를 포함한 최신 모델까지 탐지하도록 2025년 여름 학습 데이터를 업데이트했다. 

Turnitin은 학생 논문 9억 편 이상을 학습한 모델로 250단어 단위로 문서를 채점하며 2025년 8월에는 AI 글을 사람이 도구로 다듬어 제출한 경우까지 탐지하는 기능을 추가했다.

그러나 실제 정확도는 업체 주장과 거리가 있다. 수정 없이 제출된 AI 글에서도 정확도가 40% 아래로 떨어진다는 독립 연구가 있고 영어가 모국어가 아닌 작성자의 글을 AI로 잘못 분류하는 비율이 61%에 달한다는 결과도 나왔다. 밴더빌트, 예일, 노스웨스턴 같은 미국 명문 대학들이 Turnitin의 AI 탐지 기능을 비활성화한 배경이다.

언어학적 접근인 스타일로메트리(stylometry·문체 계량학)도 탐지에 쓰인다. 기능어 빈도, 품사 조합 패턴, 구문 구조 같은 통계적 특성으로 글쓴이의 문체 지문을 분석하는 방식이다. 2025년 PLOS ONE 연구에서는 이 세 가지 특징만으로 7개 AI 모델의 글을 인간 글에서 완벽하게 분리하는 데 성공했다.

한편 이미지 탐지는 포렌식 분석과 워터마킹 두 축으로 나뉜다. 포렌식 방법은 이미지를 스펙트럼 데이터로 변환해 AI 생성 과정에서 발생하는 주기적 패턴이나 노이즈를 찾아낸다. 

GAN(생성적 적대 신경망) 방식 이미지에서는 업샘플링 과정의 흔적이 스펙트럼에 남는다. 최근 GPT-4o를 활용한 멀티모달 탐지는 93.4% 정확도를 달성해 전통적 CNN 탐지기(91.8%)와 인간 검토자(86.3%)를 모두 넘어섰다.

워터마킹 분야에서는 어도비, 마이크로소프트, BBC, 인텔 등이 참여하는 컨소시엄 C2PA가 사실상 업계 표준이 됐다. 이미지와 영상에 콘텐츠가 어떻게 만들어졌는지를 기록한 메타데이터를 첨부하는 방식이다. LinkedIn에서 일부 이미지 옆에 표시되는 'CC' 태그가 이 방식이다.

이 방식으로 수정 없이 올린 AI 이미지는 잡을 수 있지만 편집 소프트웨어를 한 번이라도 거치면 메타데이터가 사라진다. 2025년 7월 Google DeepMind와 위스콘신-매디슨 대학 공동 연구는 현존하는 이미지 출처 증명 체계 중 견고성·위조 불가성·공개 탐지성을 동시에 갖춘 것은 없다고 결론 내렸다.

구글 딥마인드의 SynthID는 메타데이터 대신 픽셀 자체에 신호를 심어 자르기나 압축 뒤에도 워터마크가 유지되도록 했다. 이는 이미지 생성 모델 Imagen, 텍스트 생성 모델 Gemini, 동영상 모델 Veo, 오디오 모델 Lyria에 통합돼 있고 2025년까지 100억 건 이상의 콘텐츠에 적용됐다.

텍스트의 경우 LLM이 다음 단어를 선택할 때 확률 점수를 미세하게 조작해 패턴을 만드는 방식이다. 이 때 글을 완전히 다시 쓰거나 다른 언어로 번역하면 탐지 신뢰도가 크게 떨어진다는 한계가 있다. 구글은 이 기술을 2024년 10월 오픈소스로 공개했다.

유럽의회 조사국은 2025년에 약 800만 개의 딥페이크가 공유될 것으로 추정했는데 이는 2023년 50만 건에서 16배 늘어난 수치다. 탐지 시스템은 피부 질감의 미묘한 결함, 부자연스러운 눈 깜박임, 헤어라인 주변 경계 왜곡, 조명 불일치 같은 흔적을 신경망이 분석해 찾아낸다. 

가장 고도화된 방식은 동영상과 오디오를 별개로 보지 않고 동시에 교차 검증하는 방식이다. 딥페이크는 실제 영상에 복제 음성이 결합되거나 그 반대인 경우가 많아 따로 분석하면 놓치기 쉽기 때문이다.

EU AI법 Article 50은 AI 생성 콘텐츠에 기계가 읽을 수 있는 출처 표시를 의무화하는 조항으로 2026년 8월 2일부터 완전 시행된다. 다만 텍스트는 워터마킹이 출력 품질을 해칠 수 있다는 현실을 인정해 디지털 서명 방식의 출처 인증서를 대안으로 허용했다. 

위반 시 최대 1,500만 유로 또는 전년도 전 세계 연간 매출의 3% 중 높은 금액이 과태료로 부과된다. 다만 탐지 기술이 발전하는 속도와 생성 기술이 발전하는 속도는 거의 비슷하기 때문에 법 규제는 최소한의 안전망으로 작동하는 것이 현실이다.