머스크 전 연인, X AI ‘그록’ 상대로 소송…딥페이크 생성 책임 공방

일론 머스크가 설립한 AI 기업 xAI가 개발한 AI 챗봇 ‘그록(Grok)’을 둘러싼 법적 분쟁이 미국에서 빠르게 확산되고 있다. 월스트리트저널은 15일 현지시간 머스크의 전 연인이자 미국 인플루언서인 애슐리 세인트 클레어가 그록을 상대로 소송을 제기했다고 보도했다. 

정확히는 그록의 개발사인 xAI를 상대로 한 소송이다. 세인트 클레어는 소장에서 그록이 자신의 얼굴과 외형을 바탕으로 성적 이미지와 딥페이크 이미지를 반복적으로 생성했다며 신변 위협을 느끼고 있다고 주장했다. 

그는 해당 이미지 생성 자체를 막아달라는 금지 가처분도 함께 신청했다.

사건의 흐름을 보면 논란은 개인 간 분쟁에서 시작됐지만 빠르게 기술 설계 문제로 옮겨가고 있다. 세인트 클레어는 앞서 엑스(X) 이용자들이 그록을 이용해 여성과 아동을 대상으로 성적 이미지와 딥페이크를 손쉽게 만들어내고 있다고 공개적으로 문제를 제기해 왔다. 

이번 소송 역시 그 연장선에 있다. 이 사건은 처음 뉴욕주 법원에 접수됐으나 현재는 연방법원으로 이송된 상태다. 이에 대해 xAI는 이용약관을 근거로 맞소송을 제기했다. 서비스 가입 시 모든 법적 분쟁은 텍사스 법원에서 해결하도록 돼 있는데 이를 위반했다는 주장이다.

표면적으로 보면 유명 인물의 사생활과 AI 악용 사례가 얽힌 사건처럼 보인다. 그러나 미국 언론과 업계가 주목하는 지점은 따로 있다. 왜 그록에서는 이런 이미지 생성이 상대적으로 쉽게 가능했는지라는 질문이다. 

다시 말해 누가 어떤 이미지를 만들었느냐보다 그런 결과물이 나올 수밖에 없었던 기술적 조건이 무엇이었는지가 핵심으로 떠오르고 있다.

그록은 텍스트 명령을 입력하면 이미지를 생성하는 생성형 AI다. 사용자는 문장 몇 줄만 입력해 그림을 만들 수 있고 사진을 함께 올리면 해당 이미지를 바탕으로 새로운 결과물을 얻을 수 있다. 이때 작동하는 핵심 기술은 ‘텍스트 투 이미지’와 ‘이미지 변형’이다. 

텍스트 투 이미지는 글의 의미를 해석해 그림으로 바꾸는 기술이고 이미지 변형은 기존 사진의 특징을 유지한 채 새로운 장면이나 조건을 적용하는 방식이다. 이 두 기능이 결합되면 특정 인물의 외형을 유지하면서 전혀 다른 상황의 이미지를 만들어낼 수 있다.

AI는 사람 얼굴을 사진 그대로 기억하지 않는다. 얼굴의 윤곽, 눈, 코, 입의 위치 같은 특징을 숫자로 바꿔 내부 공간에 저장한다. 이 내부 표현을 바탕으로 옷이나 배경 자세 같은 요소를 바꿔 다시 이미지를 그려낸다. 

그래서 실제로 존재하지 않았던 장면이지만 현실처럼 보이는 이미지가 만들어진다. 이 기술은 오래전부터 존재했지만 최근 몇 년 사이 모델 규모와 연산 능력이 커지면서 누구나 쉽게 쓸 수 있는 수준으로 내려왔다.

문제는 접근성이다. 그록은 엑스 플랫폼과 결합돼 별도의 설치나 복잡한 절차 없이 바로 이미지 생성을 할 수 있었다. 사용자는 사진 한 장과 간단한 지시만으로 결과물을 얻을 수 있었다. 여기에 안전 필터가 충분히 촘촘하지 않으면 성적 이미지나 딥페이크가 빠르게 확산될 수 있다. 

실제로 이번 소송과 함께 여러 언론은 초기 그록 이미지 생성 기능이 우회에 취약했고 제한이 느슨했다는 점을 지적하고 있다.

AI 서비스에서 이런 필터링은 생각보다 까다롭다. AI는 문장을 사전처럼 해석하지 않는다. 의미를 확률적으로 판단한다. 그래서 노골적인 표현을 피하더라도 비슷한 의도를 담은 문장이면 결과물이 생성될 가능성이 있다. 여기에 실제 인물의 사진이 입력되면 모델은 그 인물의 특징을 그대로 유지한 채 새로운 이미지를 만들어낸다. 

이 과정에서 성적 맥락을 완전히 차단하지 않으면 딥페이크로 이어질 위험이 커진다.

이번 사건 이후 xAI는 이미지 생성 기능에 대한 제한을 강화하고 관련 조치를 검토 중인 것으로 알려졌다. 미국 일부 주에서는 딥페이크와 관련한 법적 규제 논의도 속도를 내고 있다. 특정 인물의 얼굴을 활용한 이미지 생성에는 명시적 동의가 필요하다는 주장도 다시 힘을 얻고 있다.

사진 한 장과 몇 줄의 문장만으로 현실과 구분하기 어려운 이미지가 만들어지는 시대에 기술의 속도와 안전 사이의 균형이 시험대에 올랐다는 평가가 나온다.

(썸네일 사진 출처: 애슐리 세인트 클레어 SNS)