오픈AI 법무총괄이 전한 “AI 시대의 진짜 현장”

※ 배연수 특파원은 지금, 캘리포니아 팔로알토에 있습니다. 실리콘밸리의 엔지니어들이 살아 숨쉬고 AI가 새벽마다 진화하는 바로 그 현장입니다. 미국 빅테크의 심장에서 일어나는 날 것 그대로의 이야기를 주 1회 생생한 리포트로 전해드리고자 합니다. 

얼마 전 스탠퍼드 로스쿨에서 열린 강연에서 오픈AI 법무총괄 체 창(Che Chang)의 이야기를 직접 들을 기회가 있었다. 그는 최첨단 AI 기술의 한가운데에 있는 사람으로서 AI가 발전하는 방향을 통제해야 하는 막중한 임무를 안고 있다. 체 창의 약력을 간략히 소개하면 아래와 같다.

○ UCLA에서 경제학 전공

○ Northwestern 로스쿨에서 법학전문대학원 학위 취득

○ 졸업 후 Goodwin Procter 로펌에서 기술거래 변호사로 근무

○ 이후 AWS로 옮겨서 AI 마켓플레이스 스토리지 관련 법무팀을 약 6년 동안 이끌었음

○ 2021년 오픈AI로 이직

○ 2023년 7월 오픈AI 법무총괄 General Counsel로 승진

○ 2025년 기준 법무팀 규모가 약 90명 수준이라고 밝힌 바 있음

이 기사에서는 체 창의 강연을 토대로 AI의 발전이 기업 내부와 외부 세계에 어떤 압력을 만들어내는지, 매일같이 밀려오는 감당하기 어려운 변화 속에서 실제로 어떤 일이 벌어지고 있는지를 생생하게 공유하고자 한다.

AI 기업에서 법무총괄이 하는 일은 일반 IT 기업의 법무 역할과는 다르다. 기술이 너무 빠르게 발전하다 보니 기존 법 체계가 따라오지 못하는 부분이 많고, 그 빈틈을 해석하거나 새 기준을 논의하는 과정에서 기업이 직접 의견을 내야 한다. 

그래서 이들이 하는 일은 법률 자문보다는 ‘지금까지 없었던 새로운 규칙을 논의하는 자리’에 상시 참석해야 하는 일이다. 변화가 너무 빨라 하루아침에 새로운 쟁점이 생기고 기존 해석이 뒤집히는 일이 반복되는 구조다.

강연의 첫머리에서 그는 자신의 일상을 “화이트하우스급 혼란”이라고 표현했다. 여기서 말하는 혼란이라는 표현은 말 그대로의 순수한 카오스(Chaos) 그 자체다. 하필 왜 화이트하우스인가. 미국 백악관은 매일 수많은 정부 정책과 국가 이슈가 동시에 터지는 곳이다. 

체 창은 지금 오픈AI 내부 상황이 그와 크게 다르지 않다고 설명했다. 각종 정부기관과 만나 기술 설명을 하고 새로운 규제 방향에 대해 협의해야 하며 회사의 구조적인 문제나 파트너십 관련 대응까지 모두 챙겨야 한다. 기술이 너무 빠르게 발전하는 탓에 하루에도 수십 가지 결정이 쏟아지고 이를 따라잡는 것만으로도 버거운 상황이다.

2021년에 그가 처음 오픈AI에 합류했을 때 회사 내 변호사가 두 명뿐이었다고 회상했다. 그로부터 불과 몇 년 사이에 법무 담당 인원은 약 100명으로 급증했다. AI 기술이 등장하면서 법률적으로 챙겨야 할 문제가 폭발적으로 늘어났다는 증거다.

그리고 직원들이 챗GPT를 실제 업무에서 어떻게 사용하는지 묻자 “모두 사용한다”고 말했다. 편의 기능처럼 쓰는 것이 아니라 생각을 정리할 때 도움을 받고 문장을 매끄럽게 다듬을 때도 활용한다는 말이다. 심지어 외부 로펌에 문의할 문제조차 먼저 챗GPT에 질문해 본 뒤 필요하면 로펌에 연락한다고 설명했다. 

기술을 개발하는 사람들조차 AI를 업무 도구로 삼는 상황은 AI가 인간의 일을 ‘돕는 단계’를 넘어 AI가 스스로 더 발전하기 위한 재료를 생성하는 시대에 들어섰다는 것을 암시하는 대목이었다.

여기서 AI 기술의 속도를 이해하기 위한 간단한 배경 설명을 덧붙일 필요가 있다. 일반 소프트웨어는 기능을 하나하나 사람이 설계해 구현하지만 대규모 언어모델(LLM)은 스스로 패턴을 학습해 능력을 형성한다. 즉 기능을 ‘만드는’ 속도가 사람이 개발하는 속도보다 훨씬 빠를 수 있다. 

이런 구조 때문에 기업 내부에서는 새로운 기능이 나타나는 시점과 그 기능에 대한 사회적·법적 요구가 나타나는 시점 사이에 간극이 벌어지고, 그 간극을 메우기 위해 법무와 정책 관련 업무가 폭발적으로 증가한다. 체 창이 설명한 사내 환경은 바로 이 간극을 좁히기 위한 일종의 ‘분투 현장’에 가깝다.

강연에서 가장 비중 있게 다뤄진 주제는 각국의 규제 흐름이었다. 인공지능 기술은 그 개발 속도가 너무 빠르다 보니 규제 기관들이 이를 따라잡기조차 어려운 상황이다. 국가별 접근 방식도 크게 다르다. 미국과 아시아 일부 국가는 일단 기술이 어느 정도 자리 잡을 때까지 지나친 규제를 적용하지 않으려는 태도를 보이고 있다. 

반면 유럽은 기술의 위험 요소를 선제적으로 관리하려는 성향이 강하다. 복잡하게 들리지만 핵심은 간단하다. 어느 나라도 정답을 갖고 있지 않다는 점이다. 기술이 사회 전반에 어떤 영향을 줄지 아직 아무도 확신할 수 없기 때문에 단일한 규제를 만드는 것 자체가 어렵다는 의미다.

신기술은 대부분 등장 초기엔 규제가 없거나 느슨하다. 왜냐하면 규제가 너무 엄격하면 기술이 성장할 수 없기 때문이다. 하지만 기술이 빠르게 커지면 사회적 우려가 나타나고 정치권은 이에 대응하기 위해 규제를 만들기 시작한다. 

지금 전 세계가 딱 그 과도기적 상황에 있다. 체 창이 말한 규제기관의 혼란은 ‘새로운 산업을 어떻게 바라봐야 하는가’에 대한 국가적 합의가 아직 만들어지지 않았기 때문에 발생하는 필연적인 dlf이다.

그가 일본 규제 담당자와 나눴다는 대화는 특히 인상적이었다. 일본 측은 아직 기술이 완전히 안정화되지 않은 상황에서 섣불리 규제를 만들고 싶지 않다고 말했지만 대중이 “빨리 규제를 만들라”고 압박하니 어쩔 수 없이 속도를 낼 수밖에 없었다는 것이다. 

그러면서 테크 기업들이 규제 기관에 기술을 설명해 주고 필요 자료를 제공해 주는 데 고마움을 표시했다고 한다. 즉 규제 기관마저 자신들이 완벽히 이해하지 못하는 기술의 흐름을 따라잡기 어렵다 보니 민간 기업에 상당 부분 의존하고 있는 현실이 드러난 셈이다.

이야기는 자연스럽게 AI와 관련한 여러 법률적 위험으로 이어졌다. 그 중 첫 번째는 저작권 문제였는데, 현재 오픈AI는 이미 많은 작가와 작곡가가 오픈AI를 상대로 소송을 제기한 상황에 처해 있었다. 물론 1차적인 원인은 저작권이겠지만 사실 그 본질은 사람들이 자신의 직업이 기술로 인해 위협받을 수 있다는 두려움에서 비롯된 문제인 것이다. 

그는 챗GPT의 목적이 인간 창작자를 대체하려는 것이 아니라고 재차 강조했다. 오히려 누구든 작가나 가수처럼 창작 활동을 해볼 수 있는 환경을 만드는 것이 목표라고 말했다. 다만 기술이 지금보다 훨씬 더 정교해질 20∼30년 뒤에는 어떠한 변화가 생길지 예측하기 어렵기 때문에 소송에도 성실히 대응하면서 지속적으로 피드백을 받겠다는 것이다. 

참고로 오픈AI는 웹사이트 운영자가 ‘우리 콘텐츠를 학습에 사용하지 말라’고 표시하면 이를 존중하는 opt-out 방식을 이미 도입했다고 한다.

두 번째 위험은 정신 건강 문제다. 챗GPT 같은 시스템이 잘못 사용될 경우 차별적 발언이나 위험한 조언을 할 수 있다는 우려가 존재한다. 극단적으로는 사용자의 심리를 해칠 수 있는 메시지를 전달해 스스로에게 해가 되는 행동을 유발할 가능성도 제기된다. 

결국 사용자의 자유를 어디까지 허용하고 안전 장치를 어디까지 강화할 것인가를 두고 매우 어려운 선택을 해야 하는 셈이다. 안전을 강화하려고 특정 단어 조합을 차단하면 오히려 중요한 문학 작품이나 교육적 내용까지 답변할 수 없게 되는 일도 생긴다. 

청소년과 자살이라는 키워드를 조합하면 로미오와 줄리엣 같은 작품에 대한 설명조차 할 수 없다. 이처럼 체 창이 기술적 제한의 부작용을 설명한 부분은 AI에 익숙한 우리 입장에서도 기존에 생각해보지 못한 매우 현실적인 문제로 다가왔다.

세 번째는 딥페이크 문제다. 딥페이크는 AI 기술로 사람 얼굴이나 목소리를 실제처럼 합성해 진짜와 구분하기 어렵게 만드는 기술을 말한다. 오픈AI는 이미 영상에 표시되는 워터마크 등의 안전 장치를 적용하고 있지만 완전한 차단은 불가능하며 누군가 악의적으로 우회하려 한다면 결국 뚫릴 수 있다고 인정했다. 

그래서 기술적 차단만으로 문제를 해결하기보다 사회 전체가 “이제 영상도 조작될 수 있다”는 인식을 갖도록 하는 것이 장기적으로 더 중요하다고 본다. 과거 사진 조작 기술이 널리 퍼지면서 사람들도 결국 ‘사진은 언제든 조작될 수 있다’고 자연스럽게 받아들인 것처럼 앞으로 영상도 같은 흐름으로 갈 것이라는 설명이다.

체 창의 발표를 들으며 AI 산업이 이미 거스를 수 없는 흐름이 되었음을 다시 확인할 수 있었다. 변화의 규모가 너무 크고 기술의 속도도 느려질 기미가 없기 때문에 AI를 일괄적으로 금지하거나 제어하는 방식은 사실상 불가능하다. 

따라서 새로 등장하는 모델이 어떤 방식으로 활용될지, 그 과정에서 어떤 위험이 발생할지 예측하고 정부와 긴밀하게 소통해 적절한 규제를 마련하는 작업이 앞으로 법무 업계에서는 가장 중요한 과제가 될 것이다. 이번 강연은 기술이 법을 앞장서 이끌어가는 매우 희귀한 기술적 트렌드를 보여준다는 점에서 우리에게 시사하는 바가 크다.