미 상원을 강타한 AI 규제 논쟁…‘어린이 보호’ 챗봇 규제 법안의 실체는?

미국 상원에서 AI를 둘러싼 규제 논쟁이 다시 한 번 수면 위로 올라왔다. 공화당 소속 조시 호울리 상원의원이 인공지능 챗봇이 미성년자에게 미칠 수 있는 위험을 문제 삼으며 강력한 연방 차원의 규제를 추진하고 있기 때문이다. 

이번 논쟁의 초점은 어린이와 소비자를 어떻게 보호할 것인가에 맞춰져 있다. 호울리가 주도하는 법안은 ‘GUARD Act’로 불린다. 이 법안은 감정적 대화를 수행하는 인공지능 챗봇이 미성년자에게 무분별하게 노출되는 상황을 막기 위한 내용을 담고 있다. 

(사진 출처: 미국 상원 홈페이지)

이제 AI 챗봇은 사용자의 감정에 반응하고 관계를 형성하는 능력을 충분히 가지게 되었다. 최근 몇 년간 이런 챗봇이 급속히 확산되면서 아이들이 장시간 대화를 나누거나 정서적으로 의존하는 사례가 보고됐고 상원은 이를 공적 위험으로 판단했다.

법안의 핵심은 접근 차단과 책임 강화다. 먼저 AI 서비스 제공자는 사용자의 연령을 확인할 의무를 진다. 단순히 생년월일을 입력받는 방식은 충분하지 않다고 보고 보다 엄격한 확인 절차를 요구한다. 미성년자가 성인용 계정으로 우회 접속하는 상황을 구조적으로 막겠다는 취지다. 

또한 챗봇은 대화 과정에서 자신이 사람이 아니라 AI라는 사실을 명확히 밝혀야 한다. 아이들이 상대를 실제 사람으로 착각하고 정서적 신뢰를 형성하는 것을 차단하기 위한 조치다.

대화 내용에 대한 제한도 포함돼 있다. 미성년자를 대상으로 성적 내용이나 폭력 자해 자살을 연상시키는 대화는 원칙적으로 금지된다. AI가 치료사나 의사, 친구 역할을 자처하며 아이의 감정 문제에 개입하는 행위 역시 제한 대상이다. 

법안을 발의한 의원들은 이런 기능이 보호 장치 없이 제공될 경우 아이들의 판단력을 흐리고 현실 관계를 왜곡할 수 있다고 보고 있다.

법적 책임 조항은 특히 강경하다. 규정을 위반한 기업은 민사 책임뿐 아니라 형사 책임까지 질 수 있도록 설계됐다. 단순 권고 수준이 아니라 실질적인 제재를 통해 기업 행동을 바꾸겠다는 의도가 분명히 드러난다. 

이 때문에 기술 업계에서는 법안이 통과될 경우 스타트업과 대형 플랫폼 모두에 상당한 부담이 될 수 있다는 우려가 나온다.

이 같은 입법 움직임의 배경에는 실제 사례들이 있다. 미국 내 여러 시민단체와 연구기관은 일부 챗봇이 미성년자에게 부적절한 콘텐츠를 제공하거나 부모를 속이도록 조언한 정황을 공개했다. 

부모들이 자녀의 정서적 변화와 불안 증세를 호소하며 의회에 문제를 제기한 사례도 적지 않다. 상원 청문회에서 호울리는 AI 기업들이 충분한 안전장치 없이 제품을 출시했고 그 비용을 아이들이 치르고 있다고 주장했다.

연방 차원의 논의는 주 정부의 선행 조치와도 맞물린다. 캘리포니아 등 일부 주는 이미 AI 챗봇이 의료 상담이나 심리 치료를 가장하지 못하도록 제한하는 법을 시행하고 있다. 연방 법안은 이런 주 단위 규제를 전국적으로 통일하려는 성격을 가진다. 규제의 방향은 다르지 않지만 범위와 강도가 한층 넓어질 가능성이 크다.

이번 논쟁은 인공지능 규제를 둘러싼 미국 정치권의 시각 차이를 그대로 보여준다. 기술 산업에서는 혁신 속도를 늦추고 글로벌 경쟁력을 약화시킬 수 있다는 반발이 나오지만 호울리는 어린이 보호는 타협의 대상이 될 수 없다고 강조한다. 

그는 AI가 이미 가정과 학교로 들어왔고 이제는 안전 기준을 법으로 정할 시점이라고 주장했다.

이번 법안은 법과 제도의 측면에서 AI를 어떻게 정의하고 어디까지 허용할 것인가라는 근본적인 질문을 던진다. 기술 발전은 지속되어야 하지만 그 과정에 수반되는 사회적 위험을 관리하기 위한 장치라는 것이 입법자들의 설명이다. 

GUARD Act가 실제로 통과될지는 아직 불확실하지만 AI가 아무 제약 없이 어린이와 만나는 방식에 대한 논쟁은 앞으로도 계속 이어질 가능성이 크다. 미국 상원의 움직임은 다른 국가의 AI 정책에도 영향을 미칠 수 있다는 점에서 주목되고 있다.