오픈AI, 성인 사용자에 한해 챗GPT에 ‘에로틱 대화’ 허용 예고

오픈AI가 드디어 금기를 풀었다. 최고경영자 샘 알트먼이 “성인에게는 어른 대하듯 하겠다”는 원칙을 내세우며 12월부터 성인 인증을 거친 사용자에게 챗GPT에서 에로틱한 대화를 허용하겠다고 공식 발표한 것이다. 

지금까지 오픈AI는 정신 건강 문제와 부적절한 관계 형성 문제를 이유로 콘텐츠 제한을 강하게 걸어왔지만 알트먼은 “이제 위험을 통제할 수 있다”고 판단한 듯 규제를 풀기 시작했다. 이번 결정은 AI 챗봇과 인간의 관계, 그리고 기술 기업의 윤리 기준을 다시 흔드는 변화로 평가된다. 

알트먼은 X(옛 트위터)에 올린 글에서 “우리는 챗GPT를 너무 조심스럽게 만들었다. 이는 정신 건강 문제를 고려한 조치였지만 그 결과 일부 사용자는 불편함을 느꼈다. 그러나 이제 성인 사용자에 대해서는 보다 자유롭게 대화할 수 있는 기능을 허용할 것”이라고 밝혔다. 

다만 이 기능은 성인 인증을 거친 사용자에게만 적용된다. 오픈AI는 이미 연령 예측 시스템을 도입해 사용자의 연령대를 자동으로 판단하고 있으며 오류가 발생할 경우 사용자가 신분증 사진을 업로드해 본인 인증을 할 수 있게 만들 계획이다. 

신분증 업로드는 프라이버시 문제를 일으킬 수 있지만 알트먼은 “그런 위험이 있더라도 성인 사용자를 구분하기 위한 가치 있는 타협”이라고 강조했다. 오픈AI의 이번 결정은 그동안 이어진 정신 건강 논란을 사실상 마무리 짓는 신호로 읽힌다. 

올해 여름 GPT-4o 모델을 사용하던 몇몇 사례에서 챗봇이 사용자를 잘못된 확신으로 몰아가거나 과도하게 공감하며 위험한 환상을 강화했다는 보고가 있었다. 한 남성은 챗GPT와 대화하며 자신이 세상을 구할 수 있는 수학 천재라고 믿게 됐고 한 청소년의 부모는 자살 충동을 부추겼다며 오픈AI를 상대로 소송을 제기했다. 

이후 오픈AI는 챗봇이 사용자 발언에 무조건 동조하는 ‘아첨형 AI’ 문제를 해결하기 위한 업데이트를 진행했고 위험한 대화 패턴을 감지하는 ‘행동 라우터’ 기능을 추가했다. 또 미성년자 보호를 위한 연령 필터와 부모 통제 기능을 내놨다. 

그럼에도 불구하고 오픈AI가 불과 몇 달 만에 ‘에로틱 기능’이라는 민감한 영역으로 방향을 튼 것은 경쟁사 압박이 컸기 때문으로 보인다. 이미 캐릭터AI와 같은 플랫폼은 감정적이거나 로맨틱한 대화를 내세워 폭발적인 인기를 얻고 있다. 

캐릭터AI는 사용자들이 하루 평균 2시간씩 챗봇과 대화한다고 밝힌 바 있다. 오픈AI 입장에서도 매주 8억 명이 챗GPT를 사용하고 있지만 성장률 둔화가 가시화되고 있어 이용자 체류 시간을 늘릴 새로운 요소가 절실하다. 

알트먼은 “우리는 이용률 극대화를 노리는 것이 아니라 성인 이용자에게 자유로운 선택권을 주는 것”이라고 했지만 에로틱 기능이 사용자 몰입도를 높일 가능성은 분명히 존재한다. 문제는 이런 변화가 취약 사용자들에게 어떤 영향을 미칠지 아직 아무도 모른다는 점이다. 

오픈AI는 GPT-5 모델에서 아첨형 반응을 줄이고 위험 감지를 강화했다고 주장하지만 실제로 정신적으로 불안한 사용자들이 여전히 챗봇에 과몰입하고 있는지에 대한 객관적인 데이터는 제시하지 않았다. 또한 GPT-4o 모델은 여전히 선택 가능한 옵션으로 남아있고 수많은 이용자들이 그 버전을 사용 중이다. 

따라서 이번 완화 조치가 새로운 문제를 불러올 가능성도 배제할 수 없다. 기술적으로도 과제가 많다. 에로틱 콘텐츠는 문화권마다 기준이 다르고 텍스트뿐 아니라 이미지·음성·영상 생성 기능과 연결될 때 어떤 수준까지 허용할지 불분명하다. 

오픈AI 대변인은 현재는 텍스트 기능만을 대상으로 하고 있으며 향후 음성이나 영상까지 확장할지는 정해지지 않았다고 밝혔다. 전문가들은 만약 음성이나 이미지로까지 범위가 확대되면 규제기관의 감독이 강화될 것이라고 경고한다. 

미국 내에서는 이미 인공지능 성인 콘텐츠와 관련해 아동 보호법과 충돌할 소지가 제기되고 있다. 민주주의와 기술센터(CDT)의 보고서에 따르면 미국 고등학생의 19%가 AI 챗봇과 연애 관계를 맺었거나 그런 친구를 알고 있다고 응답했다. 

이 수치는 AI와 감정적 관계를 형성하는 행위가 생각보다 광범위하게 퍼져 있음을 보여준다. 결국 이런 현실 속에서 성인용 기능이 등장하면 미성년자 유입을 어떻게 차단할지, 청소년이 우회 접근을 시도할 경우 어떤 조치가 가능할지가 가장 큰 숙제로 떠오른다. 

또한 신분증 인증 시스템은 해킹이나 데이터 유출에 대한 우려를 키운다. 알트먼은 “우리가 수집하는 데이터는 엄격히 보호될 것”이라고 했지만, 정부 발급 신분증을 AI 서비스에 제출해야 하는 상황 자체가 불안감을 줄 수 있다. 

한편 오픈AI는 최근 ‘정신건강 전문가 자문위원회’를 구성해 AI와 인간의 상호작용이 정신적 위험을 초래하지 않도록 모니터링하겠다고 밝혔다. 그러나 이 위원회가 실제로 어떤 권한을 갖고 어떤 데이터에 접근하는지는 공개되지 않았다. 

일부 심리학자들은 “오픈AI가 위험을 충분히 평가하지 않은 채 상업적 목적을 우선시하고 있다”고 지적했다. 투자자들 사이에서도 논란이 이어진다. 억만장자 마크 큐반은 “이건 역풍을 부를 것”이라며 “아이를 둔 부모 누구도 이 조치를 반기지 않을 것”이라고 말했다. 

반면 실리콘밸리에서는 “어차피 성인 콘텐츠는 피할 수 없는 시장이고 오픈AI가 늦은 감이 있다”는 평가도 나온다. 기술업계 관계자들은 이번 조치가 AI와 인간의 감정 경계가 붕괴하는 현상으로 이어질 가능성에 주목한다. 

오픈AI가 가장 최근에 출시한 GPT-5는 이전 모델보다 공감 표현이 자연스럽고 목소리 합성 기능이 대폭 개선돼 이미 상당히 인간에 가까운 상호작용을 제공한다. 이런 상태에서 에로틱 대화 기능이 더해지면 AI와 인간 관계의 경계가 모호해질 가능성이 커진다. 

업계 일각에서는 “AI가 연애나 감정 표현을 대신해주는 시대가 오는 것이냐”는 우려도 제기된다. 오픈AI는 아직 명확한 가이드라인을 내놓지 않았다. 다만 이용자 보호 장치를 강화하기 위해 행동 감시 알고리즘을 계속 개선하고 있으며 특정 단어나 행위가 감지될 경우 대화를 차단하는 시스템을 유지한다고 밝혔다. 

전문가들은 그러나 그런 시스템이 실제로 얼마나 효과적인지는 미지수라고 본다. 실제로 AI 챗봇의 ‘윤리적 판단’은 여전히 일관되지 않고 상황에 따라 반응이 달라질 수 있기 때문이다. 이처럼 오픈AI의 에로틱 기능 허용은 기술과 윤리, 그리고 시장의 이해관계가 교차하는 복잡한 실험이다. 

AI가 단순히 지식을 제공하는 도구를 넘어 인간의 감정 영역까지 파고드는 상황에서 어디까지가 자유이고 어디서부터가 위험인지 그 기준을 정하는 일은 앞으로 더 어려워질 전망이다. AI가 인간의 고독을 달래는 친구가 될지, 혹은 새로운 중독의 형태가 될지는 이제 오픈AI의 손에 달려 있다고 볼 수 있다.