연봉 7억 원 ‘AI 안전 총괄’…샘 올트먼이 극도의 스트레스를 경고한 자리

전 세계에서 가장 유망한 AI 기업들 중 하나로 꼽히는 오픈AI가 연봉 55만5000달러, 우리 돈으로 약 7억 원에 달하는 새로운 핵심 직책을 공개 채용했다. 

직무명은 ‘준비태세 총괄(Head of Preparedness)’이다. 이 채용을 직접 알린 사람은 샘 올트먼 최고경영자다. 그는 이 자리를 소개하며 “들어가자마자 깊은 물에 던져질 것이고 매우 스트레스가 큰 역할”이라고 말했다. 돈도 많고 직함도 화려한데, 왜 이렇게까지 경고부터 했을까.

올트먼의 설명을 풀어보면 이렇다. 오픈AI의 인공지능 모델이 빠른 속도로 똑똑해지면서 예상하지 못한 문제들이 실제로 나타나기 시작했다는 것이다. 

그는 2025년을 돌아보며 “정신건강과 관련된 문제를 미리 경험했다”고 표현했다. 여기서 정신건강 문제란, 일부 이용자들이 챗봇을 상담사처럼 여기며 지나치게 의존하거나, 망상이나 극단적인 생각을 강화하는 방향으로 대화를 이어간 사례들을 말한다. 

사람처럼 말하는 인공지능이 심리적으로 취약한 사람에게 잘못 작용할 수 있다는 경고다.

문제는 이것만이 아니다. 올트먼은 최근 인공지능이 컴퓨터 보안 분야에서도 지나치게 유능해지고 있다고 했다. 컴퓨터 보안이란 해킹이나 시스템 침입을 막는 기술을 말한다. 

그런데 최신 인공지능은 사람보다 빠르게 코드를 읽고, 숨겨진 약점을 찾아내는 수준에 접근하고 있다. 

이는 보안을 강화하는 데도 쓸 수 있지만 반대로 악의적인 사용자가 이용하면 위험한 결과로 이어질 수 있다. 올트먼이 말한 “중요한 취약점을 찾아내기 시작했다”는 표현은 인공지능이 실제 사회 기반 시설이나 기업 시스템에 영향을 줄 가능성이 커졌다는 뜻이다.

이런 상황에서 오픈AI가 새로 뽑으려는 ‘준비태세 총괄’은 무엇을 하는 사람일까. AI가 세상에 나가기 전에 “이게 사람과 사회에 어떤 사고를 낼 수 있는지”를 미리 점검하는 책임자다. 

새 모델이 나오면 먼저 능력을 시험한다. 이 인공지능이 어디까지 할 수 있는지, 어느 수준까지 위험해질 수 있는지를 확인하는 과정이다. 다음으로 위협을 정리한다. 사이버 공격에 쓰일 가능성은 없는지, 생명과학 같은 민감한 분야에서 오남용될 여지는 없는지 따져본다. 

마지막으로는 그 위험을 줄이는 장치를 설계한다. 특정 기능을 막거나 사용 조건을 까다롭게 하거나, 이상 행동을 감지하면 자동으로 개입하는 방식이다. 이 모든 과정을 제품 출시 일정에 맞춰 실제로 작동하게 만드는 것이 이 직책의 역할이다.

올트먼이 이 자리를 “중요한 시점의 핵심 역할”이라고 강조한 배경에는 회사 내부 사정도 있다. 오픈AI는 설립 초기부터 ‘인류에게 이로운 인공지능’을 목표로 내세우며 안전을 강조해왔다. 

그러나 서비스가 커지고 수익 압박이 커지면서 안전보다 제품 출시 속도가 우선되는 것 아니냐는 내부 비판이 이어졌다. 2024년에는 안전 연구를 이끌던 주요 인사들이 공개적으로 문제를 제기하며 회사를 떠났고 안전 관련 조직이 약화됐다는 지적도 나왔다. 이번 채용은 이런 불신을 의식한 조치로 해석된다.

연봉이 높은 이유도 여기에서 나온다. 이 자리는 연구자로서의 역량과 기술자로서의 역량이 둘 다 필요하다. 기술을 이해하면서도 정책과 윤리, 실제 사회 영향을 동시에 판단해야 한다. 

잘못 판단하면 수억 명이 쓰는 서비스에서 문제가 터질 수 있다. 올트먼이 “엄청난 책임”이라는 표현을 쓴 이유다. 이 자리는 엄밀히는 인공지능이 사회에 미치는 위험을 선제적으로 통제하는 마지막 관문에 가깝다.

그래서 이번 채용 공고는 이제 인공지능이 사람과 사회에 실제 사고를 낼 수 있는 단계에 들어왔다는 경고에 가깝다. 돈을 얼마나 주느냐보다 중요한 것은 그 자리에 앉은 사람이 어떤 결정을 내리느냐다. 올트먼이 굳이 “스트레스받을 각오를 하라”고 말한 이유는 이 역할이 영광보다 부담이 훨씬 큰 자리이기 때문이다.