AI 도입 속 ‘균형’ 강조한 라티스 CEO…사람의 감독이 더 중요해질 것

AI 기술이 기업 운영 전반으로 빠르게 확산되는 가운데, 미국 HR 소프트웨어 기업 라티스(Lattice)의 최고경영자 사라 프랭클린이 AI 활용 과정에서 인간의 감독과 책임이 필수적이라는 입장을 공개적으로 밝혔다. 

프랭클린은 6월 6일 영국 런던에서 열린 SXSW 런던 행사와 이후 진행된 인터뷰에서 AI를 조직에 도입할 때 가장 중요한 기준으로 ‘균형(balance)’을 반복적으로 언급했다. 라티스는 직원 성과 관리와 평가를 지원하는 소프트웨어를 제공하는 기업으로, 공동 창업자는 잭 올트먼이며 기업 가치는 약 30억 달러로 평가된다.

프랭클린은 AI를 통해 대규모 인력 감축이 가능하다는 주장에 대해 단기적인 비용 절감 효과는 있을 수 있으나 고객과 시장의 신뢰 측면에서는 매력적인 선택이 아닐 수 있다고 설명했다. 

기업이 AI를 통해 인건비를 줄이는 데만 집중할 경우 고객은 해당 기업이 제공하는 서비스나 의사결정 과정이 신뢰 가능한지에 대해 의문을 가질 수 있다는 판단이다. 그는 기업이 AI를 도입할 때 AI 자체의 성공을 우선할 것인지, 아니면 사람과 고객의 성공을 우선할 것인지 스스로 질문해야 한다고 말했다.

프랭클린은 신뢰를 스타트업과 기업 운영에서 가장 중요한 자산으로 규정했다. 효율성은 AI 도입의 분명한 장점이지만, 효율을 얻기 위해 신뢰를 희생해서는 안 된다는 점을 강조했다. 

여기서 신뢰란 AI가 어떤 역할을 수행하고 어떤 기준으로 판단했는지, 그 결과에 대해 누가 책임을 지는지를 구성원과 고객이 이해할 수 있는 상태를 의미한다.

그는 AI 활용에서 투명성, 책임성, 설명 가능성이 반드시 확보돼야 한다고 밝혔다. 기업은 직원들에게 AI가 어떤 데이터를 활용하고 어떤 업무를 수행하는지 명확히 알려야 하며 AI는 특정 목적에 한정해 적용돼야 한다는 것이다. 

범용적으로 모든 판단을 AI에 맡기는 구조는 조직 내 통제력을 약화시킬 수 있다. AI의 결과로 발생하는 영향에 대해서는 최종적으로 인간이 책임을 져야 한다는 점도 분명히 했다.

프랭클린은 인간의 감독이 사라질 경우, 사람이 AI의 결정을 따르는 구조로 전도될 수 있다고 경고했다. 이는 AI가 조직 내 의사결정의 주체가 되는 상황을 의미하며 이 경우 오류나 부작용이 발생했을 때 책임 소재가 불분명해질 가능성이 커진다고 설명했다. 

이러한 문제를 방지하기 위해 그는 기존 조직이 가지고 있던 승인 절차와 검토 체계, 책임 구조를 AI에도 동일하게 적용해야 한다고 주장했다.

라티스가 최근 공개한 제품 전략 역시 이러한 인식과 연관되어 있다. 회사는 직원 데이터를 기반으로 선제적인 인사이트를 제공하고 1대1 미팅을 지원하는 AI 기반 HR 에이전트를 구축했다고 밝혔다. 

이 에이전트는 직원의 업무 패턴이나 피드백 데이터를 분석해 번아웃이나 이직 가능성과 관련된 신호를 포착하고, 관리자가 직원과의 면담을 준비하는 데 필요한 정보를 제공하는 역할을 수행한다. 또한 라티스는 고객사가 자체 업무 환경에 맞춰 맞춤형 AI 에이전트를 만들 수 있는 플랫폼도 함께 제공하고 있다.

프랭클린은 이러한 AI 기능들이 사람을 대체하기 위한 수단이 아니라, HR 담당자와 관리자가 반복적이고 행정적인 업무에서 벗어나 사람과의 소통과 판단에 더 많은 시간을 쓰도록 돕기 위한 것이라고 설명했다. 

다만 이 같은 AI 기능이 인사 평가, 보상, 승진, 조직 관리처럼 개인의 경력과 직결된 영역에 적용되는 만큼 인간의 감독이 빠질 경우 법적 분쟁이나 평판 리스크로 이어질 수 있다.

그는 AI 기술을 도입하는 기업이 명확한 가드레일을 설정해야 한다고 말했다. AI가 어떤 업무까지 수행할 수 있는지, 어떤 단계에서 인간의 검토와 승인이 필요한지, 문제가 발생했을 때 누가 책임을 지는지를 사전에 정의해야 한다는 취지다. 

이러한 구조가 마련되지 않으면 조직은 의사결정의 통제력을 상실할 수 있으며, 결과적으로 직원과 고객 모두에게 부정적인 영향을 줄 수 있다.

프랭클린의 관점에 따르면 AI 도입 경쟁에서 최종적으로 성과를 내는 기업은 기술 자체보다 사람을 중심에 두는 방식을 선택한 기업이 될 것이다. 그는 인간의 연결과 상호작용은 AI로 대체될 수 없는 영역이며 이를 이해하고 운영 구조에 반영하는 기업이 이번 AI 확산 국면에서 살아남을 가능성이 높다고 밝혔다.