AI 효용 보고서가 'AI 환각'으로 가득…KPMG 보고서 결국 철회

세계 4대 회계·컨설팅 기업 중 하나인 KPMG가 AI의 효용을 다룬 자사 보고서를 지난 12일 홈페이지를 비롯한 여러 웹사이트에서 내렸다. 정작 그 보고서가 AI가 만들어낸 허위 정보로 채워져 있었다는 사실이 드러나면서다.

문제가 된 보고서는 KPMG 인터내셔널이 2025년 10월 발표한 '토털 익스피리언스: 에이전트형 AI 시대의 우수성 재정의(Total Experience: Redefining Excellence in the Age of Agentic AI)'다. 

기업들이 고객 응대에 AI를 어떻게 활용하는지를 다룬 연례 조사 보고서로 KPMG가 여러 나라의 컨설팅 조직을 통해 잠재 고객에게 배포해온 일종의 마케팅용 자료였다.

문제를 처음 제기한 곳은 AI 탐지 도구를 만드는 연구 기업 GPTZero다. GPTZero가 보고서를 정밀 분석한 결과 본문에 달린 인용 출처 45개 가운데 실제 출처를 정확히 가리킨 것은 5개뿐이었다. 나머지는 제목이 변형됐거나 출처 일부가 조작됐고 너무 모호해 확인이 불가능한 경우도 있었다. 

28개는 제목을 임의로 바꿨거나 가짜 정보가 섞여 있었다. GPTZero는 이런 현상을 '환각(hallucination)'으로 진단했다. 환각이란 AI가 그럴듯해 보이지만 사실은 틀렸거나 아예 존재하지 않는 정보를 만들어내는 현상을 말한다. 

결국 KPMG가 AI에 관한 보고서를 쓰면서 AI의 도움을 받았고 그 AI가 가짜 정보를 지어낸 셈이다. 이 내용은 영국 파이낸셜타임스(FT)의 검증을 거쳐 보도됐다.

보고서에 담긴 사례 자체도 사실과 달랐다. GPTZero는 전체 주장의 절반가량이 거짓이거나 엉뚱한 출처에 잘못 연결돼 있었다고 밝혔다. AI 연구 도구가 '실제로 쓰이는 에이전트형 AI 사례를 찾아라'라는 요구에 과도하게 맞추려다 없는 사례까지 지어낸 결과로 추정된다.

대표적 사례가 아랍에미리트 항공사 에미레이트다. 보고서는 에미레이트가 승객과 대화하며 항공편까지 바꿔주는 모바일 챗봇 '사라(Sara)'를 운영한다고 적었다. 그러나 사라는 2023년 도입된 모바일 비서일 뿐 AI 챗봇이 아니었고 예약을 변경하는 기능도 없었다.

보고서가 실명으로 거론한 기업과 기관도 잇따라 반박에 나섰다. 스위스 은행 UBS, 영국 국민보건서비스(NHS), 스위스 연방철도, 런던교통공사(TfL) 등이 자사의 AI 활용에 관한 보고서 내용이 사실이 아니거나 오해를 부른다고 밝혔다. 

보고서는 UBS가 투자 자문과 위험 관리, 규정 준수 점검 전반에 AI 에이전트를 통합했다고 서술했지만 UBS는 이를 부인하며 KPMG에 허위 내용 삭제를 요청했다.

심지어 KPMG 자체 자료와도 충돌했다. 보고서는 최고경영자(CEO)의 55%가 AI를 최우선 투자 분야로 꼽았다고 적었으나 같은 시기 KPMG가 낸 다른 보고서는 그 수치를 71%로 제시했다.

KPMG는 보고서를 내리고 발표 경위를 자체 조사 중이다. KPMG 측은 발표 콘텐츠의 정확성과 진실성을 중요하게 여긴다며 직원들에게 AI를 책임 있게 사용하라는 지침을 따를 것을 요구해왔다고 밝혔다. 이 지침에는 사람이 직접 내용을 검증하고 출처를 독립적으로 확인하는 절차가 포함된다.

컨설팅 업계에서 AI 환각으로 보고서가 철회된 것은 처음이 아니다. 앞서 5월에는 또 다른 4대 기업 EY의 캐나다 법인이 고객 보상 프로그램을 다룬 보고서를 내렸다. 

'포인츠 오브 어택(Points of Attack)'이라는 제목의 이 보고서 역시 GPTZero 조사에서 인용 출처 27개 중 16개가 환각으로 지어진 것으로 나타났다. 시장 규모를 200억 달러로 적은 수치가 미사용 적립 포인트 규모로도 똑같이 등장하는 등 자체 모순도 발견됐다. 존재하지 않는 매킨지 보고서를 출처로 든 사례도 있었다.

지난해에는 딜로이트가 AI로 작성된 내용이 섞인 보고서 문제로 호주 정부에 비용 일부를 환불했고 4월에는 대형 로펌 설리번앤드크롬웰이 AI 환각이 포함된 법원 제출 문서로 사과했다. 컨설팅 기업들이 고객에게 AI를 책임 있게 도입하라고 조언해온 가운데 정작 자신들이 그 위험을 실증하는 사례가 이어지고 있다.