"보안은 나중에"가 부른 청구서 폭탄...AI 시대, 구글도 헤매는 중

기업들이 AI 도입에 속도를 내면서 보안을 뒷전에 두는 관행이 한계에 부딪히고 있다. 구글클라우드 최고운영책임자(COO) 프란시스 드 수자가 최근 미국 로스앤젤레스의 한 행사장에서 이러한 문제를 직접 언급했지만 정작 구글 자신도 잇따른 보안 사고로 곤욕을 치르고 있다.

드 수자는 "AI 전략은 데이터 전략과 보안 전략 없이 성립할 수 없다"며 보안을 사후 조치로 미루거나 직원 개인에게 맡겨두는 방식은 더는 통하지 않는다고 강조했다. 그는 특히 회사 승인 없이 직원이 챗GPT 같은 소비자용 AI 도구를 업무에 끌어다 쓰는 '섀도(그림자) AI' 문제를 지적했다. 

보안업체 미메캐스트가 올해 4월 발표한 '인적 위험 보고서 2026'에 따르면 기업의 80%가 생성형 AI를 통한 데이터 유출을 우려하지만 60%는 별다른 대응 전략조차 마련하지 못한 것으로 나타났다.

드 수자가 더 큰 위협으로 꼽은 것은 사내를 돌아다니는 AI 에이전트, 즉 사람이 일일이 지시하지 않아도 스스로 자료를 찾고 작업을 수행하는 자동화 프로그램이다. 그는 오랫동안 방치된 마이크로소프트 셰어포인트 서버처럼 존재 자체가 잊혀진 데이터 저장소를 AI 에이전트가 찾아내 외부에 노출시킬 수 있다고 경고했다. 

실제로 클라우드 보안 연합(CSA)이 지난달 발표한 조사에서 기업 65%가 최근 1년 사이 AI 에이전트로 인한 보안 사고를 한 차례 이상 겪었고 이 중 61%가 데이터 노출이었다.

공격 속도도 가팔라졌다. 구글 산하 보안기업 맨디언트가 3월 펴낸 '엠트렌드(M-Trends) 2026' 보고서를 보면 침해 발생부터 다음 단계 공격으로 넘어가기까지 걸린 시간이 2022년 평균 8시간에서 지난해 22초로 줄었다. 

드 수자는 사람의 손으로는 따라잡을 수 없는 속도라며 AI가 주도하고 사람이 감독하는 '에이전틱 방어' 체계가 필요하다고 했다. 구글이 3월 클라우드 보안업체 와이즈를 320억달러에 인수한 것도 이 흐름과 연관이 있다.

문제는 이런 조언을 내놓는 구글 자신이 같은 문제로 비판받고 있다는 점이다. 영국 IT 매체 더 레지스터는 최근 수주에 걸쳐 구글클라우드 이용자들이 본인 의사와 무관하게 수만달러대 청구서를 받은 사례를 보도하고 있다. 발단은 보안업체 트러플시큐리티가 2월 25일 공개한 보고서다. 

구글이 지도 서비스 등에 쓰이도록 공개적으로 노출해도 된다고 안내해온 API 키, 즉 외부 서비스 접근 권한을 식별하는 문자열이 별도 고지 없이 생성형 AI 제미나이까지 호출할 수 있도록 권한이 확장된 것이다. 트러플시큐리티는 일반에 노출된 채로 살아있는 키 2863개를 확인했고 이 중에는 구글 자사 웹사이트에 쓰인 키도 포함됐다.

피해는 곧바로 현실이 됐다. 면접 준비 플랫폼 프렌터스의 최고경영자(CEO) 로드 다난은 평소 월 50달러 안팎이던 구글 청구서가 3000달러, 5000달러로 연달아 늘어 30분 만에 1만138달러까지 뛰었다고 더 레지스터에 밝혔다. 

한 번도 써본 적 없는 비오3 영상 생성과 제미나이 이미지 출력에서 발생한 비용이었다. 호주 시드니의 개발자 이수루 폰세카는 250달러 한도를 걸어뒀는데도 1만7000호주달러가 청구됐다. 

구글의 자동화 시스템이 계정 사용 이력을 근거로 한도를 본인 동의 없이 최대 10만달러까지 상향한 결과였다. 구글은 보도 이후 두 사람에게 환불을 해줬지만 자동 한도 상향 정책 자체는 바꾸지 않겠다는 입장이다. 서비스 중단을 막는 것이 이용자가 설정한 예산 제한보다 우선이라는 이유에서다.

키를 즉시 삭제하더라도 안전을 장담하기 어렵다. 벨기에 보안업체 아이키도가 5월 21일 공개한 연구 결과에 따르면 구글 API 키는 삭제 후에도 최장 23분간 인증이 계속 통과됐다. 

10회 시험에서 평균 16분, 짧을 때도 8분이 걸렸다. 분 단위로 인증 성공률이 들쭉날쭉해 어떤 순간에는 90% 넘는 요청이 그대로 처리됐다. 연구를 진행한 조 리언은 이 시간 동안 공격자가 제미나이에 올라온 파일과 캐시에 저장된 대화 내용을 빼낼 수 있다고 설명했다. 

그는 구글의 다른 자격 증명 방식, 가령 서비스 계정 인증은 약 5초, 'AQ'로 시작하는 새 제미나이 키는 1분 안에 폐기가 완료된다는 점을 들어 23분이라는 시간은 기술적 한계가 아닌 정책적 선택이라고 지적했다. 아이키도가 이 문제를 구글에 보고했지만 구글은 '수정하지 않음'으로 처리하고 의도된 동작이라는 입장을 밝혔다.

링크드인 최고정보보안책임자(CISO) 리아 키스너는 뉴욕타임스 인터뷰에서 AI가 만들어내는 취약점을 처리할 사람이 절대적으로 부족하다고 했다. 그는 업계가 AI 보안을 지속 가능한 방식으로 이해하기까지 최소 수년이 더 걸릴 것으로 본다고 덧붙였다.