구글 어스, AI 이미지 생성 기능 하루 만에 철회…"가짜 위성사진 우려"

구글이 지도 서비스 '구글 어스'에 AI 이미지 생성 기능을 넣었다가 하루 만에 거둬들였다. 실제 위성사진 위에 존재하지 않는 건물이나 사건 장면을 쉽게 만들어낼 수 있어 허위 정보 확산에 악용될 수 있다는 지적이 쏟아진 결과다.

구글은 지난달 30일(현지시간) 구글 어스 웹 버전에 '이미지 만들기(create image)' 버튼을 추가했다. 자사 AI 이미지 생성 모델인 '나노 바나나2(Nano Banana 2)'를 활용한 기능으로 이용자가 문장을 입력하면 위성·항공·3차원(3D) 지도 화면 위에 그 내용을 그림으로 얹어준다. 

구글은 빈 공터에 들어설 공원의 모습을 미리 그려보거나 100년 전 도시 풍경을 재현하는 등 교육·건설·부동산 분야에서 유용하게 쓸 수 있다고 소개했다. 회사는 공식 블로그에서 "상상력을 마음껏 펼쳐보라"고 홍보했다.

하지만 문제는 이 도구가 사실상 어떤 장면이든 만들어낼 수 있다는 데 있었다. 구글 어스는 언론인과 연구자, 인권단체가 사진이나 영상 속 사건이 실제로 어디에서 벌어졌는지 확인할 때 신뢰하고 참고하는 대표적 자료다. 이런 도구에 가짜 이미지를 만들어내는 기능을 붙이면서 조작된 장면이 신뢰받는 지리 정보와 뒤섞일 수 있다는 우려가 나왔다.

기능이 공개되자마자 검증에 나선 이들은 곧바로 위험성을 드러냈다. 정보기술(IT) 매체 '404 미디어'는 로스앤젤레스(LA)의 한 지역에 노숙인 텐트촌을 그려 넣고 다른 지역에는 폭발로 생긴 구덩이를 만들어냈다. 시골 지역에 고층 빌딩을 세우거나 구글 본사 건물 앞에 시위대를 배치하는 것도 가능했다. 

조사보도 매체 '디지털 디깅'의 헨크 판 에스는 멕시코 국경 부근의 난민, 이란의 원자력 발전소, 암스테르담의 항공기 추락 사고, 가자지구 병원 인근의 폭탄 구덩이 등을 만들어냈다. 그는 이런 문장들 가운데 어느 것도 시스템에 걸러지지 않았다고 전했다.

미국기업연구소(AEI)의 위성사진 분석가 브래디 애프릭은 이 기능이 그럴듯한 가짜 위성사진을 손쉽게 만들어 온라인에서 빠르게 퍼뜨리고 대중을 오도하기 쉽게 만든다고 지적했다. 조사보도 단체 벨링캣의 연구자 제이크 고딘도 이미 가짜 이미지를 만드는 일이 어렵지 않았지만 이 기능이 그 과정을 더 간편하게 만들어 확산을 부추길 것이라고 우려했다.

구글은 처음에는 안전장치가 있다고 해명했다. 해로운 주제의 이미지는 만들지 못하도록 막고 있으며 생성된 모든 이미지에는 'SynthID'라는 디지털 워터마크를 넣는다는 것이다. 

SynthID는 사람 눈에는 보이지 않게 이미지 안에 심어두는 표식으로 나중에 제미나이(Gemini) 앱이나 검색의 렌즈(Lens) 기능으로 확인하면 그 이미지가 AI로 만들어진 것인지 판별할 수 있다.

문제는 이 표식이 실제 상황에서 잘 작동하지 않는다는 점이었다. 워터마크는 보는 사람이 직접 확인 절차를 거쳐야만 의미가 있는데, 조작된 이미지가 사건 현장 사진처럼 소셜미디어에 퍼질 때 그 진위를 일일이 확인하는 사람은 드물다. 영국 BBC 검증팀(BBC 베리파이)의 실험에서는 이 워터마크가 일부 경우 우회될 수 있다는 사실도 확인됐다. 

눈에 보이는 형태로 표시되는 제미나이 워터마크 역시 이미지 일부를 잘라내면 쉽게 없앨 수 있었다.

비판이 거세지자 구글은 다음 날인 31일 기능을 철회했다. 회사는 사람들이 세상을 있는 그대로 보기 위해 구글 어스를 신뢰한다는 점을 알고 있다면서 지리정보 전문가들이 유용하게 쓰는 사례도 있었지만 정책을 위반한 것으로 보이는 생성 이미지가 공유되는 사례도 확인돼 더 강력한 안전장치를 마련할 때까지 기능을 되돌린다고 밝혔다. 

구글은 생성된 이미지가 다른 이용자에게 보이는 구글 어스 기본 화면에는 나타나지 않았고 AI 생성물임을 알리는 표시가 붙어 있었다는 점도 함께 설명했다.

구글은 나노 바나나2 모델 자체는 제미나이 앱과 검색, 영상 도구 등 다른 서비스에서 계속 제공한다. 구글 어스에 이 기능을 다시 넣을지, 언제 넣을지에 대한 일정은 밝히지 않았다.

(썸네일 사진 출처: 구글 리서치 공식 유튜브)