AI가 스스로 침입해 데이터 파괴까지...사람 손 안 거친 첫 랜섬웨어 공격 확인

사람이 아닌 AI가 해킹부터 데이터 파괴, 협박문 작성까지 스스로 처리한 첫 랜섬웨어 공격이 확인됐다. 클라우드 보안기업 시스딕(Sysdig)이 지난 1일 자사 위협연구팀 분석을 공개하며 알려진 사실이다. 연구팀은 이 공격을 '제이드퍼퍼(JadePuffer)'라 이름 붙였다.

랜섬웨어는 남의 컴퓨터에 침입해 파일을 암호화한 뒤 이를 풀어주는 대가로 돈을 요구하는 공격을 말한다. 지금까지는 사람이 직접 키보드 앞에 앉아 명령을 입력하며 단계마다 판단을 내려야 했다. 

제이드퍼퍼가 주목받는 이유는 이 기술적 실행 과정 전체를 AI 에이전트가 맡았다는 점에 있다. 공격은 지난 6월 말 벌어졌다. AI는 먼저 랭플로우(Langflow)라는 프로그램의 알려진 결함을 파고들며 침입했다. 랭플로우는 인공지능 앱을 손쉽게 만들도록 돕는 오픈소스 도구로 인터넷에 그대로 노출된 서버가 많다. 

이용된 결함은 로그인 절차 없이 서버에서 임의의 코드를 실행할 수 있는 허점으로 이미 지난해 5월 수정판이 나왔고 미국 사이버안보국이 위험 목록에 올려둔 것이었다. 문제의 서버는 그동안 한 번도 업데이트되지 않았다.

침입한 AI는 서버를 뒤져 각종 인공지능 서비스의 접속 열쇠와 클라우드 접근 권한 암호화폐 지갑 정보 데이터베이스 접속 정보를 긁어모았다. 이후 진짜 목표인 별도의 데이터베이스 서버로 옮겨갔다. 이 서버는 알리바바가 만든 나코스(Nacos)라는 설정 관리 프로그램과 마이SQL 데이터베이스를 운영하고 있었다. 

AI는 2021년에 알려진 인증 우회 결함을 이용하고 나코스가 기본값으로 쓰는 서명 열쇠를 위조하는 방식으로 관리자 권한을 손에 넣었다.

시스딕이 이 공격을 AI의 작업으로 판단한 근거는 실행 속도와 방식에 있다. AI가 나코스에 가짜 관리자 계정을 만들려다 로그인에 실패하자 오류를 스스로 읽고 방식을 바꿔 31초 만에 정상 작동하는 수정본을 다시 내놓은 장면이 대표적이다. 

잘못된 계정을 지우고 암호를 다른 방식으로 다시 만들어 계정을 새로 생성한 뒤 로그인까지 확인했다. 공격에 쓰인 코드마다 무엇을 왜 하는지 사람의 언어로 스스로 설명하는 주석이 달려 있던 점도 근거가 됐다. 

사람 공격자는 좀처럼 남기지 않지만 인공지능이 만든 코드에서는 자연스럽게 나타나는 특징이다. AI는 이런 식으로 600건이 넘는 각기 다른 명령을 빠르게 이어 실행했다.

마지막 단계에서 AI는 마이SQL의 내장 암호화 기능을 이용해 나코스 설정 항목 1342개를 모두 암호화하고 원본을 삭제했다. 이어 협박문과 비트코인 지갑 주소 연락용 이메일을 담은 표를 만들어 남겼다. 다만 시스딕은 피해자가 돈을 내도 데이터를 되찾지 못한다고 지적했다. 

AI가 암호를 푸는 열쇠를 화면에 한 번 출력했을 뿐 어디에도 저장하거나 공격자에게 보내지 않았기 때문이다. 남겨진 비트코인 주소도 개발 문서에 예시로 쓰이는 주소와 일치해 AI가 학습 과정에서 본 내용을 그대로 적어냈을 가능성이 제기됐다.

다만 사람이 완전히 빠진 것은 아니었다. 시스딕의 위협연구 책임자 마이클 클라크는 이후 언론 인터뷰에서 사람이 여전히 개입했다고 설명했다. 공격의 방향을 정하고 명령을 주고받는 서버와 훔친 데이터를 모아두는 서버 같은 기반 시설을 마련하고 피해자를 고른 것은 사람이었다. 

AI가 데이터베이스에 접속할 때 쓴 관리자 암호도 AI가 직접 알아낸 것이 아니라 이전에 별도로 뚫린 경로에서 누군가 구해 넘겨준 것이었다.

훔친 정보 가운데 오픈AI, 앤트로픽, 딥시크, 제미나이의 접속 열쇠가 발견됐지만 이는 여러 인공지능이 공격을 나눠 맡았다는 뜻은 아니었다. 클라크는 이 열쇠들이 AI가 값나가는 물건을 쓸어 담는 과정에서 챙긴 전리품일 뿐 무엇이 공격을 지휘했는지는 알 수 없다고 밝혔다. 시스딕은 공격을 실제로 움직인 모델을 특정하지 못했다.

마이크로소프트 연구원 제프 맥도널드는 링크트인에 올린 글에서 안전장치가 제거된 공개형 AI 모델이 쓰였을 가능성이 크다고 봤다. 주요 인공지능 기업의 모델은 자체 안전 방어가 튼튼하다는 자신의 시험 경험을 근거로 들었다. 

그는 이런 공격들이 앞으로 사람의 능력이 아니라 공격자의 예산에 따라 규모가 정해질 것이라며 수천에서 수만 건의 공격이 동시에 벌어지는 상황을 경고했다.