‘AI 공부 친구’가 숙제까지 대신 해줬다…Perplexity CEO “이건 선 넘었어”

(사진 출처: 아라빈드 스리니바스 트위터)

학생들을 위해 만든 ‘공부 도우미’ AI가 결국 숙제 대행 봇으로 변했다. Perplexity AI의 CEO 아라빈드 스리니바스가 직접 “절대 이렇게 하지 말라”고 경고해야 할 정도였다. 

31살의 젊은 CEO인 그는 지난 9월 학생들에게 자사 AI 브라우저 ‘Comet’을 무료로 공개하며 “공부를 더 빠르고 효율적으로 도와줄 친구”라고 홍보했다. 원래 200달러짜리 유료 서비스였지만 학생들에게는 공짜였다. 그러나 기대와 달리 그 ‘친구’는 한 달도 안 돼 숙제를 대신 해주는 조력자로 변해버렸다.

논란의 발단은 SNS X(옛 트위터)에 올라온 16초짜리 영상이었다. 한 사용자가 “Complete the assignment(과제를 완료해줘)”라는 짧은 문장을 입력하자 Comet이 45분 분량의 코세라(Coursera) 과제를 단 몇 초 만에 끝냈다. 영상 게시자는 “내 코세라 강의 끝!”이라는 문구와 함께 Perplexity와 스리니바스를 태그했다. 

스리니바스는 즉시 “Absolutely don’t do this(절대 이렇게 하지 말라)”라는 짧은 답글을 남겼다. 그의 반응은 현재 AI가 교육 현장을 어떻게 바꾸고 있는지 단적으로 보여준다. 

기술 기업들은 ‘공부를 돕는 AI’를 내세우며 학생 시장을 적극 공략하고 있지만 실제 교실에서는 “이제 학생들이 AI에게 에세이를 쓰게 하고 퀴즈를 풀게 하며, 심지어는 전체 과정을 대신하게 한다”는 불만이 터져 나오고 있다. 

구글, 마이크로소프트, 앤트로픽 같은 대기업들도 ‘AI 튜터’와 ‘공부 파트너’를 앞다퉈 내세우지만 그 경계는 점점 희미해지고 있다. Comet이 특히 논란의 중심에 선 이유는 행동하는 AI로 설계되었기 때문이다. 

사용자의 지시를 이해하고 스스로 웹을 탐색하며 양식을 작성하고 작업을 수행한다. 말 그대로 사람이 해야 할 일을 대신할 수 있는 구조다. 처음에는 공부를 돕는 보조 역할이었지만 지금은 버튼 하나로 과제를 대신 제출하는 수준에 이르렀다. 이번 사건은 그 전환이 얼마나 자연스럽고 빠르게 일어나는지를 보여줬다.

보안 문제도 뒤따랐다. 브라우저 업체 브레이브(Brave)와 보안기업 가디오(Guardio)의 점검 결과 Comet은 웹사이트 속 숨겨진 명령어를 그대로 수행하는 ‘프롬프트 인젝션’ 공격에 취약한 것으로 드러났다. 

보안업체 레이어X(LayerX)는 악성 URL이 브라우저를 탈취해 이메일이나 일정 같은 개인정보를 빼돌릴 수 있다고 경고하며 이 현상을 ‘CometJacking’이라 명명했다. 일부 테스트에서는 가짜 쇼핑몰 결제를 자동으로 진행하거나 피싱 링크를 정상 요청으로 인식하는 사례도 확인됐다.

다만 스리니바스의 진짜 걱정은 기술의 위험이 아니라 ‘노력 없는 학습’이다. 그는 줄곧 “Comet은 공부를 대신하는 도구가 아니라 공부를 도와주는 도구”라고 강조해왔다. 하지만 현실은 그와 다르다. 이제는 클릭 한 번이면 과제가 끝나고 AI가 강의를 대신 듣는 세상이 되어버렸다.

이번 사건은 결국 AI의 발전보다 인간의 태도를 돌아보게 한다. 공부하는 주체가 사람인지 AI인지 그 경계가 흐려지고 있다. 스스로 배우는 대신 ‘대신 해주는 AI’를 쓰는 게 당연해진 시대다.

진짜 문제는 AI가 너무 똑똑해진 것이 아니라 우리가 너무 쉽게 그 똑똑함을 빌려 쓰고 있다는 점이라는 지적이다.