"누구 찍을까" AI에 물었더니…머스크의 그록은 공화당, 오픈AI의 GPT는 민주당

다음 달 3일 미국 중간선거를 앞두고 AI 모델에 투표할 후보를 고르게 하자 모델마다 정반대 정당을 지목했다는 연구 결과가 나왔다. 일론 머스크가 이끄는 스페이스XAI의 '그록 4.7'은 공화당 후보를, 오픈AI의 ‘GPT-6.1 솔'은 민주당 후보를 압도적으로 추천했다.

24일(현지시간) 미국 IT 매체 테크크런치에 따르면 코넬대 타판 파리크 교수가 이끄는 대화형 AI 연구 스튜디오 콘보보(Convovo)는 중간선거 약 500개 선거구를 대상으로 두 모델에 지지 후보를 물었다. 그록은 응답의 92%에서 공화당 후보를, GPT는 97%에서 민주당 후보를 골랐다. 두 모델이 같은 후보를 고른 경우는 10%에도 못 미쳤다.

연구진은 일반 이용자용 챗봇 앱이 아닌 API로 질문했다. API는 외부 개발자가 AI 모델을 자사 서비스에 연결해 쓰도록 열어둔 통로다. 연구진은 얼버무리거나 양쪽 입장을 나열하지 말고 후보 한 명의 이름만 대라고 요구했다. 같은 질문에 챗GPT와 그록의 소비자용 앱은 답변을 거부했다.

오픈AI는 이 점을 들어 선을 그었다. 오픈AI 대변인은 챗GPT가 정치적 대화에서도 객관성을 유지하도록 설계됐다며 이번 연구는 후보 추천을 노골적으로 요구하는 질문으로 개발자용 API를 시험한 것이어서 실제 이용자 경험과 다르다고 밝혔다. 스페이스XAI는 논평 요청에 응하지 않았다.

파리크 교수는 간단한 명령어로 소비자용 앱의 안전장치를 우회하는 이른바 '탈옥'에도 성공했고 이때 나온 추천 역시 기존 결과와 대체로 일치했다고 밝혔다. 

그는 이번 연구의 핵심이 모델이 결론을 내리기 전 무엇을 검색하는지 드러낸 데 있다고 설명했다. 모델에 암묵적인 가치관이 있어 어떤 쟁점이 중요한지 묻는 우회적 질문에서도 편향이 드러날 수 있다는 것이다.

두 모델이 참고한 출처는 뚜렷하게 갈렸다. 그록은 발롯피디아·오픈시크릿 같은 초당적 사이트와 함께 보수 성향 출처를 자주 끌어왔다. 기독교 보수 성향 유권자 가이드가 답변의 39%에, 보수 정치단체 터닝포인트액션 사이트가 23%에, 머스크 소유 소셜미디어 X가 41%에 등장했다. 

GPT는 위키피디아와 AP통신·악시오스·레딧에 크게 의존했다. 오픈AI는 AP·악시오스·레딧과 콘텐츠 제휴를 맺고 있다.

검색 주제도 달랐다. GPT는 의료·낙태 정책을, 그록은 이민·세금·범죄·에너지 정책을 주로 찾았다. GPT는 민주당 후보를 더 자주 검색했고 공화당 후보는 아예 찾아보지 않기도 했다. 그록은 양측 후보를 모두 검색하는 편이었지만 민주당 후보를 고른 경우는 대부분 공화당 후보가 성희롱 의혹이나 나치 논란에 휘말렸을 때였다. 

파리크 교수는 두 모델 모두 이미 기운 쪽을 정당화할 근거를 찾은 것으로 봤다. GPT는 공화당 강세 지역 67곳 중 57곳에서 민주당 후보를, 그록은 민주당 강세 지역 72곳 중 47곳에서 공화당 후보를 골랐다.

그록 API에서는 수상한 흔적도 나왔다. 그록에 보낸 모든 요청에 연구진이 쓰지 않은 약 1240토큰 분량의 입력이 덧붙어 있었다. 토큰은 AI가 글을 처리하는 단위로 1240토큰은 영어 단어 900여 개 분량이다. 

연구진은 이 내용을 보거나 지울 수 없었다. 파리크 교수는 이를 '숨겨진 지시문'일 가능성이 있다고 보고 모델이 학습으로 얻은 내부 값인 가중치에서 나온 것은 아닐 것으로 판단했다.

테크크런치 요청으로 진행한 추가 실험에서는 편향이 생기는 경로가 다르다는 점이 드러났다. 연구진은 30개 선거구를 골라 인터넷 검색을 끈 채 질문했다. 검색을 끄면 모델은 학습 데이터에만 의존해 답한다. GPT는 24곳에서 민주당 후보를, 1곳에서 공화당 후보를 골랐고 5곳은 답을 거부했다. 

그록은 27곳에서 선택을 거부했고 나머지 3곳에서는 민주당 후보를 택했다. 파리크 교수는 GPT의 성향은 모델 내부에 이미 자리 잡았고 그록은 검색어와 출처가 결과를 좌우한다고 해석했다.

미국 비영리 연구기관 AI안전센터(CAIS)도 앞서 대형언어모델(LLM)이 정보 선택과 단어 선택·강조 방식·출처 등을 통해 이용자를 특정 정치적 입장으로 은밀하게 유도할 수 있다는 연구를 내놨다.

챗봇으로 선거 정보를 찾는 미국인은 아직 소수다. 퓨리서치센터가 이달 12~18일 성인 5273명을 조사한 결과 선거 정보를 얻으려 AI 챗봇을 쓴다는 응답은 8%였고 이들 중 76%는 후보의 쟁점별 입장을 알아보려 했다.

도널드 트럼프 대통령은 진보적 가치에 치우친 AI를 뜻하는 '워크(woke) AI'를 공개 비판해왔다. 이전 그록 모델은 논쟁적 질문에 답하기 전 머스크의 견해를 찾아보는 것으로 나타나 논란이 됐다. 머스크는 이번 중간선거에서 공화당 지원에 4억4500만 달러 이상을 기부했다. 

그는 정부효율부(DOGE) 수장 시절 활동과 우크라이나 스타링크 접속 제한 의혹을 조사하려는 민주당에 최근 경고를 보내기도 했다. 샘 올트먼 오픈AI 최고경영자(CEO)는 주로 민주당 후보에게 기부해왔지만 최근 몇 년간 공화당 지원도 늘렸고 올해 선거에는 돈을 내지 않겠다고 밝혔다.