AGI 도달까지 얼마나 남았나? 기준부터 흔들리는 인공지능 최종 단계 논쟁

AI가 인간 수준의 범용 지능, 이른바 AGI에 도달했는지를 어떻게 판단할 것인가를 둘러싼 논쟁이 있다. 현재는 AGI의 정의와 측정 기준 자체가 아직 합의되지 않았다. 그렇다면 AGI “달성 선언”이 가능하려면 먼저 무엇을 달성으로 볼 것인가.

현재 대형 언어모델은 수학 문제 풀이, 코딩, 논리 추론 등 여러 영역에서 인간 상위권과 경쟁하거나 일부 영역에서는 앞서는 성과를 보이고 있다. 그러나 이는 특정 벤치마크, 즉 미리 정해진 시험 문제 집합에서의 성적이다. 

시험을 잘 본다는 것이 곧 인간과 같은 일반 지능을 갖췄다는 의미는 아니다. 인간은 새로운 환경과 전혀 다른 문제 상황에서도 기존 경험을 응용해 대응하지만 모델은 학습 데이터와 유사한 분포 안에서 더 안정적으로 작동하는 경향이 있기 때문이다.

대표적으로 언급되는 ARC-AGI 테스트는 단순 암기가 아니라 추상적 규칙을 파악하는 능력을 요구하는 문제 세트다. 이 시험은 데이터 양을 늘리는 방식이 아니라 추론 능력을 측정하려는 시도라는 점에서 주목받았다. 

그러나 이 역시 완전한 기준으로 보기 어렵다. 문제 유형이 공개되고 반복 학습이 가능해질 경우 모델은 패턴을 학습해 점수를 끌어올릴 수 있다. 시험이 존재하는 한 시험에 맞춰 최적화하는 전략이 지속적으로 등장하는 것을 생각하면 쉽다.

과거 AI의 진보를 판단하는 대표적 기준으로 거론되던 튜링 테스트도 비슷한 한계를 안고 있다. 사람이 대화 상대가 인간인지 기계인지 구별하지 못하면 지능을 인정한다는 개념이지만 실제로는 설득력 있는 문장 생성 능력을 평가하는 시험에 가까웠다. 

오늘날의 생성형 모델은 자연스러운 문장을 만들어내는 데 이미 뛰어난 성능을 보이고 있다. 그러나 이는 언어적 표현 능력의 향상이지, 세계를 이해하고 스스로 목표를 설정하는 일반 지능과는 다른 차원이다.

AI 기술 연구자들은 AGI의 정의 자체가 모호하다는 점을 핵심 문제로 제시했다. 일부 연구자들은 인간이 수행하는 대부분의 인지 과제를 평균 수준 이상으로 수행하면 AGI로 볼 수 있다고 주장한다. 

반면 다른 진영은 자율적 목표 설정, 장기 계획 수립, 환경 변화에 대한 적응력까지 갖춰야 한다고 본다. 어느 쪽을 채택하느냐에 따라 “도달” 시점은 크게 달라질 수 있다.

또 다른 쟁점은 벤치마크의 지속 가능성이다. 모델 성능이 빠르게 개선되면서 기존 평가 지표는 수개월 만에 포화 상태에 이른다. 연구 커뮤니티는 더 어려운 시험을 만들고, 모델은 다시 그 시험을 통과한다. 이 과정이 반복되면서 지표는 계속 상향 조정되지만 그 상승이 진정한 일반 지능의 진보를 의미하는지에 대한 의문은 남는다. 

점수는 오르지만 이해 수준이 본질적으로 확장됐는지는 분명하지 않다는 지적이다.

산업계의 이해관계도 복잡하게 얽혀 있다. 모델을 개발하는 기업은 기술적 도약을 강조할 유인이 있다. “AGI에 근접했다”는 표현은 투자와 인재 확보에 유리하게 작용한다. 

그러나 학계에서는 성급한 선언이 연구 방향을 왜곡할 수 있다고 본다. 아직 해결되지 않은 안전성 문제와 한계를 충분히 검증하지 않은 채 ‘완성’에 가까운 이미지가 확산될 경우 정책 결정과 규제 논의에도 영향을 줄 수 있기 때문이다.

실제 모델들은 여전히 일관성 문제를 드러낸다. 복잡한 추론 문제에서는 높은 정확도를 보이다가도 맥락이 조금만 달라지면 오류를 내는 사례가 보고된다. 자신감 있는 어조로 틀린 답을 제시하는 환각 현상도 완전히 해소되지 않았다. 이는 통계적 패턴 학습이 인간의 개념적 이해와 동일하지 않다는 점을 보여주는 사례로 인용된다.

일부 연구자들은 AGI를 단일 시험으로 정의하려는 시도 자체가 무의미할 수 있다고 본다. 인간 지능도 단일 점수로 환원하기 어렵듯 범용 지능 역시 다양한 능력의 조합으로 이해해야 한다는 주장이다. 

기억력, 추론, 창의성, 사회적 이해, 물리적 환경에 대한 직관 등 여러 요소가 결합된 복합적 체계라는 설명이다. 이 경우 AGI의 도달 여부는 이분법이 아니라 연속선상에서 평가될 가능성이 크다. 

이 기준을 세우는 일은 기술적 문제이면서 동시에 아주 많은 시간과 자원이 들어가는 정치적, 경제적 판단이기도 하다.

결국 핵심은 측정이다. 무엇을 어떤 조건에서, 얼마나 지속적으로 수행해야 인간 수준의 범용 지능으로 볼 것인지에 대한 합의가 필요하다. 우리가 AGI를 보게 된다면 그것이 정말 AGI인지 알아볼 수 있을 준비가 되어 있을까? 지금의 상황은 기술이 빠르게 전진하는 속도에 비해 판단 기준은 여전히 정교하게 다듬어지지 않은 상태에 가깝다.