AGI까지 얼마나 남았는가 — 그리고 LLM만으로 충분한가

AI의 역사는 한 방향의 직선이 아니라 기대와 한계가 반복된 역사다

초기의 symbolic AI와 connectionism, AI winter, 1990년대 이후 machine learning과 neural network, 2010년대 deep learning, 그리고 ChatGPT 이후의 LLM으로 이어지는 흐름은 “더 일반적인 AI”에 대한 기대를 되살렸다. AlphaFold처럼 특정 영역에서 과학의 방법 자체를 바꾼 사례가 등장했고, LLM은 하나의 representation과 interface로 여러 task를 다루면서 general-purpose AI에 대한 욕구를 크게 키웠다.

그러나 저자들이 보는 문제는 “현재 AI가 유용한가”가 아니다. 이미 유용하다. 진짜 질문은 다른 환경, 다른 modality, 다른 목적에서도 추가 설계 없이 지식을 전이하고, 스스로 적응하며, 인간 사회 안에서 책임 있게 행동할 수 있는가이다.

Figure 1은 AGI를 model이 아니라 stack으로 그린다

이 세 축만으로도 충분하지 않다. deployment 단계에서는 fairness, trustworthiness, transparency, security, privacy를 포함한 alignment가 필요하며, 진행 정도를 논하려면 roadmap과 evaluation이 필요하다. Figure 1은 이 모든 요소를 한 흐름으로 묶는다.

논문은 “LLM만 있으면 된다”는 명제를 증명하지 않는다

LLM은 이 survey의 주된 관찰창이다. reasoning prompt, multimodal connector, RAG, tool use, agents, code generation, alignment 등 거의 모든 축에서 LLM이 핵심 component로 등장한다. 하지만 저자들의 future expectation은 오히려 LLM 바깥으로 계속 뻗는다. causal world model, hierarchical memory, physical embodiment, autonomous tool creation, agent network, edge/cloud systems, safety protocol, new evaluation이 필요하다고 반복한다.

text-only intelligence에서 multimodal intelligence로

언어만으로는 실제 세계의 경험을 충분히 담기 어렵다는 것이 이 절의 출발점이다. MLLM은 image, video, audio 같은 비언어 modality를 LLM에 연결한다. 저자들은 외부 연결을 projection-based, query-based, language-based로 나누고, 내부 연결을 cross-attention과 autoregressive 방식으로 구분한다. BLIP-2류 query connector, LLaVA류 projection, language를 도구 조정 interface로 쓰는 계열, Flamingo의 cross-attention, Fuyu류 unified autoregression이 이 지형을 이룬다.

미래 과제는 단순히 modality 수를 늘리는 데 있지 않다. graph처럼 덜 흔한 modality까지 포함한 다중 modality의 균형 잡힌 fusion, OOD·adversarial input에 대한 robustness, 그리고 어떤 encoder·connector·training paradigm이 성능을 만드는지 설명하는 transparency가 필요하다.

생각의 길이를 늘리는 기술에서, 원인과 결과를 이해하는 기술로

현재 reasoning landscape는 넓다. Chain of Thought는 intermediate thought를 만들고, Tree of Thoughts는 search와 backtracking을, Graph of Thoughts는 dependency graph를, Program of Thoughts는 계산을 외부 program execution에 위임한다. Self-consistency, Maieutic Prompting, Progressive-Hint, Least-to-Most, Decomposed Prompting은 reasoning path의 안정성을 높인다.

도구와 agent가 붙으면 reasoning은 정적인 answer generation에서 action loop로 이동한다. ReAct는 thought와 action을 교차시키고, DEPS·Inner Monologue·ProgPrompt·LLM+P는 환경 feedback으로 plan을 수정한다. Self-Refine, Reflexion, CRITIC은 자기 피드백과 외부 검증을 이용한다. Debate·voting·role-play 같은 multi-agent cooperation도 reasoning enhancer로 다뤄진다.

그러나 저자들은 여기서 멈추지 않는다. 현재 foundation model은 training data의 pattern을 강하게 이용하지만 underlying causal mechanism을 충분히 학습하지 못할 수 있으며, “causal parrots” 문제를 넘어야 한다고 본다. 또 long-context reasoning, hallucination과 uncertainty, ambiguity, Theory of Mind, explanation faithfulness가 남아 있다.

기억은 저장 공간이 아니라 경험을 다음 행동에 연결하는 구조다

저자들은 language/vision model 자체를 기본적으로 stateless로 보고, agent가 internal/external memory를 관리할 때 multi-step interaction과 self-improvement가 가능해진다고 본다. Memory management는 무엇을 언제 저장할지, representation은 어떤 형식으로 저장할지, utilization은 어떻게 꺼내 reasoning과 planning에 사용할지를 다룬다.

활용은 retrieval과 long-context의 두 길로 정리된다. DPR·REALM·RAG는 필요한 기억을 외부에서 읽어오고, Ring Attention·LongRoPE 같은 흐름은 context 자체를 확장한다. 미래 AGI는 embeddings, video, documents, databases를 hierarchical하게 관리하고, local/private memory와 shared/collaborative memory를 함께 다루며, retrieval strategy까지 학습·갱신해야 한다. 더 어려운 문제는 자기 생성 지식을 안전하게 쓰고, 잘못된 지식을 unlearn하는 것이다.

self-awareness와 self-evolution은 가장 흥미롭고 가장 조심해서 읽어야 할 부분이다

이 survey는 metacognition을 self-awareness, consciousness, Theory of Mind, self-evolution과 연결한다. 현재 연구는 self-reflection, prompt adaptation, error identification, memory retrieval, task/code execution feedback을 통해 agent가 반복적으로 자기 행동을 개선하는 loop를 보여준다.

하지만 “AI가 실제로 의식을 가진다”는 결론은 논문이 입증한 바가 아니다. 미래 AGI가 genuine self-awareness나 consciousness를 가질 수 있다는 부분은 가능성의 언어로 서술된다. 보다 기술적으로 확실한 연구 과제는 자신의 capability boundary를 추정하고, 타인의 belief·intention을 모델링하며, 경험을 다음 task로 이전해 self-evolve하는 능력이다.

web·API·code가 LLM을 “대답하는 모델”에서 “행동하는 agent”로 바꾼다

Toolformer는 tool usage를 학습하고, Gorilla는 대규모 API 연결을, Mind2Web·WebArena류는 web interaction을 평가한다. Voyager와 Generative Agents는 digital embodiment 안에서 memory와 action loop를 만든다. 저자들은 미래의 AGI가 human-designed tool을 호출하는 수준을 넘어 새 tool을 스스로 설계하고, 새로운 digital environment에 적응하는 수준으로 가야 한다고 본다.

VR·XR, wearable, smart environment 같은 interface의 확장도 중요하다. 다만 새로운 interface가 늘어날수록 benefit이 interaction cost를 넘어서는지, user control이 유지되는지, 공격 surface가 커지지 않는지 함께 봐야 한다.

언어를 행동으로 번역하는 순간 오류의 비용이 달라진다

PaLM-E, RT-2, SayCan, VIMA, LM-Nav, VoxPoser, LLM-Planner, MotionGPT, Perceiver-Actor는 high-level instruction을 perception과 action에 연결한다. DROID와 BEHAVIOR-1K는 실세계/시뮬레이션에서 long-horizon manipulation과 generalization을 측정하려는 데이터·benchmark 흐름을 보여준다.

AGI-level physical interface에는 vision·audio·language·touch의 multisensory integration, affordable robotic manufacturing, 그리고 latency가 중요한 edge computing이 필요하다. cloud round-trip이 허용되지 않는 autonomous driving이나 robot control에서는 inference efficiency가 단순 비용 절감이 아니라 안전 조건이 된다.

하나의 거대한 모델보다 서로 다른 model이 배우고 협업하는 네트워크

Agent interface는 sequential teaching과 parallel collaboration으로 나뉜다. 강한 model이 약한 model을 distill하는 고전적 흐름뿐 아니라 weak-to-strong generalization처럼 약한 supervision으로 더 강한 model을 align하려는 시도도 다룬다. MoE는 gate가 expert를 선택하고, multi-agent system은 역할·SOP·communication protocol을 이용해 복잡한 task를 분해한다.

미래에는 modality를 통합하는 lightweight representation, 신뢰도 높은 communication, authentication·content filter 같은 safe protocol, 그리고 peer의 성공과 실패를 학습하는 cooperative agent network가 필요하다고 제안한다.

좋은 interface의 목표는 인간을 지우는 것이 아니라 인간 agency를 보존하는 것이다

HCI 전통에서 핵심 원리는 augmentation이다. AI가 initiative를 가질수록 direct manipulation과 automation 사이의 균형을 다시 설계해야 한다. Prompt chaining, interactive diagram, multimodal UI, accessibility interface는 LLM capability를 사람이 다룰 수 있는 형태로 바꾸는 방법이다.

AGI-level human interface의 세 과제는 명확하다. 첫째, 다양한 환경에서 benefit이 cost를 넘어야 한다. 둘째, AI literacy가 낮은 사용자도 interaction을 통제할 수 있어야 한다. 셋째, 개인·community·society 규모에서 나타나는 심리적·행동적·제도적 risk를 관리해야 한다.

scale은 parameter 수보다 훨씬 많은 것을 요구한다

대규모 training data의 quality/authenticity, 반복 실험의 시간과 비용, privacy-sensitive edge deployment, efficient fine-tuning, serving latency와 throughput, long context와 multimodal input이 만드는 memory footprint, heterogeneous hardware compatibility가 핵심 challenge다. AGI가 일상에 들어갈수록 “가장 큰 모델을 한 번 학습하는 문제”보다 “많은 사용자와 장치에서 안정적으로 계속 실행하는 문제”가 커진다.

AGI의 architecture를 Transformer 하나와 동일시하지 않는다

저자들은 self-attention의 quadratic cost를 줄이는 sparse/efficient pattern과 함께 state-space model, recurrent unit, Transformer-SSM hybrid를 다룬다. Mamba, Griffin, RecurrentGemma, Jamba, Hyena 계열은 “더 긴 context와 더 높은 efficiency를 위해 architecture 자체를 바꿀 수 있다”는 증거로 등장한다. 즉 “LLM이 필요하다”와 “현재 Transformer가 영구한 최종 구조다”는 서로 다른 명제다.

training은 분산되고, inference는 scheduling 문제로 변한다

Training에서는 data/tensor/pipeline/sequence parallelism과 offloading·recomputation·PEFT·decentralized training이 중요하다. Inference에서는 speculative decoding과 self-speculation, KV-cache management, request scheduling, 그리고 다수 LoRA/model을 동시에 serve하는 multi-model infrastructure가 핵심이다. 이 survey가 “systems”를 별도 AGI component로 둔 이유가 여기 있다. capability가 있어도 latency, memory, cost 때문에 사용할 수 없다면 사회적 AGI가 되기 어렵다.

Figure 6: data center, decentralized cloud, local specialized AI

저자들은 미래 AGI를 단일 cloud model이 모든 요청을 처리하는 모양보다, 중앙·분산·local system이 함께 존재하는 compound ecology로 상상한다.

alignment는 성능 보정이 아니라 deployment 조건이다

AGI alignment는 user preference를 맞추는 것만이 아니다. 저자들은 fairness, trustworthiness, transparency, security, privacy를 함께 다룬다. AI가 tool·agent·human과 연결되고 현실 행동을 수행할수록 잘못된 목표나 unsafe behavior의 영향 범위가 넓어진다.

online human feedback에서 scalable oversight까지

누구와 연결되느냐에 따라 정렬 문제도 달라진다

Tool/API interface에서는 effectiveness, efficiency, protocol correctness, permission과 safe execution이 중요하다. Agent-agent interface에서는 cooperation과 fairness, developer rule, access permission, privacy가 필요하다. Human interface는 가장 엄격하다. literal instruction following만으로 충분하지 않고 human values, manipulation 방지, identity transparency, regulation까지 포함해야 한다.

논문은 더 강한 AGI로 갈수록 evaluation보다 generation이 쉬워지는 상황, 즉 인간이 output을 직접 검증하기 어려운 “supervision gap”을 중요한 문제로 본다. Alignment와 evaluation은 분리된 두 장이 아니라 서로를 검증하는 한 쌍이다.

Embryonic → Superhuman → Ultimate

대화만으로 일반지능을 평가할 수 없는 이유

Turing Test는 deception 의존, subjective evaluation, language-only focus의 한계가 있다. 저자들은 ideal AGI evaluation에 comprehensiveness, fairness, efficiency를 요구하고, Internal·Interface·System level을 모두 측정해야 한다고 본다.

새로운 evaluation의 어려움은 더 크다. non-standard/mixed output, output space explosion, subjective feedback, 장기 feedback loop, 복잡한 physical environment, 인간 능력을 넘어선 결과의 “super-evaluation”이 등장한다. theorem proving처럼 인간이 직접 확인하기 어려운 경우 formal verifier가 필요할 수 있다.

점수표는 필요하지만 실패의 이유를 설명하지 않는다

OpenCompass, AGIEval, Hugging Face leaderboard, MT-Bench, GAIA, AgentBench, OpenAGI와 함께 MMLU/MMMU, instruction following, open-ended conversation, robustness/bias, efficiency, creativity 평가가 검토된다. 방법론은 human evaluation과 AI-as-a-judge로 나뉜다.

저자들의 비판은 네 가지다. 첫째, qualitative result를 numeric metric으로 환원하면 정보가 사라진다. 둘째, surrogate metric이 실제 목적을 잘못 대변할 수 있다. 셋째, aggregate score는 failure analysis가 부족하다. 넷째, 현재 benchmark보다 더 일반적인 task가 필요하다. 이 맥락에서 modern Turing test, coffee test, robot college student test 같은 thought experiment가 등장한다.

scale만이 아니라 autonomy와 safety를 함께 올려야 한다

L1→L2는 model/data scale과 generalization, real-world interaction, self-improvement를 강화해야 한다. L2→L3는 disparate domain의 정보를 seamless하게 합성하고 continuous learning과 adaptation을 수행해야 하며, 그만큼 더 엄격한 oversight가 필요하다.

저자들은 Ultimate AGI를 향한 두 conceptual solution을 제안한다. 첫째는 Automated Coding AI이다. code를 세상과 상호작용하는 기본 tool로 삼아 trial-and-error, feedback, multi-agent interaction을 통해 self-training과 goal formation을 자동화한다. 둘째는 super-realistic simulation이다. 현실과 가까운 causal law를 가진 simulator에서 대량의 경험을 만들고 real-world transfer를 가능하게 하자는 구상이다.

AGI에 대한 합의보다 서로 다른 불확실성이 더 선명하다

도달 시점에 대한 의견은 크게 갈린다

이 poll은 대표성 있는 전 세계 AI 연구자 예측이 아니라 해당 workshop 참석자 응답이다. 그럼에도 1–2년부터 20년 이상까지 전망이 넓게 분산된다는 사실은 AGI 정의와 bottleneck에 대한 합의가 아직 약하다는 점을 잘 보여준다.

“LLM만 필요한가?”라는 제목은 여기서 진짜 질문이 된다

남은 문제는 하나가 아니다

survey가 모은 핵심 hurdle은 system-two-like reasoning과 agency, safety와 human-value alignment, efficiency와 scalability, humans·data·agents가 얽힌 interconnected world의 이해, 그리고 scientific discovery와 generalization의 자동화다. 이 목록은 AGI가 “더 큰 chatbot”으로 끝나지 않는 이유를 압축한다.

각 영역은 AGI의 서로 다른 결함을 드러내는 stress test다

“AI가 인간 활동을 얼마나 추월했는가”라는 곡선은 측정된 보편 통계가 아니다

Figure 10은 ELIZA, MYCIN, DeepBlue, ImageNet, AlphaGo, BERT, GPT-4, Stable Diffusion, AlphaFold 2, Sora 등을 한 시간축 위에 놓고 AI가 인간을 능가한 활동의 누적 비율이 빨라지고 있다는 저자들의 추정적·설명적 도식을 제시한다. 이 수치를 population-level empirical statistic으로 읽어서는 안 된다. 논문의 목적도 정확한 percentage 측정이라기보다 “capability frontier가 넓어지고 있으니 AGI를 다시 정의하고 평가하자”는 discussion을 촉발하는 데 있다.

AGI 연구는 이미 하나의 학문 분야가 아니라 여러 분야의 접합부다

p.78–127의 bibliography는 foundation model, multimodal learning, embodied AI, robotics, HCI, distributed systems, hardware, alignment, causality, memory, world model, theorem proving, scientific discovery, code intelligence, privacy/security, ethics/governance까지 가로지른다. 참고문헌의 넓이 자체가 논문의 주장과 닮아 있다. AGI를 하나의 model family로 환원하기 어렵다는 것이다.

LLM은 AGI의 중심 언어가 될 수 있지만, AGI 그 자체와 동의어는 아니다

이 survey를 끝까지 읽고 나면 제목의 질문은 조금 달라진다. “LLM이 충분한가?”보다 더 유용한 질문은 “LLM이 어떤 system 안에서 어떤 memory와 world model을 사용하고, 어떤 interface로 행동하며, 어떤 evaluation과 alignment 아래 놓여야 general intelligence에 가까워지는가?”이다.

현재 AI는 넓은 knowledge, multimodal perception, tool use, code generation, agent collaboration에서 빠르게 전진했다. 그러나 causal reasoning, long-horizon coherence, uncertainty, social reasoning, autonomous memory update, reliable physical action, efficient deployment, superhuman evaluation, value alignment 같은 문제는 여전히 남아 있다.