Review Note
검토·교정 메모
논문의 “최신성”과 “검증 수준”을 분리했다
이전 설명의 큰 방향은 유지된다. 다만 이 분야는 2026년 들어 peer‑reviewed 논문과 arXiv 최신 프리프린트가 매우 빠르게 뒤섞였다. 이 문서에서는 ACL·EACL·IJCAI·ICLR·KR·PMLR 등 공식 학술대회 논문에는 Peer‑reviewed, 아직 arXiv 단계인 연구에는 Preprint를 표시했다. 특히 SymAgent, NS‑Mem, NeuroSymActive, ontology‑grounded KG correction, NeSyFS, temporal KG memory 연구는 최신성이 높지만 출판 상태는 정식 학술대회 논문과 구별해야 한다.
수치 주장도 원문 기준으로 다시 확인했다. BioProAgent는 BioProBench에서 95.6% physical compliance를 보고하며 ReAct의 21.0%와 비교한다. CLAUSE는 MetaQA‑2‑hop에서 GraphRAG 대비 +39.3 EM@1, 18.6% 낮은 latency, 40.9% 낮은 edge growth를 보고한다. DACL 기반 법률 시스템은 고빈도 workflow에서 compute cost를 90% 이상 줄였다고 보고한다. 이 수치는 모두 해당 논문의 실험설정 안에서 해석해야 하며, 일반적인 우월성의 보편 법칙으로 읽으면 안 된다. [12][9][13]
01 · Definition
정의: 두 종류의 지능을 섞는 일이 아니라, 서로 다른 계산을 조직하는 일
Neuro‑Symbolic AI를 “신경망과 논리의 결합”이라고만 정의하면 맞지만 충분하지 않다. 2025년 IJCAI survey가 정리하듯 최근의 핵심 설계공간은 Symbolic→LLM, LLM→Symbolic, LLM+Symbolic으로 나뉜다. 중요한 것은 무엇을 먼저 하느냐보다, 어떤 종류의 판단을 어느 계산체계에 맡기느냐다. [1]
Neuro‑Symbolic AI
= Learning / Generalization
+ Explicit Representation
+ Logical / Structured Reasoning
Neural component는 언어·영상·센서처럼 모호하고 잡음이 많은 입력에서 패턴을 찾는다. Symbolic component는 명시적 사실, 타입, 규칙, 제약, 상태를 받아 일관된 연산을 수행한다. 전자는 “그럴듯한 가능성”에 강하고, 후자는 “주어진 규칙 아래 반드시 성립해야 하는 것”에 강하다.
LLM + KG가 모두 강한 의미의 NeSy는 아니다
| 수준 | 구조 | 의미 |
|---|---|---|
| Weak NeSy | KG → text → LLM | KG가 컨텍스트 공급자에 머문다. |
| Executable NeSy | LLM → symbolic query → KG/solver | 기호 엔진이 실제 계산을 수행한다. |
| Verified NeSy | LLM proposal → symbolic verification | 규칙·제약·솔버가 잘못된 후보를 거부한다. |
| Agentic NeSy | Multi‑agent + KG + rules + verifier + memory | 탐색·추론·검증·갱신이 폐루프를 이룬다. |
LLM 기반 Neuro‑Symbolic Agent
Aᵢ = (Mᵢ, Sᵢ, Kᵢ, Tᵢ, πᵢ)
Mᵢ : LLM / neural model
Sᵢ : symbolic state
Kᵢ : KG / rules / ontology
Tᵢ : tools / graph engine / solver
πᵢ : action & reasoning policy
KG‑Agent는 LLM, multifunctional toolbox, KG executor, knowledge memory를 반복적으로 연결해 도구 선택과 메모리 갱신을 자율화한다. SymAgent는 KG를 정적 저장소가 아니라 동적으로 상호작용하는 reasoning environment로 본다. Multi‑Agent 단계에서는 여러 agent가 하나의 symbolic world state 또는 belief state를 공유하고 서로 다른 연산자처럼 움직인다. ACL 2026의 Leibniz가 Evolution Agent와 Reduction Agent를 분리한 방식이 대표적이다. [3][2][10]
02 · Problem Definition
문제정의: 모호한 세계를 이해하면서도, 행동은 명시적 규칙 아래 묶을 수 있는가
불완전하고 비정형적인 관찰을 LLM이 해석하게 하되, 결과를 symbols·KG·rules·constraints에 grounding하고,
여러 agent가 검증 가능한 방식으로 계획·추론·행동하게 만들 수 있는가.
문제는 “LLM이 정답을 맞히는가”로 끝나지 않는다. 입력을 잘못 formalize하면 완벽한 theorem prover도 틀린 결론을 낸다. 반대로 자연어 해석은 정확해도 실행 규칙을 지키지 못하면 물리 환경에서는 사고가 된다.
zₜ = fθ(Q, Oₜ) # neural grounding
Sₜ = Γ(zₜ, Gₜ, Rₜ) # symbolic state
aₜ = π𝒜(Sₜ, Gₜ, Rₜ) # agent decision
V(Sₜ, aₜ, C) ∈ {true, false} # symbolic verification
false → Repair → Replan → Verify
핵심 변화.
목표함수는 단순한 answer accuracy가 아니라
faithfulness, constraint satisfaction, traceability, hallucination risk, latency, cost를 함께 최적화하는 형태로 변한다.
BioProAgent가 확률적 LLM 계획을 deterministic FSM으로 감싸고 Design–Verify–Rectify workflow를 강제한 것은 이 변화를 압축해서 보여준다.
[12]
03 · Core Concepts
핵심 개념: 언어를 기호로 바꾸고, 기호를 실행하고, 실행 결과를 다시 지식으로 돌려놓는다
01
Symbol Grounding
“A를 B보다 먼저 처리한다”는 문장을 그대로 저장하는 것과 Before(A,B)라는 predicate로 만드는 것은 다르다.
후자는 검사하고 조합하고 실행할 수 있다. NeSy의 첫 관문은 자연어를 executable semantics로 바꾸는 일이다.
Leibniz 역시 rule semantic grounding과 rule application을 핵심 병목으로 본다.
[10]
02
Autoformalization
LLM이 자연어를 FOL, SAT/SMT, ASP, PDDL, SPARQL, SQL, program, KG triple로 바꾸는 과정이다. EACL 2026의 adaptive solver composition은 문제에 필요한 formal reasoning paradigm을 LLM이 예측하고 적절한 solver를 조합한다. 해당 연구에서 formal strategy prediction은 90%가 넘는 정확도를 보고한다. [11]
Question → Formalization → Solver → Proof / Result
03
Knowledge Graph as Symbolic Substrate
KG는 외부 사실 저장소에 그치지 않는다. entity, relation, type, constraint가 명시되므로 외부화된 symbolic state가 된다. SymAgent는 KG에서 implicit rule을 유도하고, 부족한 정보는 외부 문서에서 보완하며, missing triple을 찾아 KG update 후보까지 만든다. [2]
KG = Knowledge Store + Reasoning Space + World State + Memory
04
Neural Induction + Symbolic Deduction
Neural model은 사례에서 패턴을 끌어내는 induction에 강하다. Symbolic engine은 facts와 rules에서 결론을 도출하는 deduction에 강하다. 실제 자율 시스템에는 빠진 원인을 가정하는 abduction까지 필요하다. 그래서 최근 NeSy는 Induce → Formalize → Deduce → Verify의 순환을 만든다. [1]
05
Symbolic Verification
LLM은 후보를 제안하고, symbolic system은 후보가 constraints를 만족하는지 확인한다. 이 구조는 단순 “설명 가능성”보다 강하다. verifier가 실행을 중지시키거나 다시 계획하게 만들 수 있기 때문이다.
LLM proposes.
Symbolic system disposes.
06
Neuro‑Symbolic Memory
Vector memory는 의미적 유사성에는 강하지만 순서·원인·제약·절차의 정확한 deduction에는 한계가 있다. NS‑Mem은 episodic, semantic, logic rule의 3층 memory를 만들고 similarity retrieval과 deterministic symbolic query를 결합한다. 논문은 pure neural memory 대비 평균 4.35% accuracy 향상, constrained query에서 최대 12.5% 향상을 보고한다. Preprint [15]
07
Belief‑State Knowledge Graph
partial observability에서는 agent가 세계의 진짜 상태를 모두 볼 수 없다. NeSyFS는 KG를 “현재 agent가 세계에 대해 믿고 있는 상태”로 사용하고 fast‑thinking과 slow‑thinking을 전환한다. KG가 지식베이스에서 cognitive state로 이동한 셈이다. Preprint [18]
04 · Introduction
2025에서 2026으로: “LLM을 보강하는 논리”에서 “에이전트 구조를 이루는 논리”로
2025 · Symbolic reasoning을 LLM 밖으로 꺼내기 시작하다
IJCAI survey는 NeSy‑LLM 설계공간을 체계화했다. KG‑Agent는 KG executor와 memory를 agent loop에 넣었고, RefKG는 reflective KG exploration과 evidence refinement를, Metagent‑P는 planner·verifier·controller·reflector로 구성된 neuro‑symbolic planning architecture를 제안했다. KnowAgent는 action knowledge를 planning 과정에 삽입했다. [1][3] [4][5][6]
2025 · KG reasoning이 neural-symbolic hybrid로 정교해지다
NS‑KGQA는 neural KG embedding과 symbolic decomposition/resolution을 묶었고, JARVIS는 embodied agent에서 LLM 기반 언어 이해·subgoal 생성과 symbolic commonsense/action reasoning을 분리했다. [7][8]
05 · Motivation & Background
동기와 배경: 모델이 커진다고 규칙이 생기는 것은 아니다
A
Pure Neural AI의 빈틈
LLM은 fuzzy language understanding, pattern discovery, induction, generalization에 강하다. 하지만 exact constraint satisfaction, stable multi‑hop deduction, persistent state, formal guarantee에서는 구조적 약점을 드러낸다. “말을 잘한다”와 “규칙을 정확히 계산한다”는 같은 능력이 아니다.
B
Pure Symbolic AI의 빈틈
Symbolic system은 명시적 규칙 아래에서는 강하지만 현실의 언어·영상·센서는 정제된 predicate로 들어오지 않는다. 세계는 먼저 해석되어야 한다. JARVIS는 이 문제를 LLM의 semantic understanding과 symbolic action reasoning의 분업으로 푼다. [8]
왜 Knowledge Graph인가
KG는 자연어보다 엄밀하고 고전 논리식보다 현실의 entity와 relation을 다루기 쉽다. 그래서 neural perception과 symbolic reasoning 사이의 중간 언어가 된다.
Unstructured World ──LLM──▶ Knowledge Graph ──Rules / Solver──▶ Decision
왜 Multi‑Agent인가
extraction, induction, planning, deduction, verification, execution을 한 agent에 몰아넣으면 어디서 오류가 생겼는지 분리하기 어렵다. Multi‑Agent NeSy는 각 기능을 독립된 epistemic role로 떼어내고 Proposal → Critique → Proof → Action의 검증 사슬을 만든다. 2026년 연구의 중요한 진전은 이 역할 분담을 단순 대화가 아니라 **논리적 기능 분해**로 만들기 시작했다는 점이다. [10][9]
06 · Challenges
도전과제: 틀린 기호는 틀린 문장보다 더 위험하다
1. Symbol Grounding
자연어→predicate 변환이 틀리면 solver가 정확할수록 오히려 잘못된 결론을 확신 있게 실행한다.
2. Representation Brittleness
작은 type·predicate 오류가 전체 추론을 깨뜨릴 수 있다. symbolic representation은 명료한 대신 관용성이 낮다.
3. Incomplete KG
KG에 사실이 없다는 것은 그 사실이 거짓이라는 뜻이 아니다. open‑world assumption 아래에서 deduction과 external evidence retrieval을 함께 다뤄야 한다.
4. KG Construction Error
LLM이 만든 잘못된 triple이 graph에 들어가면 이후 symbolic reasoning이 그 오류를 확대한다. ontology‑grounded post‑correction이 필요한 이유다. [17]
5. Combinatorial Explosion
branching factor b, depth d인 탐색은 대략 bᵈ로 커진다. CLAUSE는 무엇을 확장하고 언제 멈출지를 learned policy로 바꾼다. [9]
6. Joint Optimization
neural network의 continuous optimization과 symbolic operation의 discrete nature를 한 학습 루프에 넣기 어렵다. differentiable logic과 symbolic feedback이 주요 해법이다.
7. Multi‑Agent Conflict
A₁은 P를, A₂는 ¬P를 주장할 수 있다. 다수결은 proof가 아니다. KR 2026은 이 문제에 formal semantics를 부여한다. [14]
8. Partial Observability
관찰 oₜ는 실제 상태 sₜ와 다르다. 따라서 history가 아니라 belief state를 관리하는 구조가 필요하다. NeSyFS는 KG를 그 상태로 쓴다. [18]
9. Temporal Knowledge
사실은 시간에 따라 바뀐다. memory system은 무엇을 기억할지뿐 아니라 무엇을 잊고 갱신할지도 결정해야 한다. [19]
10. Safe Physical Execution
텍스트 QA의 오류와 로봇·wet‑lab의 오류는 비용 구조가 다르다. 물리행동 앞에는 deterministic safety envelope가 필요하다. [12]
07 · Research Questions
연구질문: 이제 “정답을 생성하는가”보다 “정답의 구조를 보증하는가”가 중요하다
Symbol grounding 자체를 누가 검증하는가?
자연어→symbol 변환 Γ가 틀렸음을 알아내는 meta‑verification이 필요하다.
자연어→symbol 변환 Γ가 틀렸음을 알아내는 meta‑verification이 필요하다.
Neural과 Symbolic 중 누가 reasoning control을 갖는가?
Symbolic→LLM, LLM→Symbolic, bidirectional 구조를 task 특성에 따라 어떻게 선택할 것인가.
Symbolic→LLM, LLM→Symbolic, bidirectional 구조를 task 특성에 따라 어떻게 선택할 것인가.
KG를 retrieval source가 아니라 world model로 만들 수 있는가?
KGₜ ≃ Belief(Stateₜ)라는 관점이 partial observability에서 얼마나 확장 가능한가.
KGₜ ≃ Belief(Stateₜ)라는 관점이 partial observability에서 얼마나 확장 가능한가.
Incomplete KG에서 deduction과 abduction을 어떻게 결합하는가?
없는 사실을 단순 false로 처리하지 않고 hypothesis→external evidence→update로 이어야 한다.
없는 사실을 단순 false로 처리하지 않고 hypothesis→external evidence→update로 이어야 한다.
어떤 solver를 언제 선택할 것인가?
π(q) ∈ {SAT, SMT, FOL, ASP, KG, SQL, PDDL, Python}인 solver‑routing problem으로 볼 수 있다.
π(q) ∈ {SAT, SMT, FOL, ASP, KG, SQL, PDDL, Python}인 solver‑routing problem으로 볼 수 있다.
Multi‑Agent belief conflict를 어떻게 해결하는가?
majority vote, proof priority, confidence weighting, evidence provenance 중 무엇이 바람직한가.
majority vote, proof priority, confidence weighting, evidence provenance 중 무엇이 바람직한가.
KG traversal을 learned policy로 만들 수 있는가?
expand, follow, backtrack, stop을 query별로 최적화하고 latency·token budget까지 제약할 수 있는가.
expand, follow, backtrack, stop을 query별로 최적화하고 latency·token budget까지 제약할 수 있는가.
Boolean correctness와 probabilistic uncertainty를 함께 표현할 수 있는가?
truth value, confidence, contradiction, provenance를 하나의 symbolic state에 넣는 방법이 필요하다.
truth value, confidence, contradiction, provenance를 하나의 symbolic state에 넣는 방법이 필요하다.
Symbolic verifier를 training signal로 사용할 수 있는가?
proof validity나 constraint satisfaction을 reward로 삼아 neural policy를 학습할 수 있다.
proof validity나 constraint satisfaction을 reward로 삼아 neural policy를 학습할 수 있다.
Proof‑carrying agent를 어떻게 만드는가?
최종 output이 Answer + Evidence + Rules + Proof + Provenance를 포함하도록 설계할 수 있는가.
최종 output이 Answer + Evidence + Rules + Proof + Provenance를 포함하도록 설계할 수 있는가.
08 · Approaches / Methods
방법론: 한 가지 만능 구조보다, 실패 지점을 분리하는 설계가 강하다
Symbolic → LLM
METHOD AKG·rules를 context 또는 constraint로 주입한다. RefKG는 KG exploration, evidence refinement, knowledge reconstruction을 분리해 단순 prompt injection보다 적극적인 graph interaction을 만든다. [4]
LLM → Symbolic Solver
METHOD BLLM은 언어 이해와 formalization을 담당하고 실제 계산은 formal solver가 수행한다. EACL 2026은 reasoning paradigm을 동적으로 고르는 solver composition을 제시한다. [11]
Natural Language ──LLM──▶ Formal Program ──Solver──▶ Verified Result
Agentic KG Reasoning
METHOD CKG‑Agent는 LLM + toolbox + KG executor + memory를 반복 연결한다. reasoning이 일회성 생성이 아니라 Think→QueryGraph→Observe→UpdateMemory의 loop가 된다. [3]
Neural Rule Induction + Symbolic Execution
METHOD DSymAgent는 LLM의 induction으로 KG에서 symbolic rule을 뽑고 planner와 executor가 이를 사용한다. online exploration과 offline policy update를 결합한 self‑learning도 포함한다. [2]
Multi‑Agent Bidirectional Reasoning
METHOD ELeibniz는 Evolution Agent와 Reduction Agent를 공유 belief state 양쪽에 둔다. 전자는 목표에 유용한 명제를 안정화하고 후자는 목표에서 역으로 premise와 conflict를 정리한다. [10]
Multi‑Agent Graph Context Engineering
METHOD FCLAUSE는 Subgraph Architect, Path Navigator, Context Curator를 LC‑MAPPO로 공동 최적화한다. 탐색 범위, reasoning path, evidence retention, stop timing을 accuracy–latency–cost 제약 아래 묶는다. [9]
Differentiable Neuro‑Symbolic Reasoning
METHOD GNeuroSymActive는 soft‑unification, neural path evaluator, Monte‑Carlo‑style active exploration을 결합한다. discrete logic과 continuous learning 사이에 soft scoring을 두는 전형적 접근이다. Preprint [16]
Neuro‑Symbolic Memory
METHOD HNS‑Mem은 episodic + semantic + logic‑rule memory를 구성하고 neural similarity와 deterministic symbolic query를 함께 쓴다. 장기적으로는 temporal, provenance memory가 결합될 가능성이 크다. Preprint [15]
Deterministic Safety Envelope
METHOD IBioProAgent는 LLM planner와 physical execution 사이에 FSM safety layer를 넣는다. 확률적 지능을 결정론적 안전 외피로 감싸는 architecture pattern이다. [12]
Compile Once, Execute Many
METHOD JDACL 기반 법률 시스템은 계약서를 LLM으로 한 번 typed graph IR에 compile하고, 반복 adjudication은 deterministic engine으로 수행한다. 저자들은 이를 Amortized Intelligence라 부른다. [13]
Interpret once → symbolic artifact → deterministic execution many times
09 · Key Applications
주요 응용: 사실을 말하는 AI보다, 상태를 바꾸는 AI에서 더 필요하다
KG Question Answering
KG‑Agent, SymAgent, NS‑KGQA, RefKG, CLAUSE가 multi‑hop graph reasoning과 context selection을 다룬다.
Open‑World Planning
Metagent‑P는 planning, verification, control, reflection을 결합해 Minecraft 계열 long‑horizon task를 다룬다.
Embodied AI
JARVIS는 perception·semantic map·LLM subgoal·symbolic action reasoning을 분리해 embodied task를 수행한다.
Scientific / Wet‑Lab
BioProAgent처럼 physical constraint와 hardware state가 직접 안전성 조건이 되는 영역에서 NeSy는 verifier가 아니라 execution gate가 된다.
Legal / Regulatory
DACL은 법률 조항을 typed graph로 compile해 audit 가능한 deterministic execution을 수행한다.
Long‑Term Agents
NS‑Mem과 temporal KG memory는 기억을 vector similarity가 아니라 관계·규칙·시간·망각 정책까지 포함한 구조로 확장한다.
10 · Open Problems
미해결 문제: 더 좋은 논리보다, 더 좋은 경계면이 필요하다
Grounding Bottleneck
가장 근본적인 병목은 theorem prover가 아니라 자연어와 symbol의 경계일 가능성이 크다. 완벽한 solver도 잘못 번역된 premise를 구할 수 없다.
Non‑Monotonic / Open‑World Reasoning
Unknown ≠ False
현실에서는 새로운 증거가 기존 결론을 뒤집는다. 따라서 Known, Unknown, Contradicted, Probable 같은 epistemic state를 표현해야 한다.
Probabilistic Symbolic Knowledge
미래 KG의 기본 단위는 단순 (A,R,B)보다 (A,R,B,p,t,source)에 가까워질 가능성이 크다.
confidence·temporal validity·provenance가 reasoning 대상이 되어야 한다.
Symbolic Hallucination
LLM이 잘못된 predicate나 rule을 만들고 solver가 그것을 정확히 실행하면 “완벽하게 실행된 hallucination”이 된다. 2026년 ontology‑grounded post‑extraction correction은 ontology violation을 symbolic하게 찾고 LLM correction을 선택적으로 호출한다. [17]
Dynamic Ontology
Ontologyₜ→Ontologyₜ₊₁ 변화가 기존 triple, rule, embedding, memory semantics를 깨뜨리지 않아야 한다. 이 문제는 살아 있는 지식 시스템에서 특히 어렵다.
Multi‑Agent Consensus Is Not Proof
여러 agent가 같은 답을 낸다는 사실은 진리의 증명이 아니다. 향후 consensus의 근거는 vote보다 proof, constraint, evidence, provenance가 되어야 한다. KR 2026의 formalization은 이 문제를 이론적 대상으로 끌어올린다. [14]
Continual Symbolic Memory
기억을 저장하는 문제보다 어려운 것은 무엇을 잊을지 결정하는 문제다. temporal KG meta‑policy는 remember·retrieve·forget을 adaptive symbolic operation으로 다루기 시작했다. [19]
Evaluation Decomposition
Answer Accuracy
+ Formalization Accuracy
+ Proof Validity
+ Constraint Satisfaction
+ KG Retrieval Precision
+ Agent Coordination
+ Provenance Completeness
+ Safety
+ Latency
+ Cost
최종 answer accuracy 하나만 보면 실패의 원인이 grounding인지 graph retrieval인지 formalization인지 solver인지 알 수 없다. NeSy benchmark는 오류의 위치를 분해해서 측정해야 한다.
11 · Future Directions
미래 방향: “큰 모델” 경쟁에서 “검증 가능한 인지 인프라” 경쟁으로
F1
LLM‑centric → Neuro‑Symbolic Agentic AI
LLM + tools를 넘어 LLM + KG + rules + solver + memory + verifier + agents가 하나의 cognitive architecture를 이룬다.
F2
KG → Executable World Model
KG가 facts의 모음에서 Facts + Rules + State + Actions + Constraints + Evidence로 확장된다.
F3
Proof‑Carrying Agents
Output이 Answer가 아니라 Decision + Proof + Evidence + Provenance가 된다. 법률·의료·과학·산업 자동화에서 특히 중요하다.
F4
Self‑Evolving Knowledge Graphs
Read → Reason → Detect Missing Knowledge → Acquire Evidence → Verify → Update KG의 폐루프가 만들어진다.
F5
Adaptive Solver Society
SATAgent, KGAgent, SQLAgent, PlannerAgent, TheoremAgent처럼 solver specialization이 생기고 meta‑agent가 적절한 계산체계를 고른다.
F6
Symbolic Optimization of Agent Topology
사람이 고정한 Planner→Critic 구조 대신 task별 optimal agent graph를 만들고 resource budget까지 최적화한다.
F7
Fast–Slow Neuro‑Symbolic Agents
모든 문제를 깊게 추론하지 않는다. 빠른 neural response를 먼저 쓰고 failure·uncertainty가 커질 때 slow planning으로 전환한다.
F8
Compile‑Time Intelligence
LLM inference를 매번 반복하지 않고 한 번 해석한 결과를 symbolic artifact로 고정해 저비용 deterministic execution을 반복한다.
F9
Neuro‑Symbolic Memory OS
Episodic + Semantic + KG + Rules + Temporal + Provenance memory가 계층화되고 neural retrieval과 symbolic query가 공존한다.
F10
Verification‑Aware Learning
solver가 내놓은 proof validity, constraint satisfaction, execution safety를 feedback으로 사용해 neural policy 자체를 학습한다.
Integrated Architecture
통합 제안: NeSy‑Agent Knowledge Fabric
2025–2026 연구들을 하나의 그림에 포개면, LLM은 모든 것을 계산하는 중앙 두뇌라기보다 의미를 해석하고 가설을 만들며 계획의 후보를 내는 계층에 가깝다. 그 아래에는 symbolic memory와 living KG가 있고, 그 위에는 solver·verifier·safety layer가 있다. Multi‑Agent system은 이 계층을 연결하는 조직 원리다.
L7
Human / Physical Action
Decision · Robot · Lab · API
Decision · Robot · Lab · API
L6
Formal Verification & Safety
SAT/SMT · FSM · Rules · Constraints
SAT/SMT · FSM · Rules · Constraints
L5
Multi‑Agent Reasoning
Planner · Inducer · Critic · Verifier
Planner · Inducer · Critic · Verifier
L4
Symbolic Planning / Execution
Programs · SPARQL · SQL · PDDL
Programs · SPARQL · SQL · PDDL
L3
Living Knowledge Graph
Entity · Relation · State · Evidence · Time · Confidence · Provenance
Entity · Relation · State · Evidence · Time · Confidence · Provenance
L2
Neuro‑Symbolic Memory
Vector · Episodic · Semantic · Rules · Temporal
Vector · Episodic · Semantic · Rules · Temporal
L1
Neural Grounding
LLM · VLM · Embeddings · Perception
LLM · VLM · Embeddings · Perception
L0
World
Text · DB · Sensor · Image · Experiment
Text · DB · Sensor · Image · Experiment
Neural model은 무엇이 참일 수 있는지를 제안한다.
Symbolic system은 무엇이 반드시 성립해야 하는지를 검사한다.
Agent는 다음에 무엇을 조사하고 실행할지를 결정한다.
Symbolic system은 무엇이 반드시 성립해야 하는지를 검사한다.
Agent는 다음에 무엇을 조사하고 실행할지를 결정한다.
이 세 층을 연결하는 매개가 Knowledge Graph다. 그래서 최근의 KG는 “LLM에 붙이는 외부 데이터베이스”보다 훨씬 큰 역할을 맡기 시작했다. KG는 shared world state이며, long‑term memory이고, reasoning substrate이고, provenance ledger이며, 때로는 agent가 움직이는 환경 그 자체다.
결론.
2025–2026의 중요한 변화는 Neuro‑Symbolic AI가 더 이상 “neural network + logic”이라는 조합식에 머물지 않는다는 데 있다.
연구의 단위가 Neuro‑Symbolic Model → Neuro‑Symbolic Agent → Neuro‑Symbolic Multi‑Agent System → Neuro‑Symbolic Cognitive Infrastructure로 커지고 있다.
다음 경쟁의 핵심은 더 그럴듯하게 말하는 모델만이 아니라, 무엇을 알고 왜 그렇게 판단했는지 추적할 수 있고,
틀렸을 때 어디서 틀렸는지 찾아 고칠 수 있는 시스템이다.
Sources
핵심 참고문헌과 원문 URL
출판상태는 2026‑08‑09 기준으로 구분했다. 제목을 누르면 원문 페이지로 이동한다.