개념, 관계, 역할, 권한, 제약조건을 명시하고 행동의 의미적 유효성을 통제한다.
2025–2026 RESEARCH LANDSCAPE
Ontology & Knowledge Graphs for LLM/SLM-based Agentic AI
온톨로지와 지식그래프가 LLM·SLM 기반 에이전트의 기억, 계획, 도구 사용, 검증, 멀티 에이전트 협력을 어떻게 구조화하는지 최신 연구 흐름을 중심으로 정리한다.
사실, 사건, 실행 궤적, 출처, 시간, 불확실성을 연결된 구조로 기록한다.
모든 계산을 직접 수행하기보다 탐색, 계획, 실행, 검증 모듈을 오케스트레이션한다.
핵심 개념 정의
1.1 Ontology
온톨로지는 특정 도메인에서 사용되는 개념과 관계를 명시적으로 정의한 형식적 개념 체계다. 데이터 자체보다 어떤 데이터와 행동이 의미론적으로 유효한지를 정하는 규범적 구조에 가깝다.
\[
\mathcal{O}=(\mathcal{C},\mathcal{R},\mathcal{A},\mathcal{X})
\]
C
Classes
Drug, Target, Assay, Robot, Capability와 같은 도메인 개념을 정의한다.
R
Relations
inhibits, measuredBy, canPerform와 같은 개념 간 연결을 정의한다.
A
Attributes
활성값, 단위, 날짜, 신뢰도, 상태 등 개체의 속성을 표현한다.
X
Axioms & Constraints
필수 조건, 금지 규칙, 역할 권한, 논리적 일관성을 기계 검증 가능한 형태로 정의한다.
1.2 Knowledge Graph
지식그래프는 온톨로지에 정의된 개념과 관계를 바탕으로 실제 개체, 사건, 주장, 경험을 그래프 형태로 표현한다.
\[
G_t=(V_t,E_t,\tau,\pi,\gamma)
\]
- \(V_t\): 시간 \(t\)의 개체, 사건, 문서, 도구, 에이전트 노드
- \(E_t\): 관계 또는 행동 간선
- \(\tau\): 노드와 관계의 타입
- \(\pi\): 출처와 provenance
- \(\gamma\): 신뢰도, 시간, 유효기간, 불확실성
핵심 구분. 온톨로지가 세계의 문법이라면 지식그래프는 그 문법으로 작성된 세계의 현재 상태와 역사다.
1.3 Agentic AI
Agentic AI는 언어모델을 단순 응답 생성기가 아니라 관찰, 계획, 실행, 검증, 기억 갱신을 반복하는 자율 시스템으로 사용한다.
Observe
Interpret
Plan
Act
Verify
Remember
1.4 Ontology/KG-grounded Agentic AI
온톨로지가 정의한 개념·역할·행동·제약조건 아래에서 동적으로 변화하는 지식그래프를 기억 및 세계모델로 사용하고, LLM 또는 SLM이 그래프 검색·계획·도구 실행·검증을 반복하는 신경-기호 결합형 자율 시스템이다.
- 무엇을 알고 있는가: 지식 및 상태 표현
- 무엇을 할 수 있는가: 행동·도구·역할 표현
- 무엇을 해야 하는가: 계획 경로와 목표 구조
- 무엇을 해서는 안 되는가: 정책·규칙·제약조건
- 무엇을 했는가: 실행 궤적과 경험 기억
- 왜 그렇게 했는가: 근거 경로와 provenance
1.5 LLM과 SLM
SLM의 절대적 매개변수 기준은 아직 합의되지 않았다. 최근 연구는 주로 약 1–12B, 경우에 따라 20B 이하 모델을 SLM 범주로 다루며, 실제 기준은 소비자 기기에서의 실행 가능성, 지연시간, 전력 소비, 비용에 의해 결정된다.
설계 원칙. 온톨로지가 문제의 자유도를 줄일수록 SLM의 실용성이 높아진다.
의도 분류, 엔티티 추출, JSON/RDF 생성, 도구 선택, SPARQL 호출, 결과 검증과 같은 제한된 하위 작업은 전문 SLM에 적합하다.
Agentic AI의 통합 문제 정의
사용자 목표, 환경 상태, 온톨로지, 동적 지식그래프, 도구 집합, 언어모델이 주어졌을 때 에이전트는 지식 탐색, 계획, 실행, 검증, 기억 갱신을 제약조건 아래에서 최적화해야 한다.
\[
\pi^* =
\arg\max_{\pi}
\mathbb{E}
\left[
U_{\text{task}}
-\lambda_c C_{\text{compute}}
-\lambda_r R_{\text{risk}}
-\lambda_h H_{\text{hallucination}}
-\lambda_v V_{\text{semantic}}
\right]
\]
\[
\mathcal{O}\models \operatorname{Valid}(a_t,G_t,s_t)
\]
목적은 정답 텍스트를 생성하는 데 그치지 않는다. 불완전하고 변화하는 세계에서 근거 있는 행동을 선택하고, 그 행동이 의미론적·운영적·안전성 제약을 만족하는지 검증해야 한다.
네 가지 핵심 하위 문제
A
Knowledge Construction
비정형 문서에서 클래스, 관계, 공리, 개체, 출처를 추출해 온톨로지와 KG를 구축·갱신한다.
B
Knowledge-Grounded Reasoning
질문과 목표를 그래프 탐색 문제로 변환하고 관련 경로를 선택해 멀티 홉 추론을 수행한다.
C
Agent Memory & World Modeling
관찰, 실패, 성공 경험을 구조화하고 현재 작업에 필요한 기억만 선택적으로 복원한다.
D
Semantic Governance
계획과 도구 호출이 도메인 규칙, 역할 권한, 안전 규정, 데이터 정책을 만족하도록 강제한다.
핵심 연구 개념
1
Schema Grounding
입력과 출력을 자유 텍스트에 맡기지 않고 온톨로지 타입, 관계, 단위, provenance 요구사항에 연결한다.
Type SafetySemantic ParsingConstraint2
Action Knowledge
사실뿐 아니라 행동 가능성, 선행조건, 후속조건, 실패조건을 그래프로 표현한다.
PlanningPreconditionTrajectory3
Graph-Based Agent Memory
사건의 전후 관계, 인과관계, 속성 변화, 주장 충돌, 성공·실패 계획을 연결된 기억으로 관리한다.
A-MEMGAMTemporal Memory4
Agentic Graph Exploration
에이전트가 중간 결과와 현재 가설을 바탕으로 다음 탐색 방향과 깊이를 동적으로 변경한다.
KG-AgentGraph CounselorAdaptive Search5
Reflective Graph Reasoning
검색 결과를 즉시 답변에 사용하지 않고 증거 충분성, 경로 충돌, 누락 관계, 질의 해석 오류를 재검토한다.
ReflectionEvidence Reconstruction6
Ontology-Guided Reasoning
개별 인스턴스 탐색 전에 타입 수준의 의미 경로를 구성하고, 이를 만족하는 그래프 부분만 검색한다.
ORTReverse ThinkingPruning7
Ontology-to-Tools
온톨로지를 함수 인자 타입, JSON Schema, SPARQL 템플릿, 사전·사후조건 검사기로 컴파일한다.
Executable SemanticsTool Contract8
Provenance-Aware Knowledge
사실의 출처, 시점, 조건, 측정 방법, 에이전트, 신뢰도를 함께 저장해 책임성과 검증 가능성을 확보한다.
ProvenanceConfidenceValidity Time
\[
(u,r,v,\text{source},\text{time},\text{confidence},\text{method},\text{agent})
\]
연구 패러다임의 변화
1단계 · Database
KG가 사실을 저장하고 SPARQL과 규칙 추론을 수행하는 지식베이스로 기능한다.
2단계 · Retrieval Index
GraphRAG가 문서와 개념 사이의 관계를 검색 구조로 활용하고 LLM 답변의 컨텍스트를 구성한다.
3단계 · Operating Substrate
KG가 장기 기억, 세계모델, 계획 상태 공간, 도구 레지스트리, 실행 궤적, 정책 검증기로 확장된다.
Goal
Ontology-grounded Interpretation
KG Exploration
Tool Execution
Validation
KG / Memory Update
2025년 이후 KG는 검색 보조 장치를 넘어 에이전트 운영의 기반으로 확장된다.
온톨로지 공학, 지식 추출, 지식 융합의 전통적 파이프라인도 멀티 에이전트 생성·검증 루프로 재편된다.
왜 Ontology와 KG가 필요한가
1
Parametric Knowledge의 한계
최신성, 출처, 희귀 전문지식, 상충 지식, 조직 내부 정책을 모델 파라미터만으로 보장하기 어렵다.
2
Planning Hallucination
존재하지 않는 API, 누락된 선행조건, 권한 없는 도구, 양립 불가능한 행동 순서를 생성할 수 있다.
3
Long-Horizon Memory
오래된 정보와 최신 정보의 충돌, 반복 기억, 잘못된 경험의 누적, 검색 후보 폭증을 관리해야 한다.
4
SLM의 경제성과 예측 가능성
정형 작업을 SLM으로 처리하고 고불확실성 사례만 LLM으로 승격하면 작업당 성공 비용을 낮출 수 있다.
5
신뢰성과 규제 준수
의료·금융·과학·제조에서는 정답률뿐 아니라 권한, 절차, 근거, 반대 증거, 승인 여부가 중요하다.
6
Semantic Interoperability
멀티 에이전트가 동일한 용어, 역할, 도구, 책임을 일관된 의미로 해석하려면 공유 온톨로지가 필요하다.
\[
\text{SLM by default}
\rightarrow
\begin{cases}
\text{success} & \text{종료}\\
\text{uncertain} & \text{검증기}\\
\text{complex} & \text{LLM fallback}
\end{cases}
\]
핵심 기술적 난제
1
자동 생성 온톨로지의 구조적 품질
중복 클래스, 비효율적 계층, domain/range 오류, 순환 상속, ODP 위반, 누락 제약을 자동 검출·수정해야 한다.
2
KG의 불완전성
직접 정답 간선이 없는 환경에서 대체 경로를 찾아 추론해야 하며, 정적 KGQA 벤치마크의 과도한 단순화를 극복해야 한다.
3
검색 공간 폭발
평균 차수 \(d\), 깊이 \(k\)에서 후보가 \(O(d^k)\)로 증가하므로 타입 기반 가지치기와 적응형 종료가 필요하다.
4
Tool Hallucination
추론과 쿼리 생성을 분리하고, 허용된 함수·인자·쿼리 패턴만 생성되도록 구조적 제약을 적용해야 한다.
5
시간적 일관성
사실마다 valid time, transaction time, confidence decay를 관리하고 과거·현재 상태를 구분해야 한다.
6
기억 오염
에이전트가 생성한 오류가 장기 기억으로 저장돼 다시 근거로 사용되는 자기강화 루프를 차단해야 한다.
7
멀티 에이전트 의미 불일치
동일 용어에 대한 도메인별 해석 차이를 해결하고 메시지 형식 이상의 의미적 계약을 제공해야 한다.
8
입력·출력 제약의 비대칭
검색과 도구는 제한하면서 최종 응답은 자유 텍스트로 두는 구조를 넘어 출력 검증과 규제 준수를 통합해야 한다.
9
SLM의 그래프 탐색 한계
SLM에 장거리 탐색을 맡기기보다 그래프 알고리즘을 외부 모듈로 분리하고 SLM을 의미적 제어기로 활용해야 한다.
10
평가 기준의 분절
온톨로지, KGQA, 도구 사용, 장기 기억, 안전성, 비용을 통합 평가하는 벤치마크가 부족하다.
오류 증폭 루프.
Hallucination → Memory Write → Future Retrieval → Reinforced Hallucination 구조가 형성되면
에이전트는 잘못된 자기 지식을 반복 강화한다.
핵심 연구질문
RQ1
Ontology Induction
비정형 문서에서 생성한 온톨로지가 전문가 수준의 개념 정확성, 논리적 일관성, 재사용성을 달성할 수 있는가?
RQ2
Executable Semantics
온톨로지 공리를 프롬프트가 아니라 실행 가능한 도구와 검증기로 어떻게 컴파일할 것인가?
RQ3
Dynamic KG Maintenance
새 관찰과 기존 KG가 충돌할 때 어떤 사실을 추가, 수정, 보류, 삭제할 것인가?
RQ4
Agentic Retrieval
언제 추가 탐색을 수행하고 언제 충분한 증거를 확보했다고 판단할 것인가?
RQ5
Memory Consolidation
어떤 경험을 장기 기억으로 승격하고, 어떤 경험을 요약하거나 망각할 것인가?
RQ6
Causal Reasoning
상관 경로와 인과 경로를 어떻게 구분하고 대안 행동 결과를 어떻게 예측할 것인가?
RQ7
Semantic Alignment
서로 다른 모델과 조직의 에이전트가 공유 온톨로지를 어떻게 합의하고 진화시킬 것인가?
RQ8
SLM–LLM Routing
어떤 작업을 SLM에 맡기고 어느 불확실성 수준에서 LLM 또는 인간에게 승격할 것인가?
RQ9
Closed-Loop Verification
계획 전, 실행 중, 실행 후 검증을 하나의 신경-기호 폐루프로 어떻게 통합할 것인가?
RQ10
Benchmarking
장기 운영, KG 변화, 기억 오염, 도구 실패, 공격 상황을 함께 평가하는 벤치마크를 어떻게 설계할 것인가?
대표 접근법과 최신 방법론
OntoEKG
Enterprise KG Construction기업 문서에서 핵심 클래스와 속성을 추출하고 entailment 모듈이 논리적 계층으로 구성한 뒤 RDF로 직렬화한다.
강점: 문서 기반 스키마 구축 자동화. 한계: 도메인 범위 설정과 계층 추론의 안정성.
Multi-Agent Ontology Generation
Role SpecializationDomain Expert, Manager, Coder, Quality Assurer 역할을 분리하고 OWL/RDF, competency question, 오류 보고서를 명시적 산출물로 교환한다.
Requirements
Conceptualization
Formalization
Validation
Repair
Release
KARMA
NeurIPS 2025 Spotlight과학 논문에서 엔티티 발견, 관계 추출, 스키마 정렬, 충돌 해결을 담당하는 9개 전문 에이전트를 통해 KG를 확장한다.
핵심 기여: 역할 전문화와 다층 검증. 위험: 모델 간 공유 편향, 높은 호출 비용, 잘못된 다수결.
KG-Agent
ACL 2025소형 언어모델, KG 도구상자, 실행기, 지식 메모리를 결합해 반복적으로 도구를 선택하고 그래프 상태를 갱신한다.
규모를 늘리는 대신 그래프 행동 공간과 실행 도구를 제공해 작은 모델의 복잡 추론 성능을 향상시킨다.
Graph Counselor
Adaptive ExplorationPlanning Agent, Thought Agent, Execution Agent를 분리하고 텍스트·구조·차수 정보를 적응적으로 수집한다.
멀티 관점 자기반성과 역방향 추론을 이용해 탐색 깊이와 정보 수집 전략을 조정한다.
ORT
Ontology-Guided Reverse Thinking질문에서 목적 label과 조건 label을 추출하고, 목적에서 조건으로 향하는 온톨로지 수준 경로를 먼저 구성한다.
이 경로가 실제 인스턴스 검색을 제한해 탐색 공간과 의미적 오류를 줄인다.
RefKG
Reflective Reasoning질의 분해, KG 자율 탐색, 지식 재구성, 반성적 추론을 결합한다.
검색량보다 증거의 재조직과 충분성 판단을 중시한다.
GR-Agent
Incomplete KGKG를 정적 데이터베이스가 아니라 에이전트가 관계 탐색, 인접 노드 검사, 후보 경로 비교, 종료 결정을 수행하는 환경으로 재정의한다.
A-MEM · GAM · DAVIS
Graph MemoryA-MEM: Zettelkasten 기반 원자적 노트와 연결 구조를 사용한다.
GAM: 단기 episodic graph와 장기 topic associative graph를 분리한다.
DAVIS: 구조적·시간적 기억과 멀티 턴 내적 독백 검색을 과학 환경 계획에 적용한다.
KnowAgent
Action Knowledge행동 지식베이스가 가능한 행동 유형과 실행 경로를 제한해 planning hallucination을 줄인다.
\[
\text{Goal}\rightarrow\text{Allowed Action Types}\rightarrow\text{Valid Trajectory}\rightarrow\text{Execution}
\]
Ontology-to-Tools Compilation
Executable Constraints온톨로지 클래스와 속성을 함수 타입, 필수 인자, 단위 제약, 사전·사후조건 검사기로 변환한다.
Ontology:
SynthesisExperiment
requires Material
requires Temperature
requires Duration
Compiled tool:
create_synthesis_experiment(
material: MaterialURI,
temperature: Quantity[Celsius],
duration: Quantity[Minute]
)Three-Layer Enterprise Ontology
GovernanceRole Ontology
책임, 권한, 데이터 접근 범위를 정의한다.
Domain Ontology
업무 개념, 데이터, 규칙을 정의한다.
Interaction Ontology
요청, 응답, 위임, 승인, 실패 복구 구조를 정의한다.
핵심 효과
무엇을 아는가와 누가 무엇을 할 수 있는가를 분리한다.
KGLAMP
Multi-Robot Planning로봇 능력, 공간 도달성, 객체 관계를 KG로 표현하고 PDDL 문제 생성과 재계획을 지원한다.
\[
\text{Observation}\rightarrow\text{KG Update}\rightarrow\text{Violation Detection}\rightarrow\text{Replanning}
\]
SLM-Centered Architecture
Cost-Efficient AgentSLM에 모든 탐색을 맡기지 않고 그래프 알고리즘, 규칙 엔진, 전문 검증기, LLM fallback을 조합한다.
\[
\text{Task Router}
\rightarrow
\begin{cases}
\text{SLM Specialist} & \text{정형·반복 작업}\\
\text{Graph Algorithm} & \text{탐색·최적화}\\
\text{Rule Engine} & \text{정책·논리 검사}\\
\text{LLM Generalist} & \text{개방형·고불확실성 작업}
\end{cases}
\]
AGENTiGraph
Interactive KG Management자연어 기반 의도 분류, 작업 계획, KG 수정, 자동 통합, 멀티 턴 대화, 실시간 시각화를 결합한다.
| 연구군 | 핵심 기능 | Ontology/KG 역할 | 주요 장점 | 대표 한계 |
|---|---|---|---|---|
| KARMA | 과학 KG 자동 확장 | 스키마 정렬·충돌 해결 | 멀티 에이전트 전문화 | 검증기 공유 편향 |
| KG-Agent | KG 자율 탐색 | 행동 공간·실행 메모리 | 소형 모델 효율 | 도구 설계 의존성 |
| Graph Counselor | 적응형 그래프 탐색 | 멀티 관점 탐색 상태 | 탐색 깊이 조절 | 복잡한 오케스트레이션 |
| ORT | 역방향 의미 경로 추론 | 타입 수준 검색 제약 | 검색 공간 감소 | 스키마 품질 의존 |
| A-MEM/GAM | 장기 기억 관리 | 사건·주제 기억 그래프 | 시간·맥락 보존 | 오류 기억 누적 |
| KnowAgent | 행동 계획 제약 | Action Knowledge Base | 계획 환각 감소 | 행동 모델 유지보수 |
| Ontology-to-Tools | 도구 계약 생성 | 실행 가능한 의미 제약 | 구조적 오류 차단 | 컴파일 규칙 표준화 부족 |
| KGLAMP | 로봇 재계획 | 동적 환경 세계모델 | 변화 대응 | 실시간 갱신 비용 |
주요 응용 분야
1
Scientific Discovery
문헌에서 실험 조건, 물질, 방법, 결과를 추출하고 상충 논문 탐지, 가설 검증, 재현 가능한 실험 계획을 지원한다.
2
Drug Discovery
assay 조건 정렬, 단위 정규화, provenance 추적, 약물–표적–질환 추론, counter-evidence 수집, ADMET 필터링을 수행한다.
3
Enterprise AI
내부 지식 검색, 규정 준수, IT 운영, 공급망, 금융 보고, 역할 기반 도구 접근을 의미적으로 통합한다.
4
Robotics
객체 위치, 공간 연결성, 로봇 능력, 자원, 위험 구역, 임무 상태를 동적 KG로 표현한다.
5
Healthcare
질병, 증상, 검사, 치료, 금기, 임상지침을 연결하고 근거 수준, 대상 인구, 승인 여부를 함께 관리한다.
6
GUI & Software Agents
GUI 전이 그래프, API dependency graph, 코드 호출 그래프를 이용해 실행 가능한 다음 행동을 선택한다.
7
Personalized Assistants
사용자의 선호, 일정, 프로젝트, 관계, 과거 결정을 그래프 기억으로 유지하되 개인정보와 망각권을 보장해야 한다.
8
Web of Agents
능력 발견, 서비스 의미, 위임, 신원, 신뢰, 계약, 책임을 공통 온톨로지로 표현한다.
미해결 연구문제
1
Ontology Hallucination
언어적으로 자연스러운 생성 결과가 실제 도메인 의미와 일치하는지 형식 검증과 전문가 검토를 결합해야 한다.
2
Semantic Drift
자동 확장 중 의미 변화와 중복 개념 누적을 방지하기 위해 버전 관리, 영향 분석, rollback이 필요하다.
3
Knowledge–Action Gap
사실을 아는 능력과 올바른 행동 순서를 구성하는 능력 사이의 간극이 크다.
4
Uncertainty Representation
사실, 확률, 증거 강도, 시간 유효성, 출처 신뢰도를 통합 표현해야 한다.
5
Negative & Counter-Evidence
효과 없음, 재현 실패, 조건부 성립, 상충 연구, 중단 사유를 명시적으로 모델링해야 한다.
6
Causal Knowledge Graph
관계 그래프를 넘어 행동 결과를 예측할 수 있는 인과 구조가 필요하다.
7
Learned Forgetting
삭제, 요약, 장기 보존, 신뢰도 하향, 재검증을 결정하는 학습된 망각 정책이 필요하다.
8
KG Poisoning
악의적 문서와 간선 삽입을 막기 위해 서명 provenance, 교차검증, 이상 탐지, 권한 분리가 필요하다.
9
Judge Bias
LLM 생성물을 LLM이 평가할 때 공유 편향이 발생하므로 형식 검증과 실행 기반 평가가 필요하다.
10
End-to-End Accountability
잘못된 결정의 원인이 KG, 검색, 계획, 도구, 검증, 사용자 지시 중 어디에 있는지 추적해야 한다.
미래 연구 방향
1
Ontology as Executable Constitution
온톨로지가 도구 스키마, 접근 제어, 계획 제약, 검증 프로그램, 복구 행동으로 컴파일된다.
2
Dual-Graph Agent Architecture
외부 세계의 사실을 저장하는 World KG와 내부 실행 궤적을 저장하는 Execution Graph를 분리한다.
3
Temporal & Event-Centric KG
정적 엔티티 중심 그래프에서 관찰, 행동, 조건, 결과, 시점이 연결된 사건 중심 그래프로 이동한다.
4
SLM Swarms
전문 SLM들이 공유 온톨로지와 KG 위에서 추출, 정렬, 계획, 쿼리, 검증을 분담한다.
5
Neuro-Symbolic Closed Loop
Ontology/KG → Planning → Action → Observation → Validation → KG Update → Ontology Evolution의 폐루프를 구축한다.
6
Hybrid Graph Exploration
그래프 알고리즘, GNN, LLM/SLM, 규칙 엔진, 최적화기를 역할별로 결합한다.
7
Counter-Evidence-Aware Agents
지지 경로와 반박 경로를 함께 검색하고 불확실성과 추가 검증 필요성을 명시한다.
8
Ontology-Aware Interoperability
능력, 역할, 위임, 신뢰, 실패, 계약을 표현하는 공통 에이전트 온톨로지를 구축한다.
9
Causal Scientific Memory
무슨 일이 있었는가를 넘어 어떤 행동이 어떤 결과를 일으켰는지 경험 기반 인과 전략 그래프로 학습한다.
10
Unified Benchmark
불완전 KG, 정보 충돌, 도구 실패, 장기 기억, 권한, 안전, 비용을 함께 평가하는 통합 벤치마크를 구축한다.
\[
\text{Score} =
\alpha\cdot\text{Task Success}
+\beta\cdot\text{Evidence Faithfulness}
+\gamma\cdot\text{Semantic Validity}
+\delta\cdot\text{Recovery Ability}
-\epsilon\cdot\text{Cost}
-\zeta\cdot\text{Risk}
\]
종합 연구 프레임워크
차세대 Agentic AI는 하나의 거대 모델이 모든 지식과 계산을 독점하는 구조가 아니라, 온톨로지·그래프·도구·규칙·전문 모델을 계층적으로 조정하는 의미적 운영체제로 발전할 가능성이 크다.
Goal & Interaction
사용자 목표, 자연어 대화, 멀티모달 관찰, 외부 이벤트를 수집한다.
Semantic Grounding
도메인·역할·행동·정책 온톨로지를 이용해 입력 의도와 제약조건을 정규화한다.
Agent Cognition
LLM orchestrator와 전문 SLM이 계획, 가설, 반성, 불확실성 추정을 수행한다.
Graph Intelligence
World KG, Memory Graph, Execution Graph를 탐색하고 GNN·그래프 알고리즘·규칙 엔진을 호출한다.
Tool & Action
ontology-compiled tools, API, DBMS, 로봇, 실험 장비를 타입 안전하게 실행한다.
Verification & Governance
타입, provenance, 안전, 규정, 권한, 사전·사후조건을 검증한다.
Learning & Evolution
경험 통합, 기억 정리, KG 갱신, 온톨로지 변경 제안과 승인 절차를 수행한다.
LLM은 모든 지식을 기억하고 모든 계산을 수행하는 중앙 두뇌가 아니라, 온톨로지·그래프·도구·검증기를 조정하는 의미적 지휘자로 전환된다.
결론
1
지식그래프의 전환
검색용 데이터 구조에서 에이전트의 장기 기억, 세계모델, 계획 공간, 실행 이력으로 전환된다.
2
온톨로지의 전환
수동적인 개념 명세에서 도구, 권한, 계획, 출력을 직접 제약하는 실행 가능한 의미 계약으로 전환된다.
3
언어모델의 전환
모든 것을 직접 해결하는 생성기에서 그래프 알고리즘, 전문 SLM, 규칙 엔진, 도구를 조정하는 오케스트레이터로 전환된다.
4
평가 패러다임의 전환
정답률 중심 평가에서 근거 충실도, 의미적 유효성, 복구 능력, 비용, 위험을 함께 평가하는 방향으로 이동한다.
궁극적 연구목표는 더 많은 텍스트를 생성하는 에이전트가 아니다. 무엇을 알고 있는지, 어떤 근거로 판단했는지, 무엇을 할 수 있는지, 무엇을 해서는 안 되는지, 실패했을 때 어떻게 복구할지를 명시적으로 표현하고 검증할 수 있는 에이전트를 만드는 것이다.
주요 참고 논문 및 URL
제목, 학회명, 키워드로 필터링할 수 있다.
1. KARMA: Leveraging Multi-Agent LLMs for Automated Knowledge Graph Enrichment — NeurIPS 2025 Spotlight
https://arxiv.org/abs/2502.06472
2. KG-Agent: An Efficient Autonomous Agent Framework for Complex Reasoning over Knowledge Graph — ACL 2025
https://aclanthology.org/2025.acl-long.468/
3. Graph Counselor: Adaptive Graph Exploration via Multi-Agent Synergy to Enhance LLM Reasoning — ACL 2025
https://aclanthology.org/2025.acl-long.1202/
4. Ontology-Guided Reverse Thinking Makes Large Language Models Stronger on Knowledge Graph Question Answering — ACL 2025
https://aclanthology.org/2025.acl-long.741/
5. KnowAgent: Knowledge-Augmented Planning for LLM-Based Agents — Findings of NAACL 2025
https://aclanthology.org/2025.findings-naacl.205/
6. Reflection on Knowledge Graph for Large Language Models Reasoning — Findings of ACL 2025
https://aclanthology.org/2025.findings-acl.1221/
7. Memory-augmented Query Reconstruction for LLM-based Knowledge Graph Reasoning — Findings of ACL 2025
https://aclanthology.org/2025.findings-acl.1234/
8. DAVIS: Planning Agent with Knowledge Graph-Powered Inner Monologue — Findings of EMNLP 2025
https://aclanthology.org/2025.findings-emnlp.895/
9. AGENTiGraph: A Multi-Agent Knowledge Graph Framework for Interactive, Domain-Specific LLM Chatbots — CIKM 2025 Demo
https://arxiv.org/abs/2508.02999
10. GAM: Hierarchical Graph-based Agentic Memory for LLM Agents — ACL 2026
https://aclanthology.org/2026.acl-long.1600/
11. A-MEM: Agentic Memory for LLM Agents
https://arxiv.org/abs/2502.12110
12. LLM-Empowered Knowledge Graph Construction: A Survey
https://arxiv.org/abs/2510.20345
13. Small Language Models Are the Future of Agentic AI
https://arxiv.org/abs/2506.02153
14. Small Language Models for Agentic Systems: A Survey of Architectures, Capabilities, and Deployment Trade-offs
https://arxiv.org/abs/2510.03847
15. The Role of Exploration Modules in Small Language Models for Knowledge Graph Question Answering
https://arxiv.org/abs/2509.07399
16. Graph-Augmented Reasoning: Evolving Step-by-Step Knowledge Graph Retrieval for LLM Reasoning
https://arxiv.org/abs/2503.01642
17. GR-Agent: Adaptive Graph Reasoning Agent under Incomplete Knowledge
https://arxiv.org/abs/2512.14766
18. LLM-Driven Ontology Construction for Enterprise Knowledge Graphs
https://arxiv.org/abs/2602.01276
19. Towards Automated Ontology Generation from Unstructured Text: A Multi-Agent LLM Approach
https://arxiv.org/abs/2604.23090
20. Ontology-to-Tools Compilation for Executable Semantic Constraint Enforcement in LLM Agents
https://arxiv.org/abs/2602.03439
21. KGLAMP: Knowledge Graph-Guided Language Model for Adaptive Multi-Robot Planning and Replanning
https://arxiv.org/abs/2602.04129
22. Ontology-Constrained Neural Reasoning in Enterprise Agentic Systems
https://arxiv.org/abs/2604.00555
23. From Multi-Agent Systems and the Semantic Web to Agentic AI: A Unified Narrative of the Web of Agents
https://arxiv.org/abs/2507.10644