딥러닝의 표현력과 심볼릭 추론의 논리적 엄밀성을 결합하는 뉴로-심볼릭 AI의 관점에서, 지식그래프 추론의 동기·도전 과제·다섯 가지 연구 질문·책 전체의 구성을 제시한다.
인공지능은 우리가 살아가고, 일하고, 세계와 상호작용하는 방식을 변화시켜 왔다. 그 흐름 속에서 서로 상반된 강점을 가진 두 패러다임이 존재한다.
신경망(neural network)에 기반한 AI다. 데이터로부터 학습하고 일반화하는 능력이 뛰어나 효율적이지만, 내부 동작을 설명하기 어렵다.
고수준 심볼릭 표현(high-level symbolic representation)에 기반한 AI다. 추론 과정이 해석 가능하다는 강점이 있으나, 처리에 많은 시간이 소요된다.
두 접근을 결합한 새로운 범주다. 뉴럴 AI와 심볼릭 AI의 장점을 동시에 활용하며, 최근 연구의 새로운 흐름으로 부상하고 있다.
다만 뉴로-심볼릭 AI의 유망함에도 불구하고, 실세계 지식을 어떻게 효과적으로 표현할 것인가라는 문제가 남는다. 이 지점에서 지식그래프(Knowledge Graph, KG)가 답이 된다.
지식그래프는 추천 시스템[39], 질의응답[91], 팩트체킹[92]에 이르기까지 폭넓은 응용에서 활용도가 크게 높아졌다. 지식그래프에 담긴 풍부한 정보를 활용하면 다양한 다운스트림 태스크를 크게 향상시킬 수 있으며, 이에 따라 지식그래프 위에서의 추론은 관심이 증대되는 연구 영역이 되었다. 지식그래프 추론은 구조화된 데이터로부터 학습하고 추론하는 것을 가능하게 한다는 점에서 인공지능과 기계학습의 근본적 요소이다[76].
그 인기에도 불구하고 지식그래프 추론에는 배경 지식그래프, 추론 입력, 추론 모델이라는 세 축에 걸친 고유한 도전 과제가 존재한다.
연구의 목표는 다양한 지식그래프 추론 태스크를 지원하는 새로운 뉴로-심볼릭 알고리즘을 설계하는 것이다. 특히 뉴로-심볼릭 기법으로 추론 과정의 입력 질의를 이해하고 활용하는 데 초점을 둔다. 기존 연구는 고정되고 정밀한 입력 질의에 대한 추론에 집중해 왔고[11], 질의에 내재된 모호성과 동적 특성은 간과되는 경우가 많았다[82, 87]. 예컨대 지식그래프 완성 태스크는 (h, r, ?) 또는 (h, ?, r) 형태의 정확한 부분 트리플이 주어진다고 가정하고, 질의응답 태스크는 입력 질의가 명확하고 결함이 없다고 전제한다. 그러나 실세계의 질의는 모호하고, 막연하며, 동적이다. 이러한 질의를 정확히 이해하고 모델링하면 추론 모델과 시스템의 복잡도·규모·추론 능력이 기하급수적으로 성장할 수 있다.
인덱스 기반 심볼릭 알고리즘 G-Finder를 제안하여 Top-k 근사 매칭 서브그래프를 찾는다. 알고리즘의 핵심은 두 가지 기법이다.
심볼릭 그래프 커널 기반 시스템으로 입력 질의의 불일치를 탐지한다. 그래디언트 기반 영향 함수(influence function)로 질의 내 각 요소의 중요도를 측정하고, 중요 요소와 지식그래프 내 대응 정보에 근거하여 불일치 여부를 예측한다. 이를 통해 추론 결과의 신뢰성을 확보하고 잠재적 허위정보(misinformation)를 식별한다.
두 가지 뉴로-심볼릭 추론 방법을 제안한다.
모호한 질의에 답하도록 설계된 뉴로-심볼릭 접근 PrefNet을 제안한다. PrefNet은 변분 베이지안 추론(variational Bayesian inference)으로 사용자의 질의 의도를 파악한 뒤, 고품질의 추론된 질의(inferred queries)를 사용자에게 되돌려주어 탐색을 수월하게 만든다. 추가로 프롬프트 튜닝 기반의 모호 개체 매칭 기법을 제안하며, 개체 수준(entity-level)과 속성 수준(attribute-level) 정보를 함께 사용해 문제를 효과적으로 해결한다.
LLM이 생성한 질문 재구성(reformulation)을 활용해 ConvQA 성능을 높이는 뉴로-심볼릭 강화학습 모델 CornNet을 제안한다. 교사-학생(teacher-student) 아키텍처를 채택한다.
이 책의 나머지 부분은 문헌 검토를 시작으로, 다섯 가지 연구 질문을 장별로 다루고 결론과 향후 연구 방향으로 마무리된다.