논리 규칙 학습규칙 공간을 탐색하는가, 미분 가능하게 만드는가, 스키마 수준에서 표현을 학습하는가

탐색 기반 방법은 논리 규칙을 KG 안의 닫힌 경로 같은 이산 구조로 취급하고 규칙 학습을 이산 최적화 문제로 모델링한다. 목표는 주어진 증거 집합을 효과적으로 설명하는 최선의 규칙 집합을 찾기 위해 이산 규칙 공간을 탐색하는 것이다.

형식적으로 KG G = {E, R, O}가 주어질 때 Δ를 G로부터 학습될 수 있는 가능한 Horn 규칙의 집합이라 하고, 각 규칙을 (Head, Body) 쌍으로 표현한다. 길이 n인 논리 규칙의 규칙 공간은 rb1, …, rbn을 구성하는 모든 가능한 방식을 포괄하는 구조화된 공간으로 정의된다. 여기서 사슬형 Horn 규칙은 규칙 몸통이 사슬 구조를 가져 KG의 경로에 대응하는 Horn 규칙의 특수 형태다.

r_h(x, y) ← r_b1(x, z₁) ∧ r_b2(z₁, z₂) ∧ ⋯ ∧ r_bn(z_n−1, y) (5.3)

사슬형 Horn 규칙의 규칙 공간 크기는 |R|n이다. 예컨대 관계가 4개인 KG에서 머리 관계가 hasGrandma이고 길이가 2인 Horn 규칙의 규칙 공간은 42 = 16개의 잠재 규칙으로 구성된다. 규칙 길이가 늘어날수록 탐색 공간이 방대해지므로, 탐색 기반 방법의 주된 관심사는 기준을 충족하는 규칙을 찾기 위해 규칙 공간을 효율적으로 항해하는 것이다.

hasGrandma(x, y) ← hasMother(x, z) ∧ hasMother(z, y) (5.4)

기존 탐색 기반 방법은 크게 (1) 귀납 논리 프로그래밍(ILP)과 (2) 연관 규칙 마이닝의 두 범주로 나뉜다. ILP는 논리 프로그래밍의 하위 분야로 예제로부터 학습해 새로운 예제를 예측·분류하는 데 사용할 규칙 또는 가설 집합을 귀납하는 것을 목표로 한다. 연관 규칙 마이닝은 데이터 마이닝 공동체가 제안했으며 데이터의 상관을 식별하는 데 널리 사용된다.

5.2.1귀납 논리 프로그래밍 (ILP)

ILP [2, 3]는 1980년대 후반 Stephen Muggleton이 처음 제안한 인공지능의 하위 분야다. 주된 목표는 통상 술어(예: KG의 트리플) 형태로 표현된 주어진 예제 또는 데이터로부터 논리 규칙 또는 가설을 귀납하는 것이다.

후보 집합에서 가장 유용한 리터럴을 선택하기 위해 Quinlan은 자신의 FOIL 알고리즘 [4]에서 점수 함수로 이득(gain) 휴리스틱을 제안했다.

Gain(l) = H · ( log₂( |E⁺_post| / (|E⁺_post| + |E⁻_post|) ) − log₂( |E⁺_pre| / (|E⁺_pre| + |E⁻_pre|) ) ) (5.5)

E+post(E−post)는 리터럴을 추가한 후 규칙이 함의할 수 있는 양성(음성) 예제, E+pre(E−pre)는 추가하기 전의 양성(음성) 예제이며, H는 리터럴 추가 전에 규칙을 만족하고 추가 후에도 여전히 덮이는 양성 예제의 개수다.

첫 반복에서 male(x)가 최고 이득 4.0을 가지므로 몸통에 추가해 father(x, y) ← male(x)를 얻는다. 이 규칙이 여전히 음성 예제 하나(father(Antony, Diana))를 함의하므로 추가 리터럴을 계속 찾는다. 두 번째 반복에서 parent(x, y)가 최고 이득 1.17을 가지며, 결과 규칙이 모든 양성 예제를 만족하고 음성 예제를 하나도 함의하지 않으므로 규칙 학습이 성공적으로 완료된다.

δ₁ := father(x, y) ← male(x) ∧ parent(x, y)

요약. ILP는 도메인 특화 지식이나 제약을 입력의 배경 지식 베이스로 결합할 수 있고, 인간이 손쉽게 해석·이해할 수 있는 규칙 집합을 산출한다. 의료 시스템과 사법 시스템처럼 해석 가능성이 필수적인 응용에 이상적이다. 그러나 ILP의 규칙 학습 기법은 탐욕적 탐색 전략을 사용하므로 국소 최적 결정에 빠질 수 있다.

5.2.2연관 규칙 마이닝 기반 접근

ILP와 데이터 마이닝 기법은 데이터로부터 일반 패턴을 밝힌다는 공통점이 있다. 연관 규칙 마이닝 기반 접근은 KG에서 관측된 사실을 근거로 지지도(support)와 신뢰도(confidence)로 Horn 규칙의 그럴듯함을 측정하며, 별도의 양성·음성 예제 평가 집합을 요구하지 않는다.

그러나 지지도와 신뢰도를 계산하려면 규칙 공간의 모든 잠재 규칙에 대해 기저 규칙(경로 인스턴스)의 개수를 세야 하며, 여기에 두 난관이 있다. 첫째, 규칙 공간의 모든 잠재 규칙을 평가해야 하는데 이는 규칙 길이에 지수적이다. 둘째, 각 후보 규칙의 점수를 계산하기 위해 모든 기저 규칙을 열거해야 한다. 예컨대 아래 후보 규칙에 대해 세 개의 기저 규칙(규칙 인스턴스)이 관측된다.

hasGrandma(x, y) ← hasMother(x, z) ∧ hasMother(z, y) (5.7)

hasGrandma(Amy, Cara) ← hasMother(Amy, Bess) ∧ hasMother(Bess, Cara)
hasGrandma(Bess, Dana) ← hasMother(Bess, Cara) ∧ hasMother(Cara, Dana)
hasGrandma(Cara, Eva) ← hasMother(Cara, Dana) ∧ hasMother(Dana, Eva) (5.8)

사슬형 Horn 규칙을 기저화하는 계산 복잡도는 |E|(n+1)로 KG의 전체 엔티티 수 |E|와 규칙 길이 n에 의존한다. 이 막대한 복잡도를 완화하기 위해 이 영역의 대부분 연구는 규칙을 학습하면서 점진적으로 탐색 공간을 가지치기한다. 이 범주에서 가장 대표적인 접근은 AMIE [5, 6]이며 두 주요 단계로 구성된다.

Step 1 — 규칙 확장 (rule extending)

세 유형의 마이닝 연산자로 기존 규칙을 반복 확장해 후보 규칙을 생성한다.

Step 2 — 규칙 가지치기 (rule pruning)

머리 커버리지와 신뢰도 같은 지표를 적용해 첫 단계에서 생성된 규칙을 평가하고 그럴듯한 규칙만 출력한다.

이 지표들은 논리 규칙의 그럴듯함을 평가하며 AMIE의 점수 함수 s(·)로 볼 수 있다. AMIE는 사전 정의된 머리 커버리지·신뢰도 임계값을 충족하지 못하는 규칙을 가지치기하고, 남은 규칙을 최종 학습 규칙 집합으로 출력한다. 동시에 규칙 길이에 대한 두 지표의 단조성을 활용해, 빈발 패턴 마이닝의 가지치기와 유사하게 짧은 규칙이 이미 임계값을 위배하면 더 긴 후보를 가지치기한다.

종합하면 AMIE는 상향식(bottom-up) 방식으로 KG에서 후보 규칙을 생성한다. 빈 규칙만 담은 큐를 초기화하고, 큐에서 규칙을 꺼내 닫혔는지 검사한다. 닫혔으면 후보 규칙으로 출력하고, 그렇지 않으면 가용한 모든 연산자를 규칙에 적용한다. 결과 규칙들은 가지치기되지 않는 한 큐에 추가된다. 이 단계를 반복해 후보 연관 규칙 집합을 생성하고 상위 k개 규칙을 선택해 사용자에게 제시한다.

요약. 연관 규칙 마이닝 기반 접근은 데이터 내부의 공출현 또는 상관을 드러내는 더 단순한 규칙을 생성하는 데 특히 효과적이다. ILP와 비교해 커버리지나 신뢰도 같은 지표로 규칙을 측정하므로 데이터 노이즈에 더 강건하며, 학습 과정에 음성 예제가 필요하지 않다. 그럼에도 이 지표들의 적절한 임계값을 결정하는 것은 복잡한 과제다. 임계값이 발견되는 규칙의 수량과 일반성·특수성의 균형에 크게 영향을 주기 때문이다.

AI 초기부터 가장 많이 연구된 규칙 학습 접근이지만 탐색 기반 방법은 여러 한계를 겪는다.

뉴로-심볼릭 통합은 심볼릭 논리 규칙 학습과 신경망 모델을 결합해 실세계 KG로부터의 학습이라는 난관을 다루는 대안을 제공한다. 한편으로 신경망은 경사 기반 방법으로 종단간 최적화를 가능하게 하여 대규모 데이터를 처리한다. 신경망의 미분 가능성을 활용하면 논리 규칙 학습 태스크에 연속 최적화 기법을 적용할 수 있고, 이산 문제에서 연속 문제로의 전환이 규칙 공간의 더 효과적인 탐색을 허용한다. 다른 한편으로 표현 학습 기반 신경망 방법은 엔티티와 관계 사이의 상관을 포착해 불완전성·노이즈 문제를 크게 완화한다(3장의 KG 완성이 그 증거다).

기존 뉴로-심볼릭 통합 접근은 크게 두 범주로 나뉜다. (1) 미분 가능 탐색 기반 방법 — 미분 가능한 손실 함수를 사용해 논리 규칙 학습 문제를 이산 최적화에서 연속 최적화로 전환하며 전통적 탐색 기반 방법을 직접 확장한다. (2) 학습 기반 방법 — 다양한 학습 패러다임을 결합해 데이터로부터 규칙을 학습하며, 규칙은 심볼릭 형태로 표현된다.

5.3.1미분 가능 탐색 기반 방법

규칙 학습 문제를 종단간 연속 최적화 문제로 정식화해 탐색 과정을 미분 가능하게 만들고, SGD 같은 경사 기반 최적화 기법을 사용할 수 있게 한다. 경사 기반 최적화는 전통적 탐색 기반 방법의 조합적 탐색보다 학습 과정을 효율적으로 만들어 대규모 KG에 대한 확장성을 개선한다. 나아가 심층 학습 구조를 통합해 표현 학습 역량을 효과적으로 활용하므로, 복잡한 패턴을 학습하고 노이즈·불완전성에 더 강건하다. 이 방법은 다시 두 범주로 나뉜다.

5.3.1.1 미분 가능 ILP — Neural Theorem Provers (NTPs)

NTPs [7]는 전통적 후방 연쇄 알고리즘을 확장해 논리 규칙을 학습한다. 후방 연쇄는 목표(결론)에서 시작해 역방향으로 진행하며 목표를 부목표로 재귀적으로 분해하고 그 부목표를 만족시킬 규칙을 탐색하는 하향식 추론 접근이다. 전통적 후방 연쇄는 불완전하거나 노이즈가 있는 KG를 다룰 때 한계에 부딪힌다. NTPs는 엔티티·관계·규칙을 표현하는 데 연속 벡터 공간 임베딩을 사용해 후방 연쇄를 강화하여, 서로 다른 엔티티와 관계 사이의 유사성을 포착할 수 있게 한다. 논리 규칙을 연속 벡터 공간에서 모델링해 후방 연쇄 절차를 미분 가능한 연산의 수열로 전환하고, 경사 기반 최적화로 종단간 학습을 가능하게 한다. ILP의 원리를 따라 이 임베딩은 KG에 있는 기저 술어의 점수를 최대화하고 KG에 없는 것의 점수를 최소화하며 종단간으로 학습된다.

이렇게 NTPs는 규칙 공간에 대한 조합적 탐색 대신 경사 하강을 활용해 ILP를 수행한다. 장점은 엔티티·관계의 연속 임베딩을 학습해 노이즈·불완전·비일관 KG를 다룰 수 있고, 임베딩 사이 유사도로 동등한 엔티티·관계를 식별하여 동의어나 별칭이 개입하는 질의를 더 유연하게 처리한다는 점이다. 반면 학습된 연속 임베딩이 인간에게 해석되기 어려울 수 있고, 파라미터화 규칙에서 해석 가능한 규칙으로의 디코딩 과정 때문에 기저 추론 과정을 이해하기 어려워질 수 있다.

전통적 ILP와의 연결. DILP는 심볼릭 표현과 해석 가능한 규칙을 공동 학습하는 미분 가능 프레임워크를 제공한다. 유사한 기호를 벡터 공간에서 가까이 배치할 수 있으므로, 유사한 표현을 갖는 기호가 개입하는 다수의 질의 증명에 단일 규칙을 활용해 논리 규칙 학습을 강화한다. 전통적 ILP보다 (1) 사용 논리 언어의 표현력에 제한받지 않고 더 복잡한 논리 프로그램을 학습할 수 있고, (2) 연속적이고 노이즈가 있는 데이터로부터 학습할 수 있다(전통 ILP는 통상 이산·무노이즈 데이터용으로 설계된다). 그러나 DILP는 ILP의 확장이므로 여전히 주어진 질의에 답하기 위해 모든 가능한 증명 경로를 요구하여, 작은 KG에서도 계산 비효율을 초래한다. 증명 경로를 줄이려는 노력이 있었으나 이는 여전히 DILP의 핵심 약점이다.

5.3.1.2 행렬 기반 추론 — TensorLog와 Neural-LP

행렬 기반 추론은 연관 규칙 학습 기반 접근 위에 세워진다. 희소 행렬 곱셈으로 논리 추론을 수행해 이산 탐색 문제를 미분 가능한 문제로 바꾼다.

TensorLog [8]는 논리 추론과 희소 행렬 곱셈 사이의 연결을 확립한 첫 시도다. 각 관계 rk에 연산자 M(k) ∈ {0,1}|E|×|E|를 정의하며 (i, j) 성분은 트리플 (ei, rk, ej)가 KG에 있을 때에만 1이다. 각 엔티티에는 원-핫 벡터 ei를 대응시킨다. 그러면 스칼라 ei⊤M(b1)M(b2)⋯M(bn)ej는 사슬형 규칙 몸통을 통해 ei에서 ej로 연결되는 경로의 개수와 같다.

v = Σ_{rb ∈ Body(rh)} s(r_h, r_b) ( ∏_{rbi ∈ rb} M^(r_bi) ) e_j   ;   f_rh(e_i, e_j) = e_i^⊤v (5.13)

TensorLog는 희소 행렬 곱셈으로 대규모 데이터셋에서 논리 추론의 효율을 개선하지만, 신뢰도 점수 s(rh, rb)만 학습할 수 있고 규칙 자체는 학습하지 못한다는 한계가 있다. 각 신뢰도 점수가 특정 규칙과 결합되어 있고 규칙 열거가 본질적으로 이산 태스크이므로, 그런 학습 과정은 경사 기반 최적화에 적합하지 않다.

Neural-LP [9]는 식 (5.13)의 합과 곱의 순서를 교환해 TensorLog를 확장하고, 파라미터 수를 |R|N에서 |R|N으로 줄인다. ank는 관계 rk가 몸통의 n번째 관계일 때의 가중치다. 이 재파라미터화가 규칙 열거와 신뢰도 점수 학습을 미분 가능한 프레임워크 안에서 동시에 가능하게 한다.

∏_n=1^N Σ_k=1^|R| a_nk M^(r_k) (5.14)

그러나 식 (5.14)의 파라미터화는 모든 규칙의 길이가 같다고 가정하므로 표현력이 제한된다. 이를 해결하기 위해 Neural-LP는 재귀 정식화를 제안한다. 각 길이 n마다 보조 메모리 벡터 un을 두고 초기값을 ej로 설정해, 모든 엔티티에서 엔티티 j로의 “평균” 점수 벡터를 요약한다. 미분 가능한 텐서 곱셈을 순차적으로 합성하기 위해 어텐션 메커니즘 기반 신경 제어기 시스템을 설계하며, 메모리 어텐션 벡터 bn으로 이전 메모리 벡터의 가중 평균을 계산하고 연산자 어텐션 벡터 an으로 TensorLog 연산자를 연성 적용한다. 최종 추론 결과는 메모리의 마지막 벡터 uN+1이다.

u₀ = e_j
u_n = ( Σ_k=1^|R| a_nk M^(r_k) ) ( Σ_τ=0ⁿ⁻¹ b_n^τ u_τ )    for 1 ≤ n ≤ N
u_N+1 = Σ_τ=0^N b_N+1^τ u_τ (5.15)

목적식    max  log ( e_i^⊤ u_N+1 )       (양성 트리플 (e_i, r_h, e_j)에 대해) (5.16)

신경 제어기 시스템으로부터 논리 규칙을 복원하기 위해 Neural-LP는 규칙과 그 신뢰도 점수를 어텐션 벡터 an, bn의 항으로 표현한다.

전통적 연관 규칙 학습과의 연결. 신경 논리 프로그래밍도 규칙 공간의 모든 후보 규칙의 신뢰도 점수를 계산해 최고 점수의 Horn 규칙을 선택한다. 다만 프레임워크를 미분 가능하게 만들기 위해 기저 규칙의 이산 계수를 희소 행렬 곱셈으로 대체한다. 이 변환이 논리 추론을 미분 가능한 텐서 곱셈의 수열로 컴파일해 신경망으로 논리 규칙을 학습할 수 있게 한다. 그러나 큰 행렬 곱셈에 의존하므로 계산 비효율이 있고 논리 규칙의 방대한 탐색 공간을 줄이는 노력은 적다. 그 결과 WN18 [10]과 FB15K [11] 같은 일부 실세계 KG에 적용될 수 있으나 YAGO3-10 [12] 같은 더 큰 KG를 다룰 만큼 효율적이지는 않다. 또한 NTPs와 달리 엔티티·관계의 임베딩을 학습할 수 없어 동의어나 별칭이 개입하는 질의를 다루는 능력이 제한된다.

5.3.2학습 기반 방법

미분 가능 탐색 기반 방법은 우아한 접근을 제공하지만 세 가지 한계를 보인다.

• 제한된 표현력 — 최적화 알고리즘이 다룰 수 있는 미분 가능 함수의 탐색 공간에서 표현 가능한 규칙만 학습할 수 있다. 예컨대 Neural-LP는 몸통을 행렬 곱셈으로 효과적으로 모델링할 수 있는 사슬형 Horn 규칙만 학습할 수 있다. 반면 AMIE는 더 일반적인 형태의 Horn 규칙을 학습할 수 있다.
• 복잡한 규칙의 어려움 — 여러 변수와 그들 사이의 정교한 상호작용이 개입하는 복잡한 규칙 학습에는 여전히 어려움을 겪는다. 예컨대 긴 규칙을 학습하려면 NTPs는 깊은 증명 경로를 개입시켜야 하므로 계산 비효율에 이른다.
• 신경망 구성 요소의 제한된 해석 가능성 — 학습된 규칙은 해석 가능하지만 최적화에 사용된 신경망 구성 요소는 이해하기 쉽지 않을 수 있어, 규칙이 어떻게 학습되었는지 파악하기 어렵다.

학습 기반 방법은 전통적 탐색 기반 방법을 단순히 확장·개선하는 대신 더 넓은 범위의 학습 패러다임과 통합될 수 있어 서로 다른 유형의 규칙을 학습하는 다재다능함이 커진다. 예컨대 KG의 사슬형 Horn 규칙 생성에 유용한 순차 생성 모델이나, 합성적 규칙 모델링에 특히 효과적인 강화 학습 모델과 결합될 수 있다.

RNNLogic — 규칙 생성기와 추론 예측기의 분리

기존 규칙 학습 방법의 비효율은 통상 큰 탐색 공간에서의 탐색에서 온다. 탐색 공간을 줄이고 더 나은 규칙을 학습하기 위해 RNNLogic [13]은 규칙 생성기와 추론 예측기를 도입해 규칙 생성과 규칙 가중치 학습을 분리한다.

RNNLogic에서 논리 규칙 집합은 잠재 변수 z ⊆ R2 ∪ R3 ∪ ⋯ ∪ RN로 간주된다. 질의를 q = (h, r, ?), 답을 a라 하면, 규칙 생성기 pθ(z|q)는 질의에 조건화된 잠재 규칙 집합에 대한 사전 분포를 정의하고, 추론 예측기 pw(a|G, q, z)는 잠재 규칙·질의·KG가 주어질 때 답의 우도를 제공한다.

p(a|G, q) = Σ_z p_w(a|G, q, z) p_θ(z|q) = E_pθ(z|q)[ p_w(a|G, q, z) ] (5.17)

max_θ,w  O(θ, w) = E_{(G,q,a)∼pdata}[ log E_pθ(z|q)[ p_w(a|G, q, z) ] ] (5.18)

각 학습 반복에서 먼저 추론 예측기 pw에 대해 식 (5.18)을 최대화한다. 그다음 EM 알고리즘으로 규칙 생성기를 갱신한다. E-단계에서는 규칙 생성기를 사전, 추론 예측기를 우도로 사용해 사후 추론 pθ,w(zI|G, q, z) ∝ pw(a|G, q, zI) pθ(zI|q)로 생성된 모든 규칙에서 고품질 규칙 zI를 식별한다. M-단계에서는 E-단계에서 선택된 고품질 규칙과 일관되도록 규칙 생성기의 파라미터 θ를 갱신한다.

R5 — 순차 의사결정으로서의 관계 추론

RNNLogic은 벤치마크에서 누락 링크 예측에 성공했지만 기계 지능의 핵심 측면인 체계성(systematicity)을 결여한다. 체계성은 관계 데이터를 추론하면서 확립된 부분과 규칙을 재조합해 새로운 수열을 만드는 모델의 역량이다. 예컨대 논리 규칙 δ₁과 δ₂를 결합하면 예측에 쓸 규칙 δ₃를 성공적으로 얻을 수 있다.

R5 [14]는 관계 추론 태스크를 순차 의사결정 문제로 정식화하고, 추론 에이전트와 동적 규칙 메모리를 결합해 논리 추론과 규칙 추출을 수행한다. 먼저 KG를 질의된 엔티티 쌍을 잇는 경로의 모임으로 변환한다. R5에서 질의는 (h, ?, t) 형태, 즉 주어진 엔티티 쌍에 대해 관계를 질의하는 형태다. 이후 학습된 규칙을 반복 적용해 경로상의 관계 쌍을 병합하고 단일 관계로 대체한다. 두 질의 노드를 잇는 최종 관계를 유도할 때까지 이 과정을 반복한다.

추론 에이전트 (Reasoning Agent)

심층 강화 학습과 몬테카를로 트리 탐색(MCTS) [15]으로 학습된다. 관계 수열 [rb1, …, rbl]이 주어지면 에이전트가 체계적으로 관계 쌍 (rbi, rbi+1)을 선택하고, 학습된 규칙 rh ← (rbi, rbi+1)을 적용해 두 관계를 하나로 병합한다. 이 과정을 반복해 수열을 단일 관계로 점진적으로 단순화한다.

동적 규칙 메모리. 후보 규칙을 저장·갱신하고 학습 중 추론 에이전트와 상호작용하는 모듈이며, 두 해시 테이블로 해석된다. rh ← (rbi, rbi+1) 형태의 Drl은 후보 규칙을 기억하고, score ← (rbi, rbi+1) 형태의 Drls은 규칙 점수를 추적한다. MCTS는 Drl에서 규칙을 얻어 경로의 관계 쌍을 규칙 머리로 대체한다. 규칙이 Drl에 없으면 MCTS는 발명된 관계를 버퍼 runkn에 추가하고 이를 규칙 머리로 사용한다.

요약. 학습 기반 방법은 다양한 학습 패러다임을 활용해 심볼릭 논리 규칙 학습과 신경망 모델을 결합하는 유연하고 적응적인 접근을 제공한다. 이 방법들은 데이터로부터 규칙을 발견하는 데 알고리즘에 의존하므로, 규칙 학습 과정의 효과성은 학습 알고리즘의 선택에 크게 의존한다.

논리 규칙을 자동으로 학습하려는 많은 노력에도 기존 연구에는 두 한계가 있다. 첫째, 대부분의 기존 방법은 규칙 평가의 점수 함수를 정의하는 데 관측된 규칙 인스턴스에 전적으로 의존한다. 그래서 규칙 인스턴스의 지지가 없는 규칙은 마이닝할 수 없다. 예컨대 뒷받침 증거가 없으므로 Fig. 5.1의 KG에서 다음 규칙은 학습될 수 없다.

δ₃ := hasUncle(x, y) ← hasGrandma(x, z) ∧ hasSon(z, y) (5.24)

둘째, 큰 KG에서 규칙 인스턴스의 수가 극히 많으므로 확장성이 또 다른 핵심 난관이다. 규칙 평가를 규칙 인스턴스에 완전히 의존하는 대신, RLogic [1]은 표현 학습 기반 모델로 스키마 수준에서 직접 논리 규칙을 학습할 것을 제안한다. 그런 모델을 학습하는 데는 소량의 샘플링된 닫힌 경로만으로 충분하므로 효율이 크게 개선된다. 연역적 추론을 규칙 학습에 더 깊이 밀어 넣기 위해 RLogic은 큰 순차 모델을 작은 원자 모델로 재귀적으로 분해하며, 이것이 규칙 인스턴스의 직접적 지지 없이 규칙을 탐지하는 데 필수적이다.

5.4.1RLogic의 프레임워크

5.4.1.1 계수 기반 측도에서 모델 기반 측도로

몸통 경로가 닫힐 수 있는 비율이 통상 점수 함수를 정의하는 데 활용된다(연관 규칙 마이닝의 신뢰도, Neural-LP의 규칙 머리 트리플 만족 비율 등). 규칙 추출 시 점수가 가장 높은 상위 k개 규칙이 학습된 규칙으로 선택된다.

s(r_h, r_b) = |{(x, z₁, …, z_n−1, y) : r_h(x, y) ← r_b1(x, z₁) ∧ ⋯ ∧ r_bn(z_n−1, y)}|  /  |{(x, z₁, …, z_n−1, y) : r_b1(x, z₁) ∧ ⋯ ∧ r_bn(z_n−1, y)}| (5.26)

분자는 규칙 인스턴스(닫힌 경로)의 수, 분모는 몸통 인스턴스(관계 경로)의 수다. 이 신뢰도 측도는 순전히 관측된 규칙 인스턴스의 계수에 근거하므로 KG의 품질과 완전성에 매우 민감하다. KG에 노이즈가 있으면 위양성 규칙을 들여올 수 있고, 이름이 다른 유사 엔티티·관계(“Anthony” vs. “Tony”)가 있으면 규칙 인스턴스를 과소 계수해 규칙을 놓칠 수 있으며, 사실이 누락되면 낮은 지지도 때문에 규칙을 놓칠 수 있다.

대신 RLogic은 규칙 몸통이 규칙 머리를 예측할 모델 기반 확률로 새로운 측도를 제안한다.

s(r_h, r_b) = q(r_h | r_b) (5.27)

몸통 길이가 n인 규칙에 대해 모든 확률을 저장하려면 |R|(n+1) 차원의 텐서가 필요하다. 계수 기반 접근으로 각 성분을 추정할 만큼 충분한 데이터 지점을 얻는 것은 너무 비싸고 불가능하다. 모델 기반 접근은 관측 인스턴스로 함수를 적합해 이 문제를 완화하며, 몸통과 머리를 입력으로 임의 성분의 확률을 추론할 수 있다.

5.4.1.2 RLogic 프레임워크

먼저 각 관계 ri에 학습 가능한 임베딩 벡터 ri ∈ Rd를 결합한다. 관계의 표현이 있으면 RLogic은 어휘적으로 다른 GrandPa와 GrandFather 같은 유사 관계를 식별할 수 있다. 관계 경로 rb는 경로 연역을 통해 반복적으로 벡터로 인코딩된다. 관계 경로로부터 항상 기존 관계를 추론할 수 있는 것은 아니다. 예컨대 경로 [hasMother, hasMother, hasDaughter]는 hasAunt로 추론되지만 그 관계가 KG에 없을 수 있다. 미관측 관계를 수용하기 위해 예측 집합 R에 “null” 술어 r0를 도입한다.

다음으로 논리 규칙의 연역적 본성을 모델링 과정에 결합하며, 이는 학습과 추론의 결합 역량 덕분에 특히 증거가 희소할 때 성능을 크게 개선한다. 연역적 본성은 더 짧은 규칙을 근거로 긴 규칙의 추론을 분해할 수 있게 한다. 짧은 Horn 규칙 rk ← ri ∧ rj가 주어지면 긴 몸통에서 관계 쌍 ri ∧ rj를 그 머리 rk로 대체해 축약할 수 있다. 서로 다른 짧은 Horn 규칙을 관계 경로에 재귀적으로 적용하면 결국 단일 머리로 변환된다.

q(r_h | r_b1, r_b2, r_b3) = Σ_k q(r_h | r_k, r_b3)  q(r_k | r_b1, r_b2) (5.28)

즉 처음 두 관계를 가능한 관계 rk ∈ R ∪ {r0}로 축약하고, 그 중간 관계를 rb3와 함께 머리 관계로 더 축약한다. rk의 모든 가능한 경우를 집계하며, 몸통이 머리를 예측할 최종 확률은 각 경우에 대한 가중 평균이다. 매 단계에서 길이 2의 수열만 모델링하면 되므로 RNN 같은 긴 수열 모델링의 계산 부담이 크게 줄어든다.

논리 연역으로 관계 경로를 단일 머리로 축약할 수 있지만, 실세계 KG의 희소성 때문에 그 머리 관계가 항상 관측되지는 않는다. 따라서 논리 규칙 기반 “이상적 예측”과 KG의 “실제 관측” 사이의 간극을 메우기 위해 p(rt|rh)를 도입한다. 이는 같은 머리·꼬리 엔티티에 대해 rh가 참일 때 관계 rt를 가진 트리플을 관측할 확률이다.

p(r_t | r_b) = Σ_h p(r_t | r_h)  q(r_h | r_b) (5.29)

(1) 재귀적 관계 경로 축약 — q(r_h | r_b)

긴 관계 경로를 짧은 것으로 축약해 추론을 예측 안으로 밀어 넣는다. 구체적으로 몸통의 인접한 두 관계를 하나로 재귀적으로 축약해 두 관계만 남을 때까지 진행한다. 그러면 길이 2 몸통에서 관계 머리로의 확률 q(rk|ri, rj)만 모델링하면 되며, 길이가 상대적으로 짧으므로 증거를 더 쉽게 모을 수 있다. 이 착상은 (1) 관계 경로를 축약할 순서 결정과 (2) 관계 쌍에서 단일 관계를 예측하는 확률 학습을 요구한다.

다음 연역 대상 관계 쌍의 결정. 정답 연역 순서를 알 수 없으므로 축약의 불확실성을 측정하는 데 엔트로피를 사용할 것을 제안한다. 엔트로피가 낮을수록 그 관계 쌍이 하나의 관계로 축약될 수 있다는 확신이 커진다. 매 단계에서 엔트로피가 가장 낮은 관계 쌍을 선택하면 항상 연역 신뢰도가 가장 높은 쌍을 고르게 된다.

E((r_i, r_j)) = Σ_{rk ∈ R} − q(r_k | r_i, r_j) log q(r_k | r_i, r_j) (5.30)

관계 경로에서 단일 관계로의 확률적 연역. RLogic에서 q(rk|ri, rj)는 MLP 분류기 fθ(ri, rj)로 근사된다. 술어 ri, rj의 임베딩을 입력받아 “null” 술어를 포함한 KG의 각 관계를 예측할 확률을 출력한다. q(rk|ri, rj)가 범주형 분포를 따르므로 MLP는 마지막 층 활성 함수로 softmax를 사용한다.

몸통 rb = [rb1, …, rbn]에서 (rb1, rb2)가 먼저 연역 대상으로 선택되면, 이들은 서로 다른 확률로 각 관계 rk에 이른다. 예컨대 몸통 hasAunt(x, z) ∧ hasSister(z, y)가 주어지면 hasMother(x, y)와 hasAunt(x, y)가 서로 다른 확률로 머리로 유도될 수 있다. 복잡한 논리 연역을 모델링하려면 이 모든 가능성을 계산에 포함하는 것이 중요하다. 따라서 관계 쌍을 미관측 관계 r0를 포함한 서로 다른 관계에 대한 가중 평균으로 인코딩한다.

r̃ = Σ_k=0^|R| q(r_k | r_b1, r_b2) · r_k (5.31)

r̃는 KG의 모든 술어 표현을 “연성으로” 합산해 학습되는 가중 평균 표현이다. 관계 경로 인코더는 재귀적으로 다음 최선의 쌍을 결정하고 새로 생성된 관계의 임베딩을 계산한다. 몸통에 두 관계만 남으면 MLP로 임의 관계 rh로 축약될 확률을 예측할 수 있다.

q(· | r_b1, r_b2, r_b3) = q(· | r̃, r_b3) = f_θ(r̃, r_b3) (5.32)

(2) 닫힘 비율 예측기 — p(r_t | r_h)

논리 연역으로 관계 경로를 단일 머리 관계로 확률적으로 축약할 수 있지만, 실세계 KG의 희소성 때문에 그 머리가 항상 관측되지는 않는다. “이상적 예측”과 “실제 관측” 사이의 간극을 메우기 위해 경로가 닫힐 비율을 예측하는 닫힘 비율 예측기가 제안된다. p(rt|rh)를 모델링하는 2층 완전 연결 신경망(MLP)을 도입하며, 첫 층 활성 함수로 ReLU, 둘째 층에 sigmoid를 추가한다. 관계 경로 인코더가 마지막 단계에서 학습한 가중 평균 r̃*와 임베딩 rt를 입력으로 닫힘 비율을 결정한다.

5.4.1.3 모델 학습

5.4.1.4 규칙 추출

RLogic에서 논리 규칙을 복원하려면 학습이 끝난 뒤 규칙 공간의 각 규칙에 대해 점수 s(rh, rb)를 계산한다. 특정 머리 관계에 대한 규칙을 학습하는 Neural-LP나 RNNLogic 같은 대부분의 기존 뉴로-심볼릭 방법과 달리, RLogic은 서로 다른 머리를 가진 규칙을 동시에 학습하므로 그들 사이의 총체적 순위를 제공할 수 있다. 이 점수로 특정 관계를 추론할 규칙을 고르는 대신 KG 전체를 해석할 가장 중요한 규칙을 선택할 수 있다.

추출 절차는 다음과 같다. 후보 몸통 rb가 주어지면 q(rk|ri, rj)에 따라 경로의 관계 쌍을 재귀적으로 병합해 rb를 단일 머리로 축약한다. 매 단계에서 엔트로피가 최소인 관계 쌍이 선택되어 식 (5.31)에 따라 중간 표현 r̃로 대체된다. 연역이 끝나면 벡터 [q(r0|rb), q(r1|rb), …, q(r|R||rb)]를 얻으며, 점수가 가장 높은 상위 k개 규칙이 학습된 규칙으로 선택된다.

5.4.2기존 접근과의 연결

논리 규칙은 스키마 수준 개념이지만 KG에서 직접 관측할 수 있는 것은 인스턴스 수준 증거뿐이다. 이 간극을 메우기 위해 규칙 인스턴스의 빈도가 흔히 논리 규칙의 그럴듯함을 결정하는 데 사용된다. 예컨대 Fig. 5.1의 KG에서 머리 관계 hasGrandma를 예측하는 길이 2 규칙 공간은 트리 구조로 표현되며, 뿌리에서 잎까지의 각 경로가 규칙 몸통에 대응한다. 여기서 점수가 높은 두 규칙 — δ₁은 0.75, δ₂는 1 — 이 학습된다.

5.4.3실험

5.4.3.2 KG 완성 태스크로 본 학습 규칙의 품질

KG 완성은 Neural-LP, DRUM, NLIL 같은 논리 규칙 학습 방법이 학습 규칙의 품질을 평가하는 데 널리 사용하는 고전적 태스크다. 규칙 학습 후 전방 연쇄 [21]로 논리 규칙에서 누락 사실을 유도한다. RLogic이 학습한 점수 상위 2,400개 규칙이 KG 완성 태스크에 선택된다. 평가에는 필터링 설정 [22]과 Hit@1, Hit@10, MRR 세 지표를 사용하며, 동일 점수 트리플의 동점 처리는 무작위 프로토콜 [23]을 따른다.

결과에서 다음을 확인할 수 있다. (1) RLogic은 KG 완성 태스크를 위해 특별히 설계되지 않았음에도 전통적 KGE 모델과 비교해 모든 데이터셋에서 비교 가능한 결과를 달성한다. (2) 대부분의 논리 규칙 학습 방법을 유의미한 성능 향상으로 능가한다. (3) RNNLogic은 누락 링크 예측을 위해 강력한 추론 예측기를 공동 학습하므로 KG 완성에서 뛰어난 성능을 보인다. 이와 공정하게 비교하기 위해 개선된 추론 예측기를 결합한 RLogic+가 제안된다.

귀납적(inductive) 링크 예측

논리 규칙 학습 방법을 전이적 KG 완성 태스크만으로 KGE 방법과 비교하는 것은 공정하지 않다. 미관측 엔티티에 대해 추론할 수 없는 KGE 방법과 달리 논리 규칙은 귀납적 설정에서 더 강력하다. 모든 규칙 학습 알고리즘이 전이적 설정에서와 유사한 성능을 여전히 달성한다.

RLogic+ — 학습 규칙과 KG 임베딩의 결합

RLogic은 다른 기준 방법과 달리 KG 완성 태스크를 부산물로 강화하지 않고 규칙을 직접 학습한다. 고품질 논리 규칙을 생성할 수 있지만, 좋은 추론 예측기가 없어 KG 완성 성능이 규칙의 커버리지와 KG의 불완전성에 심하게 제약된다. UniKER [27]를 따라 RotatE [26]로 점수가 높은 추가 트리플을 더해 KG 희소성 문제를 해결하고, 그다음 전방 연쇄로 누락 트리플을 예측한다. RNNLogic과 RLogic을 이 방식으로 확장한 것을 각각 RNNLogic+, RLogic+로 표기한다.

5.4.3.3 규칙 머리 예측 태스크로 본 학습 규칙의 품질

Family 데이터셋에서 각 시스템이 학습한 규칙의 정확성을 직접 평가하기 위해 규칙 머리 예측이라는 새로운 태스크를 제안한다. 규칙 몸통 집합의 머리를 예측하는 태스크이며, 정답 준비에는 사람의 주석을 사용하고 평가 지표로 MAP(Mean Average Precision)를 취한다.

사례 연구(Fig. 5.10). 재귀 메커니즘의 힘을 보이기 위해 길이 2, 5, 6의 규칙 몸통으로 세 질의를 수작업으로 설계했다. 긴 질의는 짧은 질의의 몸통 끝에 새 술어를 추가해 형성했다. 추론된 상위 세 규칙 머리를 확률과 함께 제시한 결과, RLogic은 모든 경우에 일관되게 좋은 성능을 보이는 반면 RNN과 LSTM은 몸통 길이가 늘수록 올바른 예측을 제공하기가 점점 어려워진다.

5.4.3.4 학습 효율

RLogic은 스키마 수준에서 직접 규칙을 학습하고 다른 기존 방법은 인스턴스 수준 기저 규칙을 근거로 학습하므로, RLogic은 모든 기존 방법보다 훨씬 효율적이다. 기준 방법이 긴 규칙을 학습하기 어려우므로 공정한 비교를 위해 학습 규칙의 최대 길이를 2로 제한했다.

5.4.3.5 규칙의 품질과 해석 가능성

RLogic이 FB15k-237에서 마이닝한 논리 규칙 일부를 제시한다. 머리 술어마다 서로 다른 길이의 두 규칙을 제시하고, 같은 의미를 전달하는 술어를 굵게 강조했다. 긴 규칙의 강조 술어들이 짧은 규칙의 강조 술어를 추론하는 데 사용될 수 있음을 관찰할 수 있으며, 이는 RLogic이 논리 규칙의 연역적 본성을 포착함을 다시 검증한다.