제8장 불완전한 KG 위 뉴로-심볼릭 추론에 의한 모호 개체 매칭

SECTION 8.1

서론 — 저자원 EM과 속성 정보의 힘

개체 매칭은 두 개체 레코드가 같은 실세계 개체를 가리키는지 판정하는 데이터 관리의 근본 문제로, 질의응답[73], 대화 시스템[1, 3, 146] 등 다양한 도메인에서 중요하다. 서로 다른 소스의 고객 정보를 저장하는 두 지식 데이터베이스를 병합할 때, 스키마·데이터 형식의 차이 때문에 결합은 어려운 과제가 되지만 — 개체 매칭으로 데이터베이스 간 일치하는 고객 레코드를 식별하면 정확한 데이터 병합·연결이 가능해진다.

기존 EM 기법은 풍부한 고품질 라벨 데이터에 광범위하게 의존하지만 그런 데이터는 흔히 희소하거나 존재하지 않는다. 따라서 최소한의 라벨로 견고한 성능을 내는 저자원(low-resource) EM의 필요가 커지고 있다. 프롬프트 튜닝은 초기 프롬프트를 정교하게 설계·조정하여 모델의 행동을 원하는 결과로 유도하는 유망한 방식이다. promptEM[151] 같은 기존 프롬프트 튜닝 기반 저자원 EM은 각 개체를 문장으로 직렬화하고 프롬프트 템플릿으로 언어모델 입력을 생성한다. 많은 시나리오에서 좋은 성능을 보였으나, 이런 모델은 블랙박스처럼 동작해 해석 가능성이 부족하고, 개체 수준 정보만 고려해 각 개체에 딸린 결정적인 속성 정보를 간과한다.

WHY ATTRIBUTES MATTER — 속성이 판정을 가른다

RECORD A

nameMichael Jordan

occupationbasketball player

RECORD B

nameMichael Jordan

occupationcomputer scientist

name두 레코드의 이름이 완전히 일치한다SAME

occupation"basketball player" vs "computer scientist" — 직업이 서로 다르다DIFFERENT

개체 수준 판정 → DIFFERENT. 속성 정보는 더 세밀한(fine-grained) 세부를 담고 있어 두 개체가 왜 Same·Different·Ambiguous인지 설명할 수 있게 한다 — 직업이 "basketball player"인 Michael Jordan은 직업이 "computer scientist"인 Michael Jordan과 다르다.

또한 기존 프롬프트 튜닝 방법은 입력 소프트 프롬프트가 훈련 과정에서 잘 학습된다고 가정할 뿐, 서로 다른 입력의 표현을 명시적으로 구별 가능하게 만들지 않는다. 그러나 고품질 개체/속성 표현은 EM 성공의 핵심이다 — 두 개체/속성이 다르면 그 표현은 쉽게 구별되어야 한다. 언어모델에 드롭아웃 기반 대조학습을 적용해 표현 학습 품질을 높이는 SimCSE에서 영감을 받아, 소프트 프롬프트에 드롭아웃 기반 대조학습을 적용한다.

SECTION 8.2

문제 정의 — 직렬화와 프롬프트 기반 튜닝

저자원 개체 매칭의 정의를 제시하고, EM을 위한 직렬화 방법과 언어모델 프롬프트 기반 튜닝을 소개한다.

PROBLEM 8.1 · 저자원 개체 매칭

두 데이터 소스 E_A, E_B가 주어지면, 각 후보 쌍 (e_a, e_b) ∈ E_A × E_B에 이진 라벨 y ∈ {0, 1}을 부여한다 — y = 1은 참 매칭, y = 0은 불일치 쌍이다.
주어진 것 — (1) 데이터 소스 E_A의 개체 e_a, (2) 데이터 소스 E_B의 개체 e_b, (3) 제한된 라벨 훈련 데이터. 출력 — 개체 쌍 (e_a, e_b)에 대한 이진 라벨 y ∈ {0, 1}.

SERIALIZE8.2.2 예비 지식 — 직렬화 (Eq 8.1–8.2)

매칭 문제는 시퀀스 분류 태스크로 정식화하면 효과적으로 풀 수 있다 — 개체 쌍을 시퀀스로 직렬화하고 사전학습 LM을 파인튜닝한다. n개 속성을 가진 개체는 e = {attr_i, val_i}_{i∈[1,n]}로 표기하며 (attr_i: 속성명, val_i: 속성값), 직렬화는 serialize(e) ::= [COL]attr₁[VAL]val₁ … [COL]attr_n[VAL]val_n (Eq 8.1)이다 — [COL]·[VAL]은 각각 속성명·속성값의 시작을 표시하는 특수 태그다. Fig 8.1의 관계형 개체를 예로 들면:

EQ 8.2 · 직렬화 예시

[COL]name [VAL]McKees Rocks Bridge … [COL]postalCode [VAL]15233

[MASK]8.2.3 프롬프트 기반 튜닝 — 클로즈 태스크로의 변환

FORMULATION · 분류 → 마스크 언어 모델링

라벨 단어 집합 V_y = {w₁, …, w_m}은 LM 어휘 V의 부분집합(V_y ⊆ V)이며, 각 라벨에 대응하는 사전들의 합집합으로 전체 사전 V*를 얻는다. 또 다른 핵심 구성 요소인 프롬프트 템플릿 T(·)은 원 입력 x에 토큰들을 추가해 프롬프트 입력 T(x)로 바꾸며, 일반적으로 LM이 누락 라벨 단어 w ∈ V_y를 예측하도록 [MASK] 토큰이 추가된다. 이렇게 분류 문제가 마스크 언어 모델링 문제로 전환된다:

p(y ∈ Y | x) = p([MASK] = w ∈ V_y | T(x))

T(x)8.2.4 프롬프트 템플릿 — 하드 인코딩 · 연속 · 라벨 단어

하드 인코딩 템플릿. EM 태스크는 목적이 분명해 프롬프트를 쉽게 설계할 수 있으므로 이산 프롬프트의 자동 탐색을 쓰지 않는다. 각 후보 쌍 x = (e, e′)에 대해 다음 템플릿을 구성한다(다양한 프롬프트 사용이 가능하며 두 가지 단순 예시만 제시):

EQ 8.3–8.4 · 하드 인코딩 템플릿

T₁(x) =Are serialize(e)and serialize(e′)the[MASK]

T₂(x) = serialize(e)is[MASK] toserialize(e′)

연속 템플릿. 프롬프트 구성의 목적은 사람이 읽기 위함이 아니라 LM이 태스크를 효과적으로 수행하게 하는 것이므로, 사람이 해석 가능한 자연어로 제한할 필요가 없다. 모델의 임베딩 공간에서 직접 프롬프팅하는 연속 프롬프트가 그래서 제안됐다. 여기서는 P-tuning을 채용한다 — 훈련 가능한 변수를 임베딩 입력에 삽입해 연속 프롬프트 토큰을 학습하며, BiLSTM으로 프롬프트 토큰 간 상호작용을 반영한다. 이로써 모델은 원 어휘 V가 표현할 수 있는 범위를 넘어 더 좋은 연속 프롬프트를 찾는다(Fig 8.2[151]).

라벨 단어 집합. 두 개체가 동일한지만 판정하기보다 둘 사이의 관계를 분류하는 편이 더 유익하다 — 단순 매칭을 넘어 서로 관련이 있는지(relevant)라는 더 넓은 범위의 관계를 판정한다. 일반적 이진 관계에 대해 y = yes는 {matched, similar, relevant}로, y = no는 {mismatched, different, irrelevant}로 매핑하여 관련성과 무관성의 다양한 정도를 포착한다.

SECTION 8.3

방법 상세 — 두 수준의 프롬프트, 퍼지 유도, 대조학습

PromptAttrib은 개체 수준 프롬프트 튜닝 위에 속성 수준 프롬프트 튜닝을 더하고, 속성 수준 예측으로부터 개체 수준 라벨을 퍼지 논리로 유도하며, 소프트 토큰에 대조학습을 적용해 표현 품질을 끌어올린다.

1×[MASK]8.3.1 개체 수준 프롬프트 튜닝

PromptEM[75, 151] 같은 기존 방법에서 영감을 받아, 두 개체의 동일 여부를 프롬프트 튜닝으로 검사한다. 두 개체를 각각 직렬화하고(§8.2.4), 직렬화된 두 텍스트를 프롬프트 템플릿의 입력으로 써서(Fig 8.3a) 결과 맥락을 대규모 언어모델에 넣는다. 특수 토큰 [MASK]의 출력 임베딩을 MLM 헤드가 받아 결과를 예측한다. 라벨 단어 집합은 §8.2.4와 동일하다 — y = yes → {matched, similar, relevant}, y = no → {mismatched, different, irrelevant}.

N×[MASK]8.3.2 속성 수준 프롬프트 튜닝

개체 수준 프롬프트가 [MASK] 토큰 하나만 갖는 것과 달리, 속성 프롬프트는 개체 수준과 속성 수준 정보를 모두 담아 템플릿에 여러 [MASK] 토큰을 갖는다 — 첫 [MASK]는 개체 수준 정보를, 이후 [MASK]들은 속성 수준 정보를 예측한다. 대부분의 경우 이 강화된 프롬프트는 효과적이지만, 어떤 개체는 방대한 정보를 담는다 — 예컨대 "computer" 같은 제품의 Description 필드는 512 단어를 넘길 만큼 길 수 있어, 속성 정보를 합친 프롬프트가 모델의 최대 입력 길이를 초과해 텍스트 절단이 불가피해진다. 이 문제에 대응해 개체 수준 프롬프트와 속성 수준 프롬프트를 분리한다(Fig 8.3b). 개체 수준과 달리 속성 수준 프롬프트 튜닝의 라벨 단어 집합은 Same·Different·Ambiguous 세 범주다.

y = Same

samesimilarpositive

y = Different

mismatcheddifferentirrelevant

y = Ambiguous

uncertainunclearneutral

⊤ / max8.3.3 퍼지 논리 추론 — 속성에서 개체로의 유도

개체 수준 매칭은 속성 수준 매칭으로부터 논리적으로 유도될 수 있다. 개체 매칭의 정의에 기반해 세 가지 유도 규칙을 개발한다 — {(a_k¹, a_k²)}_k=1^K를 모든 속성 쌍이라 하자.

FUZZY INDUCTION RULES — 규칙을 선택하면 논리·수식·근거가 표시된다

EQ 8.8 · 정규화와 훈련

모든 점수가 양수이므로 합으로 나누어 확률로 정규화한다:

P(L|·) = Z⁻¹·S(L|·), Z = S(Same|·) + S(Different|·) + S(Ambiguous|·) (8.8)

L ∈ {Same, Different, Ambiguous}다. 훈련은 정답 개체 수준 라벨 t에 대한 교차 엔트로피 손실 −log P(t|·)의 최소화로 수행한다. 실험에서는 Ambiguous를 데이터셋에 따라 Same 또는 Different로 분류한다.

z₁ ↔ z₂8.3.4 소프트 토큰 대조학습 (SimCSE 영감)

현행 프롬프트 튜닝은 초기 소프트 프롬프트가 훈련 중 잘 확립되고 학습된 표현이 충분히 구별된다고 가정하지만, 저자원 시나리오에서는 이 가정이 성립하지 않는 경우가 많다. 대조학습의 아이디어는 유사 인스턴스 표현의 유사도는 최대화하고 상이한 인스턴스의 유사도는 최소화하여 더 의미 있고 판별적인 특징 표현을 길러내는 것이다.

MECHANISM · 드롭아웃 마스크 기반 양성 쌍 생성

개체 e_i가 주어지면 serialize(e_i) 내부의 소프트 프롬프트 토큰에 무작위 드롭아웃 마스크를 적용해 양성 샘플 e_i⁺를 만든다(Transformer의 표준 훈련에서도 완전연결층과 어텐션 확률에 p = 0.1의 드롭아웃 마스크를 적용해 강건성을 높인다[149]). 양성 데이터를 프롬프트 튜닝 모델 z = f_θ(e_i⁺)에 통과시켜 임베딩을 얻고, 서로 다른 드롭아웃 마스크로 두 번 반복해 양성 임베딩 z₁·z₂를 생성한다. 훈련 목표는:

ℒ = ‖z₁ − z₂‖²

SimCSE[48]가 언어모델 파라미터에 드롭아웃을 적용하는 것과 달리, 언어모델은 그대로 두고 프롬프트 내부의 입력 소프트 토큰에만 드롭아웃을 적용한다 — 언어모델 파라미터 수정은 시간이 많이 들기 때문이다. 입력 프롬프트 맥락이 같아도 드롭아웃을 여러 번 적용하면 서로 다른 입력이 생성된다. 이 개념은 대조 손실에서 양성 쌍만 쓴다는 점을 제외하면 샴 네트워크(siamese network)[116]와 유사하다. 최종 프레임워크는 Fig 8.4에 제시된다.

SECTION 8.4

실험 — 라벨 5%의 저자원 검증

다양한 실세계 시나리오를 대표하는 데이터셋들에서 제안 방법을 종합 평가한다. 라벨 훈련 데이터의 5%만 사용하여 저자원 개체 매칭 시나리오를 모사한다.

0.811

Geo-heter F1 최고 (P 0.853 · A 0.889) — PromptEM 0.785, Ditto 0.036

4/4

네 데이터셋 모두에서 정확도(A) 최고 — 일관된 우위

RoBERTa-L

백본 6종 중 Roberta-large가 최고 (F 0.811 / P 0.854 / A 0.889)

0.35

최적 드롭아웃 비율 — F 0.455·P 0.456으로 정규화-정보보존 균형 최선

DATA실험 설정

Geo-heter

Yelp, Foursquare(FSQ), OpenStreetMap(OSM) 등 유명 위치 기반 플랫폼에서 수집한 지리공간 개체 194,089개.

Cameras (WDC 부분집합)

WDC는 다양한 전자상거래 웹사이트에서 수집한 2,600만 개 제품 오퍼·설명의 방대한 컬렉션이다. Cameras는 카메라 모델·브랜드·사양 등 카메라 관련 개체에 집중한다.

Computers (WDC 부분집합)

컴퓨터 모델·브랜드·구성 등 컴퓨터 관련 개체로 구성된 WDC 부분집합.

ISWC

International Semantic Web Conference 관련 개체 — 논문, 저자, 개최지, 출판 연도를 포함한다.

베이스라인 4종 — SentenceBERT[116](사전학습 LM의 샴 구조로 문장 매칭; GEM에도 적용 가능), DeepMatcher[156](RNN으로 속성값을 집계하고 집계 표현을 정렬하는 EM 프레임워크), Ditto[75](도메인 지식·TF-IDF 요약·데이터 증강의 3대 최적화로 사전학습 LM을 파인튜닝하는 SOTA EM), PromptEM[151](클로즈 태스크 개념으로 LLM을 튜닝하는 프롬프트 기반 EM). 환경 — Intel(R) Xeon(R) Gold 6240R CPU, 1510GB 메모리, NVIDIA Tesla V100-SXM2 GPU. 지표 — F1-score(F), Average Precision(P), Accuracy(A).

T8.18.4.1 개체 매칭 성능

모델	Geo-heter			Cameras			Computers			ISWC
모델	F	P	A	F	P	A	F	P	A	F	P	A
SentenceBERT	58.8	53.8	64.8	38.3	21.4	21.3	39.4	35.6	57.5	66.2	68.0	75.5
DeepMatcher	43.8	28.9	72.1	39.2	22.4	23.0	42.8	37.1	58.9	69.1	70.6	76.3
Ditto	3.6	45.5	71.3	42.8	27.3	27.3	44.9	40.3	62.1	72.1	72.7	80.6
PromptEM	78.5	84.5	85.5	35.4	29.4	68.8	49.5	45.2	68.4	76.4	73.6	81.9
PromptAttrib	81.1	85.4	88.9	45.5	45.6	72.2	47.7	49.5	72.1	77.5	79.6	82.5

// 원문 산문은 Computers에서 PromptAttrib이 최고 F1(0.477)이라 기술하나 표에는 PromptEM의 F가 49.5로 더 높다 — 원문 자체의 불일치를 그대로 명시한다

Geo-heter에서 PromptAttrib은 Ditto·PromptEM을 모두 능가하며 F1 0.811, 평균 정밀도 0.853, 정확도 0.889로 최고다 — PromptEM도 F1 0.785로 선전하지만 Ditto는 F1 0.036으로 가장 낮다. Cameras에서는 PromptAttrib이 F1 0.455·평균 정밀도 0.456·정확도 0.722로 최고이고 PromptEM이 정확도 0.688로 그다음이다. Computers에서 원문은 PromptAttrib이 최고라 기술하며 표 기준 평균 정밀도(0.495)와 정확도(0.721)에서 최고, PromptEM이 F1 0.495·평균 정밀도 0.452로 근접하고 Ditto는 F1 0.449로 뒤처진다. ISWC에서도 PromptAttrib이 F1 0.775·평균 정밀도 0.796·정확도 0.825로 최고이며, PromptEM(F1 0.764·P 0.736·A 0.819)이 근접하고 Ditto는 F1 0.721이다. 전반적으로 PromptAttrib이 여러 데이터셋에 걸쳐 베이스라인을 일관되게 능가한다.

T8.28.4.2 백본 언어모델별 성능 (Geo-heter)

프롬프트 튜닝 모델의 백본으로 여러 언어모델을 평가한다 — BERT[37], Roberta[94], Albert[72], GPT2[115], Roberta-large, Albert-large의 6종이다.

백본 (Geo-heter)	F	P	A
BERT	77.2	73.5	83.4
Roberta	79.5	78.2	86.4
Albert	78.7	80.2	86.6
GPT2	64.7	68.4	79.7
Roberta-large	81.1	85.4	88.9
Albert-large	79.9	83.1	86.2

Roberta-large가 F1 0.811·평균 정밀도 0.854·정확도 0.889로 최고이고, Albert-large(0.799/0.831/0.862)가 근접한다. Roberta(F1 0.795)·BERT(F1 0.772)가 뒤를 잇고, GPT2는 F1 0.647·평균 정밀도 0.684로 다른 모델보다 낮다. 정확도에서도 Roberta-large(0.889)가 두드러지며 Albert(0.866)·Albert-large(0.862)가 뒤따른다. Roberta-large·Albert-large 같은 큰 언어모델이 BERT·GPT2 같은 작은 모델보다 좋은 경향은 개체 매칭 성능 개선에서 모델 크기와 용량의 중요성을 시사한다.

T8.38.4.3 어블레이션 — 드롭아웃 비율 (Cameras)

대조학습과 속성 수준 프롬프트 튜닝의 결합 효과를, 특히 저자원 시나리오에서 검증한다. "PromptAttrib 0.35"는 드롭아웃 비율 0.35, "PromptAttrib No"는 드롭아웃 미적용을 뜻한다.

모델 (Cameras)	F	P	A
Ditto	42.9	27.3	27.3
PromptEM	42.3	31.7	71.3
PromptAttrib No	40.4	39.7	71.7
PromptAttrib 0.35	45.5	45.6	72.3
PromptAttrib 0.4	37.6	39.0	70.9
PromptAttrib 0.45	39.1	39.5	73.1

드롭아웃 비율 0.35가 F-score 0.455·평균 정밀도 0.456으로 최고 — 정규화와 정보 보존 사이의 최선의 균형이다. "PromptAttrib No"(F 0.404)와 비교하면 드롭아웃 적용이 일반적으로 성능을 개선하며, 과적합 방지와 일반화 능력 향상에 기여함을 시사한다. 흥미롭게도 비율 0.4·0.45에서는 F-score가 각각 0.376·0.391로 하락한다 — 과도한 드롭아웃은 성능을 저하시킬 수 있다.

NOTE · 원문의 결락 원본 전자책의 8장은 정확도(A)에 대한 논의를 시작하는 문장 "However, the accuracy (A)"에서 본문이 끊긴 채 종료되며(해당 페이지가 여기서 끝나고 다음 페이지에서 9장이 시작된다), 별도의 논의(Discussion) 절 없이 마무리된다. 표 기준으로는 드롭아웃 0.45의 정확도가 73.1로 가장 높다.