33+
최근 종합 벤치마크에서 다룬 데이터셋 규모
00
핵심 요약
2025–2026년 연구 흐름을 한 문장으로 압축한다.
Graph Foundation Model은 단순히 파라미터 수가 큰 GNN이 아니다. 서로 다른 도메인, 특징 공간, 그래프 구조, 과제 형식에서 반복적으로 재사용할 수 있는 그래프 지식과 추론 능력을 사전학습하고, 보지 못한 그래프에 zero-shot, few-shot 또는 경량 적응으로 전이하는 범용 모델이다.
“모델 크기를 키우면 범용성이 생기는가?”보다 “어떤 지식이 전이되고, 언제 전이가 실패하며, 새로운 그래프 형식과 아키텍처 요구까지 적응할 수 있는가?”가 핵심 질문이 된다.
2025
공통성의 정의
그래프 간 공통 구조, 특징, 과제를 정렬하는 방법이 중심 연구 의제가 된다.
2026
전이 실패의 해석
다중 도메인 사전학습이 항상 안정적 전이로 이어지지 않는다는 경험적 결과가 축적된다.
Next
Foundation System
단일 신경망보다 LLM, 검색, 그래프 DB, 검증기, 도메인 도구를 통합한 시스템으로 진화한다.
중요한 결론.
현재 GFM은 지도학습 GNN을 능가하는 사례가 많지만, 모든 unseen graph에서 우세한 단일 모델은 존재하지 않는다. 범용성은 모델 크기보다 지식 선택, 아키텍처 적응, 그래프 형식 처리, 불확실성 관리에 의해 결정된다.
01
Definition
Graph Foundation Model의 엄밀한 정의와 경계 조건
1.1 그래프 표현
그래프는 다음과 같이 표현한다.
\[
G=(V,E,X_V,X_E,\tau_V,\tau_E,M)
\]
\(V\)와 \(E\)는 노드와 엣지, \(X_V\)와 \(X_E\)는 노드·엣지 특징, \(\tau_V,\tau_E\)는 노드·관계 유형, \(M\)은 텍스트·영상·시계열·공간 좌표와 같은 부가 모달리티를 의미한다.
1.2 GFM의 학습 목표
다양한 그래프 집합 \(\mathcal D_{\mathrm{pre}}=\{G_1,G_2,\ldots,G_N\}\)에서 사전학습한 모델 \(F_\theta\)가 새로운 그래프 \(G^\ast\), 새로운 과제 명세 \(q^\ast\), 소수 예제 \(S^\ast\)를 입력받아 예측을 생성한다.
\[
\hat y = F_\theta(G^\ast,q^\ast,S^\ast)
\]
Strong GFM
포함되는 조건
- 다중 도메인 그래프에서 사전학습한다.
- 보지 못한 그래프와 과제로 전이한다.
- zero-shot, few-shot, in-context 또는 경량 적응을 지원한다.
- 그래프 형식과 규모 변화에 견딘다.
Not Enough
엄밀한 GFM으로 보기 어려운 경우
- 하나의 그래프와 하나의 과제만 학습한 대형 GNN
- 새 그래프마다 전체 모델을 처음부터 재학습하는 모델
- 동일 특징 차원과 동일 레이블 공간만 가정하는 모델
- 특정 텍스트 그래프 한 종류에서만 작동하는 모델
\[
\text{Generalization}
=
\text{Domain}
+
\text{Structure}
+
\text{Task}
+
\text{Scale}
\]
GFM의 핵심은 주제가 달라지고, 그래프 형식이 달라지고, 과제가 달라지고, 규모가 달라져도 재사용되는 구조적·의미적 지식을 확보하는 데 있다.
02
Problem Definition
전이 위험 최소화와 저비용 적응 문제
2.1 기본 문제 설정
소스 도메인의 그래프 분포를 \(\mathcal P_{\mathrm{src}}=\{\mathcal P_1,\ldots,\mathcal P_K\}\), 학습 중 보지 못한 타깃 그래프와 과제의 결합 분포를 \((G^\ast,T^\ast)\sim\mathcal P_{\mathrm{tgt}}\)라고 한다.
\[
\min_{\theta,\phi}
\mathbb E_{(G^\ast,T^\ast)\sim\mathcal P_{\mathrm{tgt}}}
\left[
\mathcal L_{T^\ast}
\left(
A_\phi(F_\theta,G^\ast,S^\ast)
\right)
\right]
+
\lambda C(A_\phi)
\]
\(F_\theta\)는 사전학습된 backbone, \(A_\phi\)는 prompt·adapter·retrieval·prototype과 같은 경량 적응 모듈, \(C(A_\phi)\)는 적응 비용을 의미한다.
Generalization
Unseen-domain
학습에 없던 응용 분야로 전이한다.
Generalization
Unseen-format
homogeneous에서 heterogeneous, static에서 dynamic graph로 전이한다.
Generalization
Unseen-task
node-level 학습에서 link·graph-level 과제로 전이한다.
Efficiency
Low-cost adaptation
zero-shot, in-context 또는 소수 파라미터 조정만 사용한다.
2.2 Topic domain과 format domain
최근 벤치마크는 그래프 도메인을 의미적 주제인 topic domain과 표현 형식인 format domain으로 분리한다. 같은 생물학 도메인이라도 분자 그래프, 단백질 상호작용망, 동적 세포 네트워크는 서로 다른 형식적 가정을 가지므로, 주제 유사성만으로 전이 가능성을 예측할 수 없다.
2.3 GFM의 실제 학습 대상
그래프에는 모든 도메인에서 통용되는 명시적 단어가 없다. GFM이 학습해야 할 대상은 특정 노드 ID나 고정 특징이 아니라 반복적으로 등장하는 관계적 불변량이다.
\[
\text{Transferable Graph Knowledge}
=
\text{Local Motifs}
+
\text{Mesoscale Organization}
+
\text{Global Geometry}
+
\text{Task Semantics}
\]
- 주변 노드와의 상대적 역할
- 허브·브리지·커뮤니티와 같은 구조적 위치
- 삼각형·경로·고리·관계 조합과 같은 motif
- 확산, 도달성, 거리와 같은 전역 관계
- 구조를 어떤 과제로 해석해야 하는지 나타내는 task semantics
03
Core Concepts
구조 어휘, 불변성, prompting, 언어 정렬, scaling
3.1 Structural Vocabulary
GFM의 가장 중요한 개념은 그래프마다 다른 노드 ID를 제거하고, 여러 그래프에서 반복되는 구조를 공통 어휘로 만드는 것이다.
Computation Tree
Rooted Subgraph
Motif
Random-walk Path
Spectral Pattern
Structural Codebook
Graphlet
Geometric Basis
Relation Interaction
GIT는 노드·엣지·그래프 수준 과제를 task-tree라는 공통 학습 단위로 변환한다. 서로 다른 과제를 동일한 트리 재구성 문제로 정렬하여 cross-task transfer를 유도한다.
3.2 Invariance와 Specificity
\[
z_G=z_{\mathrm{inv}}+z_{\mathrm{specific}}
\]
Invariant
\(z_{\mathrm{inv}}\)
여러 그래프에 공통인 구조·관계 원리를 표현한다.
Specific
\(z_{\mathrm{specific}}\)
분자 결합, 사용자 행동, 인용 의미 등 도메인 고유 정보를 표현한다.
공통 정보만 남기면 전문성을 잃고, 고유 정보에 지나치게 의존하면 전이가 불가능하다. AutoGFM은 invariant와 variant pattern을 분리하여 데이터별 아키텍처를 선택하고, BRIDGE는 domain-invariant alignment와 Mixture-of-Experts로 필요한 소스 지식만 선택적으로 조립한다.
3.3 Graph Prompting
Graph prompting은 전체 backbone 파라미터를 변경하지 않고 타깃 과제를 해석하도록 입력 또는 중간 표현을 조절한다. 텍스트 prompting과 달리 그래프 prompt는 메시지 전달 경로와 receptive field 자체를 바꿀 수 있다.
Virtual Structure
학습 가능한 가상 노드와 엣지를 삽입한다.
Structural Token
motif, path, role, subgraph 정보를 토큰으로 표현한다.
Task Instruction
자연어 과제 설명과 label prototype을 제공한다.
Feature/Time Prompt
특징 분포와 시간 조건을 경량 파라미터로 조정한다.
Expert Routing
도메인별 전문가 활성화를 제어한다.
In-context Subgraph
예제 subgraph를 demonstration으로 사용한다.
3.4 Graph–Language Alignment
\[
z_{\mathrm{graph}}\approx z_{\mathrm{text}}
\]
텍스트 속성 그래프에서는 노드 설명, 관계 이름, 클래스 이름을 언어 공간에 투영하여 데이터셋 간 특징 차원을 통일할 수 있다. 그러나 텍스트가 없는 분자 상호작용망, 금융 거래망, 센서 그래프에서는 이 전략이 작동하지 않는다.
강한 GFM은 text-enhanced pathway와 text-free pathway를 동시에 가져야 한다. 텍스트가 있는 환경에서는 LLM을 의미적 앵커로 사용하고, 텍스트가 없는 환경에서는 구조적·통계적 신호만으로 학습할 수 있어야 한다.
3.5 Zero-shot, Few-shot, In-context Learning
| 설정 | 타깃 레이블 | 파라미터 변경 | 핵심 의미 |
|---|---|---|---|
| Zero-shot | 없음 | 없음 | 보지 못한 그래프와 과제를 즉시 처리한다. |
| Few-shot | 소수 예제 | 선택적 | 클래스당 소수 예제로 빠르게 적응한다. |
| In-context | 문맥 예제 | 없음 | 예제 그래프를 입력 문맥으로 제공한다. |
| Prompt tuning | 소수 | Prompt만 | backbone을 고정하고 작은 prompt만 학습한다. |
| Adapter tuning | 소수 | Adapter만 | 경량 중간 모듈만 학습한다. |
3.6 Scaling Law
GraphBFF는 대규모 이종 그래프를 위한 billion-parameter GFM 구축 절차와 GraphBFF Transformer를 제안하고, 모델 용량 또는 데이터가 병목일 때 손실이 예측 가능하게 감소하는 그래프 scaling law를 보고한다. 다만 2026년 7월 현재 preprint 결과이므로 독립적 재현이 필요하다.
04
Introduction
왜 그래프 분야에도 foundation model이 필요한가
기존 GNN은 특정 그래프와 특정 과제에서 강력하지만 입력 특징, 관계 유형, homophily, 그래프 크기, 레이블 의미, 메시지 전달 깊이에 민감하다.
Feature Dependency
입력 특징 차원과 생성 방식이 데이터셋마다 다르다.
Schema Dependency
노드·관계 유형과 방향성이 달라진다.
Topology Dependency
homophily, heterophily, 밀도, 커뮤니티 구조가 다르다.
Task Dependency
node, link, graph, generation의 출력 공간이 다르다.
Scale Dependency
학습 그래프와 추론 그래프의 크기가 다르다.
Architecture Dependency
필요한 hop range와 연산자가 과제마다 다르다.
그래프 자체를 하나의 모달리티로 보고, 서로 다른 관계 시스템에서 반복되는 구조적·의미적 원리를 학습할 수 있는가?
2025년 서베이는 GFM을 backbone architecture, pretraining strategy, adaptation mechanism의 세 구성 요소로 정리하고, universal GFM, task-specific GFM, domain-specific GFM으로 구분한다.
05
Motivation and Background
데이터 희소성, 개발 비용, 관계적 추론의 한계
5.1 데이터 희소성과 레이블 비용
- 신약개발에서는 assay와 임상 결과가 비싸고 느리다.
- 금융에서는 사기 레이블이 지연되고 극도로 불균형하다.
- 지식 그래프에서는 사실 검증에 전문가가 필요하다.
- 과학 그래프에서는 새로운 가설의 정답이 아직 존재하지 않을 수 있다.
5.2 반복되는 모델 개발 비용
전처리→
특징 설계→
GNN 선택→
탐색→
재학습
범용 사전학습+
경량 적응→
다수 그래프·과제 재사용
5.3 관계적 추론을 위한 기반 모델
LLM은 텍스트로 기술된 관계를 추론하지만 연결성, 경로, 대칭성, 시간 순서, 타입 제약을 안정적으로 보장하지 못한다. GNN은 구조를 직접 처리하지만 개방형 언어 지식과 설명 능력이 제한된다.
\[
\text{Semantic Intelligence}
+
\text{Relational Computation}
\]
미래의 GFM은 “그래프용 BERT”보다 LLM과 데이터베이스·그래프 알고리즘 사이의 구조적 추론 엔진에 가까운 형태로 발전할 가능성이 크다.
06
Challenges
범용 그래프 모델을 어렵게 만드는 구조적 장애물
C1
Feature Heterogeneity
분자, 인용, 금융, 지식 그래프의 특징은 차원과 의미가 모두 다르다. SVD 투영, LLM 인코딩, 데이터셋별 projection은 공통 인터페이스를 제공하지만 수작업 정렬이나 특정 모달리티에 의존한다.
C2
Structure Heterogeneity
소셜 그래프의 커뮤니티, 분자의 고리, 지식 그래프의 타입 관계, 교통 그래프의 시공간 흐름은 서로 다른 inductive bias를 요구한다.
C3
Task Heterogeneity
노드 분류, 링크 예측, 그래프 분류, 생성, 최단 경로, 질의응답은 출력 공간과 필요한 계산이 다르다.
C4
Negative Transfer
서로 충돌하는 그래프를 함께 학습하면 일부 도메인이 학습을 지배하고 타깃에 불필요한 지식이 전달된다.
C5
Architecture Heterogeneity
장거리 상호작용, 로컬 커뮤니티, 시간 도달성은 서로 다른 receptive field와 연산자를 필요로 한다.
C6
Dynamic Open World
노드와 엣지가 지속적으로 추가되고 의미가 변한다. 시간 정보는 특징이 아니라 경로의 유효성 자체를 바꾼다.
C7
Scalability
웹·추천·금융 그래프의 full-graph attention은 불가능하며, sampling은 장거리 관계를 잃을 수 있다.
C8
Evaluation Ambiguity
같은 데이터셋의 새 레이블, 같은 형식의 새 그래프, 새 도메인, 새 과제 중 무엇을 범용성으로 볼지 합의가 부족하다.
6.1 구조 이질성의 구체적 예
| 도메인 | 핵심 구조 | 필요한 inductive bias |
|---|---|---|
| 소셜 그래프 | 허브, 커뮤니티, triadic closure | mesoscale community와 확산 구조 |
| 분자 그래프 | 고리, 결합 motif, 3차원 상호작용 | 화학 제약과 장거리 기하 |
| 지식 그래프 | 방향성, 관계 타입, 논리 조합 | typed reasoning과 composition |
| 교통 그래프 | 공간성, 시간 흐름, 수요 변동 | 시공간 동역학 |
| 금융 그래프 | 이질 관계, 급격한 시간 변화 | temporal anomaly와 provenance |
6.2 확장성을 위한 핵심 기술
Distributed Message Passing
Topology-aware Batching
Hierarchical Sampling
Graph Partitioning
Sparse Attention
Memory-efficient Adaptation
Conditional Computation
Mixture-of-Experts
07
Research Questions
2025–2026년 문헌에서 반복되는 핵심 연구 질문
RQ1
그래프의 공통 어휘는 무엇인가?
motif, computation tree, path, spectral basis 중 무엇이 언어의 token에 대응하는 범용 단위인지 합의가 없다.
RQ2
어떤 구조적 지식이 실제로 전이되는가?
표면 통계가 아니라 downstream 의사결정에 유효한 관계적 불변량을 식별해야 한다.
RQ3
전이 가능한 지식의 양을 예측할 수 있는가?
스펙트럼과 Lipschitz continuity를 이용한 이론적 분석이 등장했지만 실제 복잡한 그래프의 전이 가능성 예측은 열려 있다.
RQ4
범용성과 전문성의 최적 경계는 무엇인가?
하나의 universal backbone과 공유 backbone+domain expert 중 어떤 구조가 더 적절한지 결정되지 않았다.
RQ5
새로운 과제를 어떻게 표현할 것인가?
자연어 instruction, 입출력 예제, graph query, differentiable program 중 적절한 공통 인터페이스가 필요하다.
RQ6
GFM은 아키텍처 자체를 적응시켜야 하는가?
과제마다 필요한 hop range와 propagation operator가 다르므로 파라미터 적응만으로 충분하지 않을 수 있다.
RQ7
Scaling law는 어떤 조건에서 성립하는가?
데이터 규모, 다양성, 구조 복잡도, 모델 크기 중 어떤 축이 성능을 지배하는지 규명해야 한다.
RQ8
텍스트가 없는 그래프에서도 범용 모델이 가능한가?
풍부한 semantic anchor가 없는 환경에서 어떤 자기지도 신호가 충분한 감독을 제공하는지 핵심 문제다.
RQ9
새로운 지식을 추론 시점에 주입할 수 있는가?
외부 그래프 메모리, 검색, 도구 호출을 결합하는 retrieval-native 구조가 필요한지 검증해야 한다.
RQ10
그래프 추론의 정확성을 어떻게 검증할 것인가?
답뿐 아니라 사용된 경로, 관계 타입, 시간 조건, 출처가 유효한지 검증하는 provenance-aware GFM이 필요하다.
08
Approaches and Methods
최근 GFM의 대표적 기술 경로
8.1 GNN-centric Universal Pretraining
다양한 그래프를 하나의 GNN backbone으로 학습하고, 특징 projection과 prompt를 이용해 타깃에 적응한다.
SAMGPT
text-free multi-domain graph에서 structure token과 dual prompt를 사용한다.
MDGFM
feature와 topology를 균형 있게 정렬하고 noisy edge를 정제한다.
BRIDGE
domain-invariant aligner와 MoE로 선택적 지식 전이를 수행한다.
GIT
여러 과제를 task-tree 재구성으로 통합한다.
8.2 Graph Transformer와 Structural Tokenization
\[
\text{token}
\in
\{\text{node},\text{subgraph},\text{motif},
\text{path},\text{tree},\text{relation pattern}\}
\]
그래프를 토큰 시퀀스 또는 토큰 집합으로 변환하여 Transformer로 처리한다. 대규모 attention을 활용할 수 있지만 토큰화 과정에서 그래프 동형성, 장거리 관계, 희소성을 잃을 수 있다.
8.3 Graph–LLM Co-training
Graph→
Graph Encoder→
Projector→
LLM→
Answer
SEMMA는 KG 관계의 텍스트 의미를 LLM으로 확장하여 textual relation graph와 structural component를 결합한다. MERRY는 단순 KG completion을 넘어 여러 KG 추론 과제와 KGQA 전이를 목표로 한다.
8.4 Task Unification
- 모든 과제를 링크 예측으로 변환한다.
- target node 주변 subgraph 분류로 변환한다.
- computation tree 또는 task-tree 복원으로 통합한다.
- 자연어 instruction과 graph query를 사용한다.
- 입력–출력 예제를 in-context demonstration으로 제공한다.
8.5 Topology Alignment
MDGFM은 원래 그래프를 정제하면서 특징과 topology의 상대적 중요도를 적응적으로 조절한다. 서로 다른 도메인을 완전히 동일하게 만드는 것이 아니라, downstream에 전이 가능한 구조 요소를 공통 공간에 놓는다.
8.6 Mixture-of-Experts
\[
F(G)=\sum_{k=1}^{K}\pi_k(G)F_k(G)
\]
\(\pi_k(G)\)는 입력 그래프에 따라 expert를 선택하는 routing 함수다. AnyGraph는 구조·특징 분포 변화에 대응하기 위해 Graph MoE와 경량 expert routing을 사용한다.
8.7 Architecture Adaptation
AutoGFM은 하나의 고정 아키텍처 대신 invariant graph–architecture 관계를 학습하여 도메인과 과제에 적합한 GNN 구조를 선택한다.
- disentangled contrastive graph encoder
- invariant-guided architecture customization
- curriculum architecture search
미래 GFM은 입력 그래프에 따라 계산 구조를 생성하는 meta-model이 될 가능성이 크다.
8.8 Prior-data Fitted GFM
실제 그래프만 사전학습하는 대신 합성 그래프 분포를 설계하고 그 분포에서 가능한 다양한 문제를 학습한다.
G2T-FM
이웃 특징 집계와 구조 embedding을 TabPFN 계열 backbone에 결합한다.
GraphPFN
SBM, preferential attachment, graph-aware causal model로 합성 attributed graph를 생성한다.
8.9 Generative and Contrastive Pretraining
\[
\mathcal L_{\mathrm{pre}}
=
\lambda_1\mathcal L_{\mathrm{mask}}
+\lambda_2\mathcal L_{\mathrm{recon}}
+\lambda_3\mathcal L_{\mathrm{contrast}}
+\lambda_4\mathcal L_{\mathrm{path}}
+\lambda_5\mathcal L_{\mathrm{instruction}}
\]
Masked Node/Edge Prediction
Subgraph Reconstruction
Graph–Text Contrast
Path Generation
Motif Prediction
Denoising
Instruction Following
8.10 Retrieval-Augmented GFM
파라미터에 저장된 지식만 사용하지 않고, 추론 시점에 유사한 그래프, subgraph, 문서, 경로를 검색한다. GFM-RAG는 다수 knowledge graph와 문서에서 학습한 graph retriever를 unseen dataset에 적용하며, HyRAG는 계층적 외부 지식을 hyperbolic space에 색인한다.
8.11 Geometry-aware GFM
Euclidean embedding 하나로 모든 구조를 표현하기 어렵다는 관점에서 Riemannian, hyperbolic, product manifold, optimal transport를 도입한다. 향후 모델은 그래프별로 적절한 manifold를 선택할 가능성이 있다.
8.12 Theoretical Analysis
Knowledge Graph Foundation Model의 표현력 연구는 relation representation에 사용되는 motif가 모델의 표현력을 직접 제한한다고 분석한다. binary motif보다 세 관계 이상의 조합을 사용하는 richer motif가 더 복잡한 추론을 표현할 수 있다.
09
Key Applications
범용 그래프 모델이 활용되는 주요 응용 분야
General Graph Learning
노드·링크·그래프 예측
node classification, edge classification, link prediction, graph classification, regression, clustering, retrieval을 포괄한다.
Knowledge Graph
지식 그래프 추론
completion, multi-hop reasoning, relation prediction, KGQA, ontology alignment, fact verification을 수행한다.
Retrieval
GraphRAG
문서 간 관계, 엔터티 연결, 주장–근거 관계를 활용해 검색과 근거 검증을 개선한다.
AI4Science
생명과학·신약개발
분자 특성, PPI, 약물–표적, 유전자 조절망, 공간 전사체, 후보물질 최적화에 적용한다.
Recommendation
추천 시스템
cold start, cross-domain, multimodal, explanation, long-tail, preference shift를 처리한다.
Security
이상 탐지와 OOD
금융 사기, 봇, 침입, 비정상 분자, 지식 그래프 오류를 zero/few-shot으로 탐지한다.
Optimization
조합 최적화
shortest path, routing, facility location, network design, path planning, resource allocation을 다룬다.
Scientific Systems
과학적 가설 생성
지식 그래프 검색, 구조 추론, 실험 설계, 근거 업데이트를 연결한다.
9.1 생명과학·신약개발의 세부 응용
- 분자 특성 예측
- 단백질–단백질 상호작용
- 약물–표적 관계
- 세포–세포 통신
- 유전자 조절망
- 공간 전사체
- 후보물질 생성과 최적화
- assay 및 cohort 간 전이
Novae는 공간 전사체 데이터를 세포 공간 그래프로 모델링하는 자기지도 graph-attention 기반 foundation model로, batch effect 보정, 공간 domain 계층화, 경로 분석 등에 적용된다.
10
Open Problems
현재 GFM이 해결하지 못한 핵심 문제
10.1 범용성의 객관적 기준
\[
\text{GFM Quality}
=
\text{Accuracy}
+
\text{Transfer Breadth}
+
\text{Adaptation Efficiency}
+
\text{Robustness}
+
\text{Calibration}
\]
10.2 Shared Structural Vocabulary
특정 크기의 motif나 고정 hop subgraph는 그보다 큰 구조를 놓친다. 다중 해상도, 동적 어휘, 학습 가능한 구조 문법이 필요하다.
10.3 Negative Transfer 예측
\[
\text{Transfer Utility}(D_i,D_j,T)
\]
사전학습 전에 어떤 데이터셋 조합이 상호 보완적이고 어떤 조합이 충돌하는지 추정하는 data routing이 필요하다.
10.4 새로운 그래프 형식으로의 전이
heterophilic, relational, text-attributed graph에는 format diversity가 도움이 될 수 있지만 heterogeneous와 dynamic graph에서는 단순 형식 혼합이 오히려 성능을 저하시킬 수 있다. typed structure와 temporal causality를 별도 모듈로 다뤄야 한다.
10.5 Architecture-level Generalization
- propagation depth
- aggregation operator
- attention sparsity
- geometric space
- temporal resolution
- local/global computation ratio
10.6 동적 그래프의 지속 학습
- catastrophic forgetting 방지
- temporal leakage 방지
- 과거 예측의 재현 가능성
- 새 관계 타입의 즉시 수용
- concept drift 감지
10.7 인과성과 상관성
과학과 의학에서는 연결 자체보다 개입 결과가 중요하다. intervention, counterfactual, selection bias, temporal precedence를 GFM 내부에 명시적으로 모델링해야 한다.
10.8 불확실성과 Calibration
\[
U_{\mathrm{total}}
=
U_{\mathrm{structural}}
+
U_{\mathrm{semantic}}
+
U_{\mathrm{task}}
+
U_{\mathrm{data}}
\]
10.9 설명 가능성과 Provenance
- 어떤 subgraph가 사용되었는가
- 어떤 관계 타입이 결정적이었는가
- 어떤 외부 문서가 근거였는가
- 대안 경로를 제거하면 결과가 바뀌는가
- 시간과 방향성 제약을 만족했는가
10.10 데이터 거버넌스와 안전
Graph Differential Privacy
Federated Pretraining
Membership Inference Defense
Topology Anonymization
Unlearning
Bias Mitigation
11
Future Directions
GFM이 다음 단계로 진화하기 위한 연구 방향
11.1 Universal Graph Interface
\[
\text{Graph IR}
=
\text{Entities}
+
\text{Relations}
+
\text{Types}
+
\text{Time}
+
\text{Geometry}
+
\text{Constraints}
+
\text{Provenance}
\]
데이터별 schema를 공통 Graph IR로 변환하고 과제별 실행 계획을 생성하는 방식이 필요하다.
11.2 Adaptive Architecture Foundation Model
Graph + Query→
Structure Analysis→
Operator Selection→
Architecture Composition→
Execution
11.3 Complementary Multi-domain Pretraining
- 데이터셋별 구조·특징·레이블 통계를 분석한다.
- 전이 가능성 행렬을 계산한다.
- 상호 보완적인 그래프 corpus를 구성한다.
- 충돌하는 지식은 expert로 분리한다.
- 타깃에 따라 필요한 expert만 활성화한다.
11.4 Multiscale Structural Modeling
| 해상도 | 구조 단위 | 핵심 계산 |
|---|---|---|
| Microscopic | node, edge, motif | 로컬 상호작용 |
| Mesoscopic | community, functional module | 중간 규모 조직 |
| Macroscopic | hierarchy, manifold, global flow | 전역 구조 |
| Temporal | event, episode, long-term evolution | 시간 변화와 인과 순서 |
11.5 Retrieval-native GFM
\[
\text{Prediction}
=
\text{Parametric Knowledge}
+
\text{Retrieved Evidence}
+
\text{Structural Verification}
\]
11.6 Neuro-symbolic GFM
GFM이 연속 표현을 생성하고 symbolic engine이 관계 타입, 논리 규칙, 시간 순서, 화학적 유효성, 경로 존재성, 데이터베이스 무결성을 검증하는 구조가 유망하다.
11.7 Continual and Streaming GFM
정적 checkpoint 대신 새 엣지와 노드를 지속적으로 흡수하면서 기존 지식 수정, 일시적 이벤트, 새 관계 타입, 공격 또는 데이터 오류를 구분해야 한다.
11.8 Scientific Graph Foundation Agents
Hypothesis→
Graph Retrieval→
Relational Reasoning→
Experiment Design→
Evidence Update
11.9 Foundation Model이 아닌 Foundation System
\[
\boxed{
\text{GFM System}
=
\text{Graph Encoder}
+
\text{LLM}
+
\text{Retriever}
+
\text{Graph DB}
+
\text{Symbolic Solver}
+
\text{Verifier}
+
\text{Domain Tools}
}
\]
- 새로운 graph schema를 이해하는 능력
- 필요한 구조적 연산을 선택하는 능력
- 외부 지식을 검색하고 검증하는 능력
- 불확실할 때 답을 보류하는 능력
- 근거와 계산 경로를 재현하는 능력
12
연구 동향에 대한 종합 판단
Representation에서 Reasoning, System으로의 진화
1단계 · Representation Foundation Model
다양한 그래프에 사용할 수 있는 범용 embedding을 학습한다.
2단계 · Reasoning Foundation Model
새로운 관계와 과제에 대해 경로, motif, 계층을 조합하여 추론한다.
3단계 · Graph-native Foundation System
언어, 검색, 데이터베이스, 그래프 알고리즘, symbolic constraint를 통합하여 개방형 문제를 해결한다.
현재 GFM의 범용성은 유망하지만 불균일하다. 더 많은 데이터와 더 큰 모델만으로는 충분하지 않다.
진정한 돌파구는 그래프 간 차이를 제거하는 데 있지 않다. 공통성과 차이를 동시에 표현하고, 입력 그래프와 과제에 따라 필요한 지식, 모달리티, 아키텍처, 검증 도구를 조건부로 활성화하는 데 있다.
13
주요 논문 및 출처 URL
2025년 이후 논문과 2026년 최신 preprint를 포함한다.
01
Graph Foundation Models: A Comprehensive Survey
02
Evaluating Progress in Graph Foundation Models: A Comprehensive Benchmark and New Insights
03
Out-of-Distribution Generalization in Graph Foundation Models
04
Towards Graph Foundation Models: Learning Generalities Across Graphs via Task-Trees
05
Multi-Domain Graph Foundation Models: Robust Knowledge Transfer via Topology Alignment
06
How Much Can Transfer? BRIDGE
07
SAMGPT: Text-free Graph Foundation Model for Multi-domain Pre-training and Cross-domain Adaptation
08
AnyGraph: Graph Foundation Model in the Wild
09
AutoGFM: Automated Graph Foundation Model with Adaptive Architecture Customization
10
Billion-Scale Graph Foundation Models / GraphBFF
11
Can Graph Foundation Models Generalize Over Architecture?
12
Turning Tabular Foundation Models into Graph Foundation Models / G2T-FM
13
GraphPFN: A Prior-Data Fitted Graph Foundation Model
14
How Expressive are Knowledge Graph Foundation Models?
15
Beyond Completion: A Foundation Model for General Knowledge Graph Reasoning / MERRY
16
SEMMA: A Semantic Aware Knowledge Graph Foundation Model
17
GFM-RAG: Graph Foundation Model for Retrieval Augmented Generation
18
Generalizing Graph Foundation Models via Hyperbolic Retrieval-Augmented Generation
19
Graph Foundation Models for Recommendation: A Comprehensive Survey
20
AnomalyGFM: Graph Foundation Model for Zero/Few-shot Anomaly Detection
21
GLIP-OOD: Zero-Shot Graph OOD Detection with Foundation Model
22
Novae: A Graph-Based Foundation Model for Spatial Transcriptomics Data
23
Graph Foundation Models: Bridging Language Model Paradigms and Graph Optimization
출처 해석 원칙.
정식 학회·저널 출판 논문과 arXiv/OpenReview 단계의 최신 연구를 구분하여 해석해야 한다. 2026년 preprint의 대규모 scaling, OOD, architecture generalization 결과는 독립적 재현과 후속 검증이 필요하다.