확장 가능한 GNN 학습을 위한
데이터 전송 절감

GNN의 본질은 그래프 위상 안에서 이루어지는 노드 특징의 재귀적 정보 집계와 신경 변환이다. 학습 샘플이 서로 독립인 전통 딥러닝과 달리 그래프 데이터셋의 샘플들은 학습 중 다른 샘플에 의존하며, 전통적 GNN[1]은 심지어 전체 데이터셋을 학습 중 GPU에 적재할 것을 요구한다.

문제는 실세계 그래프의 규모다. arXiv 논문 인용 그래프인 Ogbn-Papers100M[2]은 1억 1,100만 노드와 16억 간선을 담고 있으며, 인접 데이터와 노드 특징만 약 80 GB — 소비자급 GPU의 십수 GB 메모리를 훨씬 초과한다. 그 결과 미니배치 학습이 거대 그래프 GNN 학습의 사실상 표준이 되었다. 입력 그래프를 샘플링해 서브그래프를 얻고 대응하는 노드 특징을 선택한다 — 하부 자료구조 관점에서는 인접행렬에 대한 샘플링과 노드 특징 텐서에 대한 선택이며, 서브그래프와 특징이 하나의 미니배치가 되어 GPU로 전송된다.

효율적·확장적 GNN 학습의 핵심에는 두 구성요소가 있다. 그래프 샘플링 알고리즘은 실제 배치 크기와 내용을 결정하고 반복적 학습에서 정확도–확장성 트레이드오프를 조율한다. 학습 시스템 설계는 그래프 샘플링, 특징 수집, 모델 학습 단계가 CPU·PCIe·GPU 위에서 어떻게 실행되는지를 결정하며 하드웨어 활용을 극대화한다.

3.2.1위상 지향 샘플링(TOS)의 결함

노드·레이어·서브그래프 단위 샘플링을 통칭해 위상 지향 샘플링(Topology-Oriented Sampling, TOS)이라 부른다. 그래프 데이터셋은 위상 컴포넌트(입력 그래프)와 특징 컴포넌트(정점 특징 — PyG[5]·DGL[17]에서 i번째 행이 정점 i의 특징 벡터인 큰 2차원 텐서)로 이루어지며, 미니배치도 훨씬 작은 규모로 같은 두 컴포넌트를 갖는다. TOS는 위상을 먼저 결정하고 특징을 나중에 생성한다 — 학습 노드의 L-hop 이웃(모델 깊이 L)을 샘플링해 위상을 만들고(SAGE 샘플러는 노드당 이웃 수 제한, SAINT 샘플러는 선택 노드로 서브그래프 유도), 포함된 정점 인덱스를 모아 특징 텐서에서 해당 행들을 추출·복사한 뒤 GPU로 이동한다. 이 방식에는 세 가지 두드러진 한계가 있다.

이 결함들은 자연스러운 질문으로 이어진다 — (1) 그래프 데이터에 대한 무작위 접근을 제거하고, (2) 미니배치의 지수적 증가를 막고, (3) 샘플링 시 가용한 모든 입력 특징을 활용할 수 있는가? FOS 샘플러가 그 긍정적 답이다. FOS는 순서를 뒤집는다 — 특징 컴포넌트를 먼저 고정하고 위상을 나중에 유도한다.

각 미니배치의 특징 컴포넌트가 연속 저장되므로 노드 특징에 대한 무작위 접근이 완전히 사라진다. 노드 식별자가 연속이므로 위상 데이터(통상 연속 저장) 접근도 대부분 완화된다. 나아가 샘플링 과정이 모델 깊이와 분리(decouple)되어 미니배치 크기가 GNN 레이어 수에 독립적이며, 모든 입력 노드가 잠재적 샘플링 후보가 되어 전체 특징을 균일하게 활용한다.

3.2.2FOS 기반 GNN의 설계

FOS 샘플러는 귀납·전도 학습 시나리오 모두에서 광범위한 GNN 아키텍처와 호환된다. 핵심 원리는 연속 인덱스 구간을 점유하는 노드들로 메시지 패싱 서브그래프를 구성하는 것이며, 표준 GNN에 통합할 때의 주된 수정은 미니배치 구성 전략의 교체뿐이다.

Vanilla FOS-SAINT — 귀납(inductive) 학습

귀납 설정에서는 검증·테스트 정점이 학습에 관여하지 않으므로, 학습 정점이 유도하는 서브그래프를 𝒢(𝒱, ℰ, 𝒳)로 두고 사전에 주메모리에 적재한다(Algorithm 1). 데이터셋 구성에서 오는 잠재적 편향을 없애기 위해 학습 전 노드 수준 무작위 순열을 적용하고 특징 행렬도 일관되게 재배열한다. 매 반복에서 무작위 시작 인덱스 i를 고르고 구간 [i, i + b)의 연속 특징 블록과 노드 유도 서브그래프로 미니배치를 만들어 정규화와 함께 GCN을 학습한다. 반복이 진행되며 그래프의 서로 다른 부분 정보가 점진적으로 통합되어 전체 그래프에 대해 잘 학습된 모델로 수렴한다.

이 샘플링은 간선이 개별 미니배치에 포함될 확률을 비균일하게 만들어 편향을 유발할 수 있으므로, GraphSAINT에서 영감을 얻은 정규화를 채택한다. 레이어 간 비선형 활성 때문에 편향의 직접 분석이 어려워 활성 함수 이전의 집계 연산에 초점을 둔다[3, 19]. 정규화 인접행렬을 Ã = D⁻¹A라 할 때, 샘플 서브그래프에서 계산한 집계 표현 φ_v가 전체 그래프 집계 ϕ_v의 비편향 추정량이 되도록 집계 정규화 계수 α_u,v를 도입한다.

여기서 𝟙_u|v ∈ {0, 1}은 간선 (u, v)의 샘플 포함 여부 지시 변수다. 무작위 순열 덕분에 매 반복의 샘플 정점을 전체 정점 집합에서의 균일 추출로 볼 수 있어 α_u,v = 𝔼[𝟙_u|v] = p(u|v) = 1/in_degree(v)가 직접 유도된다. 미니배치 손실이 전체 그래프 손실의 비편향 추정량이 되도록 손실 정규화 계수 λ_v도 도입하며, 𝔼(L_batch) = L_full 조건에서 λ_v = p_v · N = b가 된다. 두 정규화 계수는 데이터셋과 하이퍼파라미터만 정해지면 곧바로 결정된다. FOS-SAGE는 미니배치 구성은 동일하되 모델을 GraphSAGE로 바꾸고 정규화를 적용하지 않는다.

Vanilla FOS-GCN — 전도(transductive) 학습

전도 설정에서는 검증·테스트 노드의 특징을 학습에 활용할 수 있으므로, 학습 노드 유도 서브그래프가 아닌 전체 그래프 위에서 샘플링한다(Algorithm 2). 레이블은 학습 노드에만 있으므로 순전파 후 미니배치 내 학습 노드를 식별해 이들만으로 손실과 그래디언트를 계산한다. 학습 전 전체 그래프를 무작위 순열해 학습 노드가 정점 전반에 균일 분포하도록 하며, 학습 집합 비율과 배치 크기가 충분히 크면 모든 미니배치가 학습 노드를 포함한다.

분해(Decomposition) 확장 — 수용 영역 문제의 해소

Vanilla FOS-GNN은 좋은 성능을 내지만 제한된 수용 영역(receptive field) 문제가 남는다. 미니배치가 연속 인덱스 구간에서 만들어지므로 정점 i의 잠재적 이웃은 [i − b + 1, i + b)로 제한되고, 샘플 서브그래프의 모든 간선은 |u − v| < b를 만족해야 한다 — |u − v| ≥ b인 간선은 결코 샘플되지 않아 정보 전파가 제약된다.

이에 원래 구간 [i, i + b)를 독립적·무작위로 선택된 d개의 부분 구간 [i₁, i₁ + b/d), …, [i_d, i_d + b/d)로 분해하고 그 합집합으로 서브그래프를 유도한다. 예컨대 b = 6000, d = 2에서 10000번째 노드 n̂의 수용 영역을 보면 — 분해 없이는 이웃이 [4001, 16000)에 갇히지만, 두 부분 구간을 쓰면 n̂이 첫 구간에 속할 때 i₂가 임의 값을 가질 수 있어 이웃이 학습 그래프의 임의 노드가 된다. 배치 크기를 늘리지 않고 모든 노드의 수용 영역이 전체 그래프로 확장되며, 두 끝점이 서로 다른 부분 구간에서 올 수 있으므로 |u − v| 제약도 사라져 그래프의 모든 간선이 샘플 가능해진다. 이후 별도 언급이 없으면 FOS-GNN은 분해 확장을 기본 탑재한 모델을 가리킨다.

핵심 하이퍼파라미터 설정 지침 — b와 d

배치 크기 b는 샘플 서브그래프의 평균 차수를 결정한다. 무작위 순열 덕분에 미니배치의 b개 정점을 비복원 균일 추출로 볼 수 있고, 정보 흐름을 위해 평균 차수가 1 이상이어야 한다는 최소 요건에서 하한이 유도된다(실무에서는 노드당 1개 초과 이웃을 보장).

상한 b_max는 GPU 메모리 예산으로 정해진다 — 미니배치의 정점 수와 계산 비용이 반복 간 거의 동일해 메모리 사용이 안정적이므로 소수의 시험 실행으로 식별 가능하며, 과도한 배치가 학습에 불리한 일반적 현상까지 고려해 그리드 서치로 정제한다. 분해 수 d는 미니배치 내 정점 선택의 무작위성을 제어한다 — d ≥ 2면 임의 노드 쌍이 동일 배치에 등장 가능해 완전 수용 영역 요건이 충족되고, 4개 데이터셋 사례 연구(Fig 3.3)에서 d ≥ 8이면 정확도가 대체로 안정되어 선택에 둔감하다. 반면 d가 크면 전송의 지배 성분인 특징 블록이 잘게 쪼개져 DMA 성능이 급락한다 — 현대 프레임워크(DGL, PyG)의 DMA 엔진은 큰 연속 블록에 최적화되어 있으며, PCIe 3.0×16 최대 대역폭의 90%를 얻으려면 블록이 최소 256 KB여야 한다[20]. DMA 최소 블록 크기를 B, 정점 특징 벡터 크기를 k라 하면 상한이 유도된다.

Reddit 예시: 귀납 설정의 학습 그래프는 153,431 정점·52,284,760 간선으로 b_min = 153431²/52284760 = 450.2 → 제약은 b ≥ 451뿐이다(시험 실행 결과 b_max > 100,000으로 메모리 상한 비구속). PCIe 3.0×16에서 90% 이상 활용을 목표하면 B = 256 KB이고, 정점당 602개 float32 특징 = 2,408바이트이므로 d¹_max = (2408/262144)·b, 최종 탐색 범위는 [2, min(d¹_max, 8)]이다.

이론 분석

추가로 귀납 설정에서 FOS는 모든 입력 특징에 비편향 접근을 제공한다 — V_i^FOS = 1/|T|. 반면 전체 이웃 샘플러는 V_i^Full ∝ deg(i), SAGE 샘플러는 이웃 균일 샘플링에서 유도되는 차수 의존 확률, 랜덤 워크 샘플러는 V_i^RW = deg(i)/2m으로 모두 고차수 노드에 편향된다. Ogbn-Products 귀납 설정에서 상위 10% 고차수 노드가 전체 노드 접근에서 차지하는 비중은 네 샘플러(FOS/Full/SAGE/RW)에서 각각 10.0% / 18.4% / 25.1% / 22.8%다.

3.2.3실험

4개 대규모 공개 데이터셋에서 지도학습 설정으로 평가한다 — Reddit(게시물 커뮤니티 예측), Yelp(비즈니스 카테고리), Ogbn-Products(공동구매 네트워크 상품 분류)[2], Amazon(리뷰·상호작용 기반 상품 분류). 공정 비교를 위해 모든 베이스라인은 DGL 공식 예제 구현을 사용하고, FOS-GNN 세 변형은 오픈소스로 공개했다. 하이퍼파라미터는 은닉 차원 {128, 256, 512}, 드롭아웃 {0.0–0.3}, 학습률 {0.1–0.0001} 그리드 서치(GraphSAGE: mean aggregator, fanout 10·25; GraphSAINT: 랜덤 워크 샘플러), 옵티마이저 Adam[21], 지표 F1-micro, GCN 레이어 수 2로 고정한다. 실험 장비는 Intel Xeon Gold 6240(2.60 GHz), RTX 2080 Ti(11 GB, PCIe 3.0×16), DDR4 256 GB이며 DGL 0.7.1 + PyTorch 1.8.0(CUDA 10.2)을 사용한다.

귀납 설정 — 정확도·속도 비교

모든 데이터셋에서 FOS 변형은 대응 베이스라인과 동등한 정확도를 유지하며 학습을 크게 가속했다. 속도 향상의 원천을 규명한 4개 사례 연구의 결과는 다음과 같다.

전도 설정 — 정확도·속도 비교

3.3.1단일 캐시 시스템의 결함

미니배치 준비 시간은 미니배치 GNN 학습의 최대 성능 병목이다. 이를 줄이기 위한 연구는 크게 두 갈래다. UVA 계열[12, 13]은 불규칙한 그래프 구조의 접근·조작을 간소화하고 PCIe 대역폭 활용을 높여, 대규모 구조를 호스트 메모리에 두면서도 GPU에서 효율적인 Adj-Sampling·Nfeat-Selecting을 지원한다 — 그러나 그래프 데이터셋 고유의 지역성을 간과해 자주 쓰이는 데이터를 반복 이동시키는 회피 가능한 오버헤드를 낳는다. 캐시 계열[9, 11, 12, 14]은 그래프 워크로드의 지역성과 통상 놀고 있는 GPU 메모리를 활용한다 — GraphSAGE × Ogbn-Papers100M에서 전체 특징 조회의 약 95%가 가장 뜨거운 2 GB 특징에 몰리고, 학습 내내 GPU 메모리의 최대 90%가 유휴일 수 있다[9]. 이에 가장 빈번히 접근되는 특징을 유휴 GPU 메모리에 저장(Nfeat-Cache)해 CPU–GPU 전송을 줄인다. 노드 특징 캐시만 유지하는 이 부류를 단일 캐시(Single-Cache) 시스템이라 부른다.

단일 캐시 전략은 두 가지 암묵적 가정에 기댄다 — (1) Nfeat-Selecting이 항상 Adj-Sampling보다 오래 걸리고, (2) Nfeat-Cache가 가용 GPU 메모리를 모두 효과적으로 활용한다. 실제로는 어느 쪽도 보장되지 않는다.

Nfeat-Cache가 잔여 GPU 메모리를 다 쓰지 못하고, 비용이 큰 Adj-Sampling도 지역성 있는 접근 패턴을 보이는 이상, 기존 Nfeat-Cache에 Adj-Cache를 짝지우는 것이 실용적이며 유리하다. 이것이 DUCATI — 다양한 워크로드를 유연하게 처리하고 GPU 메모리를 더 효율적으로 쓰는 이중 캐시(Dual-Cache) 학습 시스템 — 의 출발점이다. 다만 두 과제가 따른다. 첫째, Adj-Cache를 어떻게 설계하는가 — 노드 특징은 길이가 균일하지만 인접 항목은 크기가 제각각이고, 특징 접근은 조밀한 반면 인접 접근은 세밀한 연산과 얽혀 분산적이므로 Nfeat-Cache 방법론이 그대로 통하지 않는다. 둘째, GPU 메모리를 두 캐시에 어떻게 공동 배분하는가 — 두 캐시는 같은 메모리를 두고 경쟁하며, 워크로드 비율이 설정마다 달라 적응적 최적 배분이 필요하다.

3.3.2두 캐시의 설계와 DUCATI 프레임워크

DUCATI는 초대형 그래프 미니배치 학습을 위한 워크로드 인지형 캐시 중심 시스템이다. 주어진 설정에서 Adj-Sampling과 Nfeat-Selecting 중 어느 쪽이 미니배치 생성 시간을 지배하는지 식별해 해당 캐시에 더 많은 메모리를 배정한다 — 유휴 GPU 메모리의 최적 분배를 동적으로 결정해 학습 처리량을 극대화한다. 미니배치 준비가 전체 실행시간의 60–95%를 차지하므로 DUCATI는 모델 학습 국면이 아닌 미니배치 준비 파이프라인 내부의 이중 캐시 설계라는 결정적 과제에 집중하며, PA(15,10,5 + 256) 설정에서 준비 시간을 최대 80% 절감한다.

Input Inspector — 오프라인 샘플 실행 기반 정보 추출

두 종류의 정보를 추출한다. 첫째, 접근 빈도 정보 — 모든 항목의 접근 빈도를 추적해 실제 접근 확률을 추정한다. 선행 연구[11]에 따르면 1~2 에폭의 샘플링만으로 정확한 추정이 가능하다. 둘째, 워크로드 프로파일링 정보 — 무작위 항목으로 채운 다양한 크기의 Adj-Cache·Nfeat-Cache 변형을 만들어 대응 실행시간을 측정, (캐시 항목, 실행시간) 데이터 포인트 집합을 얻는다.

Dual-Cache Allocator — 이득 예측과 배낭 최적화

할당기의 목표는 각 항목의 캐싱이 얼마나 유리한지(총 실행시간 감소 기대치)를 평가해 최대 이득의 항목들을 고르는 것이다. 단일 캐시에서는 모든 항목이 동일한 형태·접근 양상을 가져 비교가 쉽지만, 이중 캐시에서는 항목이 이질적이다 — 인접 리스트는 가변 길이에 세밀·분산 접근이고, 노드 특징은 균일 크기에 배치당 1회 회수된다. PCIe 특성(버전·레인 수·링크 활용) 같은 하드웨어 요인과 데이터셋·설정에 따른 동적 워크로드까지 겹쳐, GNN 실행 의미론과 그래프 속성만으로 깔끔한 해석적 정식화를 도출하기 어렵다.

해법은 프로파일링으로 학습하는 이득 예측 모델이다. 핵심 경험적 관찰(Fig 3.11)은 두 가지 — (1) 각 워크로드의 실행시간이 해당 캐시의 히트율에 거의 완벽한 (역)선형 의존을 보이고(PCIe 연결 시스템에서 전송시간이 이동 데이터량에 비례하기 때문[23]), (2) 그 기울기(slope)는 태스크·데이터셋마다 다르다는 것이다. 같은 유형 안에서는 항목의 개별 히트(individual hit)로, 유형 간에는 기울기를 결합해 통일된 이득 척도를 만든다.

접근 빈도 f는 Input Inspector가 직접 제공하고, 기울기는 프로파일링 결과를 (캐시 히트, 실행시간) 쌍으로 변환해 선형 회귀로 추출한다 — 히트가 선형으로 늘면 전송량이 선형으로 줄어드는 캐시 동작과 자연스럽게 정합하므로 다항식 등 복잡한 모델 대신 선형 모델을 채택한다. 이 모델은 본질적으로 워크로드 인지형이다 — 입력이 변해 워크로드가 이동하면 개별 히트 분포도 변해, F가 항상 현재 접근 패턴을 반영한다.

총 캐시 예산 B(초기 몇 배치의 피크 GPU 메모리 모니터링으로 추정) 아래에서, 2N개 항목(N개 인접 리스트 + N개 노드 특징)에 대한 이득 F(e_i)와 비용 S(e_i)(크기)로 할당 문제가 정의된다.

Cache Constructor — 두 캐시의 구조

3.3.3실험

DUCATI는 DGL v0.8 + PyTorch v1.9 위에 구현되었고(Python 1.6k줄 + CUDA/C++ 422줄) 소스가 GitHub에 공개되어 있다. 실험 장비는 FOS와 동일(RTX 2080 Ti 11 GB, PCIe 3.0×16, DDR4 256 GB, Xeon Gold 6240)이다. 평가는 인접행렬과 노드 특징이 모두 단일 GPU 메모리를 초과하는 가장 까다로운 미니배치 시나리오에서 수행한다 — 인접행렬이 GPU에 들어간다고 가정하는 선행 연구[11, 24]보다 현실적이고 포괄적인 설정이다.

모델은 DGL 3-레이어 GraphSAGE(은닉 16), 배치 8000이며, Adj-Sampling 워크로드를 좌우하는 fanout {(2,2,2), (15,10,5)} × Nfeat-Selecting을 좌우하는 특징 차원 {128, 256}의 4개 설정으로 적응성을 검증한다. 베이스라인은 5개 부류 — CPU 기반 PyG, UVA만 지원하는 DGL v0.8, 단일 캐시 PaGraph(CPU 샘플링으로 현저히 느림)·GNNLab(인접행렬의 GPU 상주를 요구해 Table 3.10의 어떤 데이터셋도 처리 불가), UVA + 단일 캐시의 Quiver와 합성 시스템 SOTA(DUCATI와 동일 코드베이스에 UVA 기반 Adj-Sampling/Nfeat-Selecting + GNNLab식 Nfeat-Cache를 결합한 가장 강력한 단일 캐시), 그리고 DUCATI다. 총 캐시 크기는 초기 배치들의 피크 GPU 메모리를 모니터링해 잔여 메모리로 동적 결정하며, DUCATI와 SOTA는 항상 동일 예산을 받는다. 1000 배치의 평균 반복시간을 보고한다.

전체 학습 시간 평가 (Table 3.11)

vs DGL — 고빈도 그래프 데이터를 GPU 메모리에 직접 유지하는 이점이 드러난다. fanout·특징 차원이 작으면 UVA 반복 전송의 부담이 덜해 이득이 완만하지만, 커질수록 DGL은 집약적 데이터 이동으로 크게 저하되는 반면 SOTA·DUCATI의 캐싱이 병목을 완화한다. vs SOTA — 동일한 총 캐시 메모리에서도 DUCATI가 더 높은 처리량을 낸다. Nfeat-Cache 단독으로는 잔여 GPU 메모리를 다 쓰지 못하는 반면, DUCATI의 Adj-Cache가 그 잉여를 계산 부담이 큰 Adj-Sampling 가속에 활용하기 때문이다. 워크로드 확장성 — 입력 규모(fanout·차원)가 커질수록 DUCATI의 상대 우위가 대체로 더 커진다. 즉 워크로드가 성장해도 반복시간이 베이스라인보다 느리게 증가한다.

반복시간 분해·할당기·전처리 평가

미니배치·풀배치 시스템과의 교차 비교

MariusGNN은 CPU 메모리 캐싱과 온디스크 배치를 강조하는 디스크 지향 시스템이라 GPU 캐싱을 활용하지 않아 CPU–GPU 전송 오버헤드로 크게 느려지고, 샘플링 오버헤드를 줄이려 표준 이웃 샘플링을 변형한 탓에 무작위성이 약화되어 정확도도 낮다. 대신 결정적 장점이 있다 — CPU 메모리 한계를 넘는 확장이 가능해, 최대 사양 AWS P3 노드(호스트 488 GB, 로컬 16 TB)에서 DUCATI가 처리할 수 없는 1조 간선·8.5 TB의 Facebook15 그래프[30]를 처리한다. SOTA·Quiver는 메모리 기반에 GPU 캐싱을 쓰지만 인접 구조의 지역성을 활용하지 못하고 Nfeat-Cache 수확 체감에 묶여 속도에서 뒤진다. 표준 이웃 샘플링을 쓰는 SOTA·Quiver·DUCATI의 정확도는 서로 비슷하다.

십억 규모 4개 그래프에서 Sancus(8-GPU)와 DGL(SF)(1-GPU)는 모두 GPU OOM으로 실패하는 반면, DUCATI·MariusGNN·Quiver는 2080 Ti 한 장으로 문제없이 학습한다 — 풀배치 파이프라인은 전체 그래프와 은닉 표현을 GPU 메모리에 상주시켜야 하기 때문이다. Sancus는 다중 GPU 분산으로 확장성을 높이지만 비싼 GPU 간 통신 탓에 처리량 유지를 위해 신선도 저하(staleness)를 도입하며, 이것이 눈에 띄는 정확도 하락으로 이어진다. 반대로 미니배치 시스템들은 이웃 샘플링으로 정확도를 확장성과 의도적으로 교환한다 — 샘플링이 이웃 정보 일부를 제거해 RD에서 DUCATI의 정확도가 Sancus보다 낮은 이유이자, 샘플된 미니배치만 GPU에 상주하면 되어 메모리 사용이 극적으로 줄어드는 이유다.

이 장은 대규모 그래프 GNN 학습의 확장성과 효율을 높이는 두 축을 제안했다. 특징 지향 샘플링(FOS)은 전통적 위상 지향 샘플링의 확장성을 저해하는 세 가지 근본 문제(무작위 접근, 깊이 결합 배치 증가, L-hop 제한 특징 활용)를 효과적으로 해소하며, 세 대표 아키텍처(GCN, GraphSAGE, GAT)에 적용해 4개 실세계 데이터셋(Reddit, Yelp, Ogbn-Products, Amazon)에서 전통 TOS 대비 동등 정확도로 2.2~7.9배의 학습 가속을 입증했다. DUCATI는 기존 시스템의 세 가지 핵심 결함 — 인접 지역성의 미활용, 가용 GPU 메모리의 저활용, 워크로드 간 낮은 적응성 — 을 Adj-Cache와 워크로드 인지형 Dual-Cache Allocator로 해결하며, 십억 규모 4개 데이터셋(Ogbn-Papers100M, UK-2006-05, Twitter, UK-Union)에서 DGL 대비 최대 3.33×(평균 2.07×), 최신 단일 캐시 대비 최대 1.54×(평균 1.32×)의 학습 시간 단축을 달성했다. 4개 선도 시스템과의 정확도–시간 트레이드오프 벤치마크는, 전체 학습 메모리 풋프린트가 GPU 용량은 초과하되 CPU 한계 내에 머무는 경우 DUCATI가 미니배치 GNN 학습의 가장 효과적인 해법임을 보여준다.