ICML 2026 SPIGM Technical Report
Diffusion · Flow Matching · Posterior Inference · Structured Generation · Scientific Sampling

Structured Probabilistic Inference

ICML 2026 SPIGM 워크숍의 논문군을 바탕으로 probability path, posterior score, structured coupling, reward alignment, diffusion language model, rare-event sampling, uncertainty calibration, scientific generative modeling과 adaptive inference를 하나의 연구지형으로 재구성한다.

Central Thesis

그럴듯한 표본 생성에서 검증 가능한 분포 이동으로

미래의 생성모델은 단순히 현실적인 표본을 만드는 모델이 아니라, 구조와 조건을 이해하고 불확실성을 정량화하며 제한된 계산예산 안에서 목표분포로 확률질량을 이동시키는 추론시스템이다.
Research Scope
200+공식 채택 논문
6Contributed Talks
10핵심 연구축
15미래 연구방향
00

검토 범위와 분석 원칙

공식 워크숍 페이지, 채택 논문 목록, OpenReview, arXiv와 공개 구현을 교차 검토하고 probability-path와 structure-aware inference 중심으로 재구성한다.

Coverage

전체 논문군

Diffusion, flow, bridge, posterior, reward, discrete LM, Monte Carlo, geometry, science를 포함한다.

Method

통합 확률경로 관점

방법명보다 coupling, score, velocity, estimator, solver, uncertainty의 공통구조를 분석한다.

Caveat

재현성 유의

일부 수치는 preprint와 저자 보고이며 sampler, solver, NFE, seed와 precision에 따라 달라질 수 있다.

01

전체 연구 지형

SPIGM은 확률모델을 단순 generator가 아니라 구조, 관측, reward, geometry와 compute budget을 처리하는 programmable inference system으로 확장한다.

Unified PathsDiffusionFlow matchingStochastic interpolants
Posterior InferenceInverse problemsBayesian samplingConditional score
Structured GenerationGraphsMoleculesTime series3D
Reward AlignmentScore matchingSteeringDistribution tilting
Diffusion LMMasked diffusionAny-order decodingLogical order
SamplingMCMCSMCImportance samplingTempering
GeometryManifoldFisherWassersteinOT
UncertaintyCalibrationConformalAgent UQ
Scientific ModelsProteinsWeatherBrainReaction paths
Efficient InferenceFew-stepCachingDistillationAdaptive stopping
Structure & ObservationProbability PathCoupling Score / VelocityAdaptive SamplerCalibration & Verification
02

Definition

Structured probabilistic inference를 구조, 조건, geometry, posterior, reward, uncertainty와 sampling budget을 통합하는 확률적 추론문제로 정의한다.

Inference

Structured Probabilistic Inference

관측과 구조를 이용해 latent posterior를 계산하거나 근사한다.

Generation

Structured Generative Modeling

현실적인 표본뿐 아니라 graph, geometry, time, physics constraint를 만족해야 한다.

Score Model

Score-Based Generative Model

Noise level별 log-density gradient를 학습해 reverse process를 구성한다.

Flow

Flow Matching

Source에서 target으로 확률질량을 운반하는 velocity field를 학습한다.

Interpolant

Stochastic Interpolant

Diffusion, flow, bridge를 하나의 확률경로로 통합한다.

Posterior

Posterior Score

Prior score와 observation likelihood를 결합해 conditional sampling을 수행한다.

Reward

Reward-Aligned Distribution

Base distribution을 reward로 exponential tilt한다.

Coupling

Structured Coupling

Source와 target pairing에 latent structure와 representation을 부여한다.

Language

Diffusion Language Model

Token sequence를 masking과 iterative denoising으로 복원한다.

Calibration

Probabilistic Calibration

Confidence, reward, judge score와 실제 correctness의 일치를 평가한다.

Posterior: p(x | y) = p(y | x)p(x) / ∫ p(y | x)p(x) dx Score: sθ(x,t) ≈ ∇x log pt(x) Flow: dx/dt = vθ(x,t) Reward tilt: pr(x) ∝ p0(x) exp(β r(x))
03

Problem Definition

구조, 조건, 제약, uncertainty를 보존하면서 정확하고 효율적으로 분포를 학습·조건화·샘플링·제어해야 한다.

Problem A

Prior–Posterior Gap

강력한 unconditional prior를 downstream posterior로 정확히 변환해야 한다.

Problem B

Reward–Distribution Gap

Reward를 높이는 것이 원하는 distribution으로 이동했다는 뜻은 아니다.

Problem C

Structure–Fidelity Gap

해석 가능한 latent structure와 높은 sample quality를 동시에 달성해야 한다.

Problem D

Train–Inference Mismatch

Forward corruption state와 sampler-generated reverse state가 다르다.

Problem E

Conditional-Inference Gap

Future-conditioned denoising과 실제 prefix-conditioned generation 사이 entropy gap이 존재한다.

Problem F

Logical-Order–Confidence Gap

Local confidence 순서가 실제 reasoning dependency와 다를 수 있다.

Problem G

Factorization Gap

동시 생성변수 사이 dependency를 독립으로 가정하면 coherence가 감소한다.

Problem H

Rare-Event Sampling Gap

낮은 확률영역을 탐색하면서 unbiased statistics를 유지해야 한다.

Problem I

Partial-Observation Gap

과거·미래의 임의 subset observation을 하나의 path-space model로 처리해야 한다.

Problem J

Uncertainty–Decision Gap

좋은 predictive distribution이 반드시 좋은 downstream decision을 보장하지 않는다.

Objective: min D(pθ, p*) + λ SamplingCost + μ TrainingCost + ν MiscalibrationRisk + ρ ConstraintViolationRisk
04

Core Concepts

Probability path, score–flow duality, coupling, bridge, amortized inference, factorization, geometry, reward guidance, exact reweighting, adaptive computation이 핵심이다.

Probability Path

Source에서 target까지의 분포경로를 정의하며 학습목표와 solver를 결정한다.

Score–Flow Duality

Score와 velocity는 동일 marginal evolution을 다른 parameterization으로 표현한다.

Coupling

Source–target pairing이 transport distance, path curvature, latent interpretability를 결정한다.

Diffusion Bridge

시작·끝·중간 observation을 만족하는 stochastic process를 구성한다.

Amortized Inference

반복되는 posterior 계산비용을 neural sampler에 미리 학습시킨다.

Message Passing & Factorization

Factor graph 구조를 이용해 국소 score와 posterior dependency를 계산한다.

Geometry-Aware Modeling

Manifold, Fisher, hyperbolic, Wasserstein geometry에 맞는 경로를 사용한다.

Reward Guidance

Base distribution을 reward로 tilt하되 off-manifold movement를 감시한다.

Exact Reweighting

Biased rare-event sampling 뒤 importance weight로 unbiased statistic을 복원한다.

Trajectory-Level Diagnostics

Endpoint가 아니라 전체 denoising path에서 mismatch와 error accumulation을 분석한다.

Adaptive Computation

Sample별 uncertainty와 budget에 따라 step, cache, particle, verifier를 조절한다.

05

Introduction

생성모델 연구는 unconditional generation에서 conditional, structured, posterior-aware, foundation-model inference, programmable distribution system으로 발전한다.

Stage 1

Unconditional Generation

Noise에서 이미지, 텍스트, 분자 표본을 생성한다.

Stage 2

Conditional Generation

Class, text, observation, property를 조건으로 사용한다.

Stage 3

Structured Generation

Graph, time, geometry, factorization, physical law를 직접 반영한다.

Stage 4

Posterior & Decision-Aware

관측과 reward가 주어진 posterior 또는 utility-optimal distribution을 생성한다.

Stage 5

Foundation-Model Inference

LLM·VLM·VLA의 decoding, uncertainty, reasoning을 probabilistic inference로 다룬다.

Stage 6

Programmable Distribution System

구조, 제약, observation, reward, geometry, budget specification으로 inference pipeline을 구성한다.

06

Motivation and Background

생성품질의 한계, foundation model의 확률성, rare-event 중요성, inductive bias, iterative sampling 비용이 연구를 촉진한다.

생성품질만으로 부족

FID와 perplexity가 높아도 posterior, calibration, physical validity, coverage가 틀릴 수 있다.

Foundation Model은 확률모델

Decoding, self-consistency, judge score와 uncertainty는 후보분포 생성·선택 과정이다.

Rare Event의 과학적 중요성

Protein folding, reaction state, extreme weather와 crisis는 낮은 확률영역에 존재한다.

Structured Data의 Inductive Bias

Graph, manifold, causal DAG, temporal bridge를 직접 인코딩해야 data efficiency와 validity가 높아진다.

Iterative Sampling 비용

Denoising step을 줄이면 latency는 감소하지만 bias, collapse, mismatch가 증가할 수 있다.

07

Challenges

Exactness, structure, reward, train–inference mismatch, factorization, rare events, geometry, calibration, scientific validity, reproducibility가 핵심 난제다.

도전과제핵심 문제요구되는 연구방향
Exactness–ScalabilityExact posterior와 likelihood 계산이 비쌈구조 활용, amortization, controlled approximation
Structure–Fidelity강한 구조제약이 sample quality를 낮출 수 있음Soft constraint, adaptive factorization
Reward HackingReward 증가가 원하는 분포 이동을 의미하지 않음Independent audits, manifold validity
Train–Inference MismatchTraining state와 sampler state가 다름Trajectory diagnostics, sampler-aware training
Factorization Barrier병렬 token 사이 dependency가 무시됨Joint factor, latent variable, MCMC refinement
Rare-Event DegeneracyImportance weight가 소수 sample에 집중Overlap diagnostics, adaptive bias
Geometry MismatchEuclidean path가 manifold를 벗어남Riemannian, Fisher, OT geometry
Conditional Combinatorics임의 subset conditioning 비용 폭발Bridge, factor graph, cached marginalization
CalibrationProbability·reward·judge score와 correctness 불일치Conformal·Bayesian calibration
Scientific Validity현실적인 sample이 물리적으로 틀릴 수 있음Simulator·energy·constraint-in-the-loop
Discrete Diffusion OrderingConfidence 순서가 논리순서와 다름Dependency-aware decoding
Low-Step BiasFew-step sampler가 base marginal에서 이탈Path distillation and regularization
EvaluationPerplexity·FID가 diversity와 structure를 놓침Multi-metric distributional evaluation
Uncertainty CostEnsemble·posterior sampling 비용이 큼Black-box UQ, scalable Bayesian MC
ReproducibilitySolver·schedule·precision 차이가 큼Path·solver·budget 표준 보고
08

Research Questions

통합 probability-path 표현, exact posterior, structure encoding, reward hacking, logical decoding, rare-event, uncertainty, scientific certification을 중심으로 정리된다.

RQ1

Diffusion, flow, stochastic interpolant의 최소 공통 표현은 무엇인가?

RQ2

Exact posterior score를 nonlinear·non-Gaussian 문제로 확장할 수 있는가?

RQ3

구조를 prior, coupling, architecture, objective, sampler 중 어디에 인코딩해야 하는가?

RQ4

Reward alignment가 언제 reward hacking으로 전환되는가?

RQ5

Diffusion LM의 최적 생성순서는 무엇인가?

RQ6

Train–inference gap을 online으로 측정하고 제어할 수 있는가?

RQ7

과거·미래의 임의 subset observation을 범용적으로 조건화할 수 있는가?

RQ8

Few-step sampler는 원래 분포를 어느 정도 보존하는가?

RQ9

Sequence probability는 언제 correctness와 정렬되는가?

RQ10

Rare region을 탐색하면서 unbiased estimator를 유지하려면 어떤 bias가 필요한가?

RQ11

Factor graph 구조를 score model에 얼마나 강하게 강제해야 하는가?

RQ12

Likelihood, epistemic uncertainty, structural invalidity를 분리할 수 있는가?

RQ13

Foundation model reasoning을 Bayesian latent process로 모델링할 수 있는가?

RQ14

Train-time와 inference-time compute를 어떻게 배분해야 하는가?

RQ15

과학 생성결과의 thermodynamic·physical·causal validity를 인증할 수 있는가?

09

Approaches / Methods

대표 연구를 posterior, reward, flow, language, rare-event, structure, uncertainty, efficiency 기준으로 필터링해 탐색할 수 있다.

Oral

Reward Score Matching

여러 diffusion·flow reward fine-tuning을 value-guided target score matching으로 통합한다.

Oral

Exact Posterior Score

선형 Gaussian inverse problem의 posterior score를 shifted anisotropic denoising으로 환원한다.

Oral

When Are Likely Answers Right?

Sequence probability의 dataset-level calibration과 same-prompt ranking을 분리한다.

Oral

Structured Coupling for Flow Matching

Structured latent prior와 recognition network로 representation과 transport를 공동학습한다.

Oral

ABC: Any-Subset Autoregression

Continuous SDE와 non-Markovian bridge로 과거·미래 임의 subset을 조건화한다.

Oral

Enhanced Diffusion Sampling

Diffusion-based bias와 exact reweighting으로 rare event와 free energy를 추정한다.

Refinement

Iterative Reward-Guided Refinement

Discrete diffusion intermediate state에 MCMC refinement를 반복한다.

Diagnostics

Mirror Gap Control

Forward marginal과 reverse sampler marginal 사이의 train–inference gap을 추정한다.

Reasoning

The Confidence Shortcut

Local confidence order와 logical dependency order의 불일치를 분석한다.

Graphical Model

Factored Score Matching

Factor graph의 국소 dependency와 message passing을 score architecture에 반영한다.

Agent UQ

Black-Box Agent Uncertainty

Reasoning trajectory의 semantic abstraction pattern으로 failure를 예측한다.

Caching

Budget-Aware Diffusion Caching

목표 compute budget에 따라 feature recomputation schedule을 학습한다.

Kernel

Kernelized Stochastic Interpolants

Feature map과 선형시스템으로 비모수 drift를 계산한다.

Inverse

Observation-Aware Posterior Sampling

Operator와 noise structure를 prior score와 결합한다.

Few-Step

Flow Distillation & Adaptive Stopping

고정 step을 줄이면서 path bias와 uncertainty를 제어한다.

대표 연구핵심 설계연구적 의미
Reward Score MatchingBase score + value guidanceReward alignment 방법을 공통 score target으로 통합
Exact Posterior ScoreShifted pivot + anisotropic covarianceHeuristic guidance를 posterior-specific denoising으로 대체
Structured CouplingLatent prior + recognition + flowGenerative fidelity와 representation structure를 공동학습
ABCPhysical-time SDE + any-subset bridge불규칙 observation을 path-space inference로 처리
Enhanced Diffusion SamplingBias + exact reweightingRare-event exploration과 unbiased statistics 결합
Mirror GapForward vs reverse state diagnosticEndpoint 평가를 trajectory control로 확장
Confidence ShortcutConfidence order vs dependency orderDiffusion reasoning의 구조적 failure를 설명
Factored Score MatchingMRF locality + message passingGeneric attention을 구조적 inductive bias로 대체
10

Key Applications

영상 역문제, 분자·신약개발, diffusion LM, 영상·시계열·기상, 그래프·3D, agent uncertainty와 과학 시뮬레이션에 적용된다.

영상 역문제

Deblurring, super-resolution, inpainting, MRI·CT, compressive sensing.

분자·신약개발

Conformer, folding landscape, binding·free energy, reaction path, property-conditioned design.

Diffusion Language Model

Any-order generation, parallel decoding, logical order, remasking, exact likelihood.

영상·시계열·기상

Frame interpolation, video generation, imputation, extreme-event sequence, weather forecasting.

그래프·3D

Molecular graph, DAG, voxel, SLAM, point process, irregular-domain PDE.

불확실성 기반 Agent

Failure prediction, selective prediction, abstention, judge reliability, reasoning posterior.

과학 시뮬레이션

Brain inversion, turbulence, molecular dynamics, proteomics, phylogeny, reaction dynamics.

11

Open Problems

Exact posterior, universal structure interface, reward certification, train–inference co-design, rare-event degeneracy, black-box UQ와 reproducible sampler reporting이 미해결이다.

Exact Posterior beyond Linear Gaussian

Nonlinear operator, heavy-tailed noise, discrete observation으로 확장해야 한다.

Universal Structure Interface

Graph, manifold, sequence, DAG, physical law를 하나의 API로 표현해야 한다.

Reward Alignment Certification

Reward 증가와 실제 target-distribution 이동을 구분해야 한다.

Train–Inference Co-Design

Corruption, decoding order, sampler state를 공동설계해야 한다.

Logical-Dependency-Aware LM

Task별 reasoning dependency를 자동발견하고 decoding에 반영해야 한다.

Factorized Joint Generation

병렬성을 유지하면서 동시 변수 dependency를 보존해야 한다.

Rare-Event Weight Degeneracy

강한 bias에서도 effective sample size를 유지해야 한다.

Manifold Misspecification

잘못된 geometry prior에 대한 robustness를 분석해야 한다.

Calibrated Generative Evaluation

FID, reward, perplexity, likelihood, preference가 충돌할 때 기준이 필요하다.

AR–Diffusion Hybridization

두 방식의 장점을 결합하되 학습·서빙 복잡성을 제한해야 한다.

Adaptive Inference Budget

난이도와 uncertainty에 따라 step, particle, verifier, cache를 할당해야 한다.

Scientific Validity Certificate

분자·trajectory·물리장이 법칙과 관측을 만족한다는 certificate가 필요하다.

Black-Box Foundation-Model UQ

Logit과 activation 접근 없이 uncertainty를 추정해야 한다.

Cross-Modal Structured Latent Space

Text, image, molecule, graph, time series를 하나의 geometry로 연결해야 한다.

Reproducible Sampler Reporting

Solver, timestep, guidance, cache, precision의 표준 보고가 필요하다.

12

Future Directions

미래 SPIGM은 structured generative OS, posterior-first foundation model, structure compiler, mirror controller, logical graph decoding과 scientific certificate로 발전한다.

1. Structured Generative Operating System

Probabilistic Task Specification ├─ Data modality ├─ Factor / graph structure ├─ Geometry ├─ Observations ├─ Physical constraints ├─ Reward or utility ├─ Uncertainty target ├─ Sampling budget └─ Required certificate ↓ Path & coupling compiler ↓ Score / flow / bridge / MCMC engine ↓ Adaptive sampler ↓ Verifier & calibration layer

2. Posterior-First Foundation Models

pθ(x | y, A, Σ)

다양한 observation operator를 native하게 수용한다.

3. Structure Compiler

Domain knowledge ↓ Variables and factors ↓ Symmetry and geometry ↓ Conditional independences ↓ Message-passing / score architecture ↓ Sampling schedule

4. Reward Alignment Certificate

Certificate = (Δreward, D(pr,p0), IndependentValidity, CollapseRisk)

5. Train–Inference Mirror Controller

at = π(MirrorGap, Entropy, RemainingBudget)

6. Logical Graph Decoding

Prompt ↓ Latent dependency graph ↓ Ready-variable identification ↓ Parallel unmasking ↓ Dependency update ↓ Final sequence

7. Rare-Event Generative Observatory

Free-energy coverage, effective sample size, transition-state recall, reweighting variance를 지속 관측한다.

8. Geometry-Adaptive Probability Paths

v*t = argminv [TransportCost + λ Curvature + μ ConstraintViolation]

9. Hybrid Autoregressive–Diffusion LM

Autoregressive planner ↓ Dependency skeleton ↓ Diffusion parallel filler ↓ MCMC / verifier correction ↓ Autoregressive consistency pass

10. Probabilistic Reasoning Monitor

P(zt = correct reasoning state | h≤t)

11. Simulator-in-the-Loop Generation

Generator ↓ Candidate scientific state ↓ Simulator / energy / conservation checker ↓ Validity and residual ↓ Posterior correction or retraining

12. Budgeted Distributional Inference

A*(B) = argmaxA Quality(A) subject to Cost(A) ≤ B

13. Calibrated Generative Benchmark

Metrics = (Fidelity, Coverage, Structure, Calibration, PhysicalValidity)

14. Cross-Model Probabilistic Interoperability

Score, density ratio, velocity, reward, constraint residual, uncertainty, sample weight를 공통객체로 교환한다.

15. SPIGM Reproducibility Protocol

Target distribution, path, coupling, objective, solver, budget, conditioning, metrics, uncertainty, failure case, artifact를 표준화한다.

13

Conclusion

SPIGM은 비구조적 생성에서 구조 인식 생성, unconditional prior에서 posterior inference, endpoint 평가에서 trajectory diagnosis로 연구목표를 이동시킨다.

Shift 1

비구조적 생성 → 구조 인식 생성

Graph, manifold, time, factorization, physical law가 probability path 내부로 들어간다.

Shift 2

Unconditional Prior → Posterior Inference

Pretrained model은 다양한 observation과 제약을 수용하는 probabilistic prior가 된다.

Shift 3

분리된 방법 → 통합 Path Theory

방법명보다 coupling, score, velocity, estimator, solver가 중요해진다.

Shift 4

Reward 최대화 → Distributional Alignment

Base distribution, validity, diversity, reward hacking을 함께 평가한다.

Shift 5

Endpoint 평가 → Trajectory 진단

Mismatch, shortcut, collapse, error accumulation을 경로 전체에서 분석한다.

Shift 6

고정 비용 → Adaptive Inference

Step, cache, particle, MCMC, verifier를 uncertainty에 따라 조절한다.

Shift 7

생성모델 → 과학적 추론엔진

Rare-event exploration, posterior estimation, scientific decision support로 확장된다.

Structured Generative Intelligence = Probability-Path Design + Structure-Aware Inference + Calibrated Uncertainty + Adaptive Sampling + Scientific Verification
14

Sources

공식 워크숍, 전체 채택 논문, oral 대표 논문, diffusion language model, 공개 구현의 원문 링크.